Si bien la mayoría de los algoritmos funcionan casi perfectamente por sí solos, Peter Grantcharov explica que la caja negra del quirófano todavía no es completamente autónoma. Por ejemplo, es difícil capturar audio a través de micrófonos de techo y así obtener una transcripción confiable para documentar si se completaron todos los elementos de la lista de verificación de seguridad quirúrgica estima que este algoritmo tiene una tasa de mistake del 15%. Entonces, antes de finalizar el resultado de cada procedimiento, uno de los analistas de Toronto verifica manualmente el cumplimiento del cuestionario. “Se necesitará un ser humano al tanto”, dice Peter Grantcharov, pero considera que el modelo de IA ha hecho que el proceso de confirmación del cumplimiento de la lista de verificación sea entre un 80% y un 90% más eficiente. También destaca que los modelos se mejoran constantemente.

En overall, la instalación de la caja negra del quirófano puede costar unos 100.000 dólares, y los gastos de análisis ascienden a 25.000 dólares al año, según Janet Donovan, una enfermera de quirófano que compartió con Revisión de tecnología del MIT una estimación proporcionada al particular del Hospital Brigham and Women’s Faulkner en Massachusetts. (Peter Grantcharov se negó a comentar sobre estas cifras y escribió en un correo electrónico: “No compartimos precios específicos sin embargo, podemos decir que se basa en la combinación de productos y el número complete de habitaciones, con descuentos inherentes basados ​​en el volumen creados en nuestros modelos de precios”).

“El hermano mayor está mirando”

El Centro Médico Judío de Extended Island en Nueva York, parte del sistema Northwell Wellbeing, fue el primer healthcare facility en poner a prueba las cajas negras del quirófano, en febrero de 2019. La implementación estuvo lejos de ser fluida, aunque no necesariamente debido a la tecnología.

“En la sala colorrectal, las cámaras fueron saboteadas”, recuerda el catedrático de urología de Northwell, Louis Kavoussi: se les dio la vuelta y se desconectaron deliberadamente. En su propio quirófano, el individual guardó silencio mientras trabajaba, temiendo decir algo incorrecto. “A menos que esté tomando una lección de golfing o tenis, no querrá que alguien se quede mirando todo lo que hace”, dice Kavoussi, quien desde entonces se unió al consejo asesor científico de Surgical Safety Technologies.

Las promesas de Grantcharov de no utilizar el sistema para castigar a individuos han ofrecido poco consuelo a parte del private de quirófano. Cuando se instalaron dos cajas negras en el Medical center Faulkner en noviembre de 2023, pusieron en crisis al departamento de cirugía. “Todo el mundo estaba bastante asustado por esto”, dice una técnica quirúrgica que pidió no ser identificada por su nombre ya que no estaba autorizada a hablar públicamente. “Estábamos siendo observados y sentíamos que si hacíamos algo mal, nuestros trabajos estarían en juego”.

No period que estuviera haciendo algo ilegal o lanzando discursos de odio sólo quería bromear con sus amigos, quejarse del jefe y ser ella misma sin miedo a que los administradores la miraran por encima del hombro. “Eres muy consciente de que te están vigilando no es nada sutil”, dice. Los primeros días fueron particularmente desafiantes, con los cirujanos negándose a trabajar en las salas equipadas con cajas negras y el personal de quirófano boicoteando esas operaciones: “Definitivamente era una pelea cada mañana”.

En cierto nivel, las protecciones de identidad son sólo medidas a medias. Grantcharov reconoce que antes de que las grabaciones de hace 30 días se eliminen automáticamente, los administradores del clinic aún pueden ver el número de quirófano, la hora de la operación y el número de historia clínica del paciente, por lo que incluso si el private de quirófano técnicamente no está identificado, no lo está. verdaderamente anónimo. El resultado es una sensación de que “el Gran Hermano está observando”, dice Christopher Mantyh, vicepresidente de operaciones clínicas del Hospital de la Universidad de Duke, que tiene cajas negras en siete quirófanos. Se basará en datos agregados para hablar en common sobre la mejora de la calidad en las reuniones departamentales, pero cuando surjan problemas específicos, como interrupciones en la esterilidad o un grupo de infecciones, buscará las grabaciones y “irá directamente a los cirujanos”.

En muchos sentidos, eso es lo que preocupa a Donovan, la enfermera del Healthcare facility Faulkner. No está convencida de que el medical center proteja las identidades de los miembros del personal y le preocupa que estas grabaciones se utilicen en su contra, ya sea a través de acciones disciplinarias internas o en una demanda por negligencia de un paciente. En febrero de 2023, ella y casi 60 personas más enviaron una carta al jefe de cirugía del medical center objetando la caja negra. Desde entonces, presentó una queja ante el estado y el procedimiento de arbitraje está programado para octubre.