Un chatbot se vuelve hostil. Una versión de prueba de una aspiradora Roomba recopila imágenes de usuarios en situaciones privadas. Una mujer negra es identificada falsamente como sospechosa mediante un software de reconocimiento facial, que tiende a ser menos preciso a la hora de identificar a mujeres y personas de shade.

Estos incidentes no son sólo fallos técnicos, sino ejemplos de problemas más fundamentales. A medida que la inteligencia synthetic y las herramientas de aprendizaje automático se integran más en la vida diaria, aumentan las consideraciones éticas, desde cuestiones de privacidad y prejuicios raciales y de género en la codificación hasta la difusión de información errónea.

El público en standard depende de los ingenieros de application y los científicos informáticos para garantizar que estas tecnologías se creen de manera segura y ética. Como sociólogo y candidato a doctorado interesado en la ciencia, la tecnología, la ingeniería y la educación matemática, actualmente estamos investigando cómo los ingenieros en muchos campos diferentes aprenden y comprenden sus responsabilidades hacia el público.

Sin embargo, nuestra investigación reciente, así como la de otros académicos, apunta a una realidad preocupante: la próxima generación de ingenieros a menudo parece no estar preparada para lidiar con las implicaciones sociales de su trabajo. Es más, algunos parecen apáticos ante los dilemas morales que sus carreras pueden plantear, justo cuando los avances en la IA intensifican esos dilemas.

Consciente, pero no preparado

Como parte de nuestra investigación en curso, entrevistamos a más de 60 estudiantes de maestría en ingeniería eléctrica e informática en un importante programa de ingeniería en los Estados Unidos. Preguntamos a los estudiantes sobre sus experiencias con desafíos éticos en ingeniería, su conocimiento de los dilemas éticos en el campo y cómo responderían a escenarios en el futuro.

Primero, las buenas noticias: la mayoría de los estudiantes reconocieron los peligros potenciales de la IA y expresaron su preocupación por la privacidad private y el potencial de causar daño, por ejemplo, cómo los prejuicios raciales y de género pueden escribirse en algoritmos, intencionalmente o no.

Un estudiante, por ejemplo, expresó su consternación por el impacto ambiental de la IA y dijo que las empresas de IA están utilizando “cada vez más energía de efecto invernadero, (para) beneficios mínimos”. Otros discutieron preocupaciones sobre dónde y cómo se están aplicando la IA, incluso para tecnología militar y para generar información e imágenes falsificadas.

Sin embargo, cuando se le preguntó: “¿Se siente capacitado para responder en situaciones preocupantes o poco éticas?” Los estudiantes a menudo decían que no.

“Rotundamente no. … Da un poco de miedo”, respondió un estudiante. “¿Sabes a quién se supone que debo acudir?”

A otro le preocupaba la falta de formación: “Yo (estaría) lidiando con eso sin tener experiencia. … Quién sabe cómo reaccionaré”.

Otros investigadores han descubierto de manera related que muchos estudiantes de ingeniería no se sienten satisfechos con la formación ética que reciben. La formación común suele hacer hincapié en los códigos de conducta profesionales, más que en los complejos factores sociotécnicos que subyacen a la toma de decisiones éticas. Las investigaciones sugieren que incluso cuando se les presentan escenarios o estudios de casos particulares, los estudiantes de ingeniería a menudo tienen dificultades para reconocer dilemas éticos.

‘Una casilla para marcar’

Los programas de ingeniería acreditados deben “incluir temas relacionados con responsabilidades profesionales y éticas” de alguna manera.

Sin embargo, rara vez se hace hincapié en la formación en ética en los planes de estudios formales. Un estudio que evaluó los planes de estudios universitarios de STEM en los EE. UU. encontró que la cobertura de las cuestiones éticas variaba mucho en términos de contenido, cantidad y seriedad con la que se presentaban. Además, un análisis de la literatura académica sobre la educación en ingeniería encontró que la ética a menudo se considera una formación no esencial.

Muchos profesores de ingeniería expresan su insatisfacción con la comprensión de los estudiantes, pero informan que sienten presión por parte de sus colegas de ingeniería y de los propios estudiantes para priorizar las habilidades técnicas en su limitado tiempo de clase.

En un estudio de 2018, los investigadores entrevistaron a más de 50 profesores de ingeniería y documentaron vacilaciones (y a veces incluso resistencia total) a la hora de incorporar cuestiones de bienestar público en sus clases de ingeniería. Más de una cuarta parte de los profesores que entrevistaron vieron la ética y los impactos sociales como algo ajeno al trabajo de ingeniería “true”.

Aproximadamente un tercio de los estudiantes que entrevistamos en nuestro proyecto de investigación en curso comparten esta aparente apatía hacia la formación en ética, refiriéndose a las clases de ética como “sólo una casilla para marcar”.

“Si pago dinero para asistir a clases de ética como ingeniero, me pondré furioso”, dijo uno.

Estas actitudes a veces se extienden a la forma en que los estudiantes ven el papel de los ingenieros en la sociedad. Un entrevistado en nuestro estudio real, por ejemplo, dijo que la “responsabilidad de un ingeniero es simplemente crear eso, diseñarlo y… decirle a la gente cómo usarlo. Los problemas (de mal uso) no son de su incumbencia”.

Una de nosotras, Erin Cech, siguió a un grupo de 326 estudiantes de ingeniería de cuatro universidades estadounidenses. Esta investigación, publicada en 2014, sugirió que los ingenieros en realidad se volvieron menos preocupados a lo largo de sus estudios sobre sus responsabilidades éticas y la comprensión de las consecuencias públicas de la tecnología. Siguiéndolos después de que dejaron la universidad, descubrimos que sus preocupaciones con respecto a la ética no se recuperaron una vez que estos nuevos graduados ingresaron a la fuerza laboral.

Incorporándose al mundo laboral

Cuando los ingenieros reciben formación en ética como parte de su carrera, parece funcionar.

Junto con la profesora de ingeniería Cynthia Finelli, realizamos una encuesta entre más de 500 ingenieros empleados. Los ingenieros que recibieron capacitación official en ética y bienestar público en la escuela tienen más probabilidades de comprender su responsabilidad hacia el público en sus roles profesionales y reconocer la necesidad de una resolución colectiva de problemas. En comparación con los ingenieros que no recibieron capacitación, tenían un 30 % más de probabilidades de haber notado un problema ético en su lugar de trabajo y un 52 % más de probabilidades de haber tomado medidas.

Más de una cuarta parte de estos ingenieros en ejercicio informaron haber encontrado una situación ética preocupante en el trabajo. Sin embargo, aproximadamente un tercio dijo que nunca había recibido capacitación en bienestar público, ni durante su educación ni durante su carrera.

Esta brecha en la educación ética plantea serias dudas sobre qué tan bien preparada estará la próxima generación de ingenieros para navegar por el complejo panorama ético de su campo, especialmente cuando se trata de IA.

Sin duda, la carga de velar por el bienestar público no la soportan únicamente los ingenieros, diseñadores y programadores. Las empresas y los legisladores comparten la responsabilidad.

Pero las personas que diseñan, prueban y perfeccionan esta tecnología son la primera línea de defensa del público. Creemos que los programas educativos les debemos a ellos –y al resto de nosotros– tomar en serio esta capacitación.