Getty Images
La inteligencia artificial (IA) se está moviendo rápidamente y se convertirá en una importante herramienta de apoyo en la atención clínica. La investigación sugiere que los algoritmos de IA pueden detectar melanomas y predecir futuros cánceres de mama.
Pero antes de que la IA pueda integrarse en el uso clínico de rutina, debemos abordar el desafío del sesgo algorítmico. Los algoritmos de IA pueden tener sesgos inherentes que podrían conducir a problemas de discriminación y privacidad. Los sistemas de IA también podrían estar tomando decisiones sin la supervisión o el aporte humano necesarios.
Un ejemplo de los efectos potencialmente dañinos de la IA proviene de un proyecto internacional cuyo objetivo es utilizar la IA para salvar vidas mediante el desarrollo de tratamientos médicos innovadores. En un experimento, el equipo invirtió su modelo de IA "bueno" para crear opciones para que un nuevo modelo de IA haga "daño".
En menos de seis horas de entrenamiento, el algoritmo de IA invertido generó decenas de miles de posibles agentes de guerra química, muchos más peligrosos que los agentes de guerra actuales. Este es un ejemplo extremo relacionado con los compuestos químicos, pero sirve como una llamada de atención para evaluar las consecuencias éticas conocidas y posiblemente desconocidas de la IA.
IA en la atención clínica
En medicina, tratamos con los datos más privados de las personas y, a menudo, con decisiones que cambian la vida. Los marcos sólidos de ética de la IA son imprescindibles.
La Proyecto Australiano de Epilepsia tiene como objetivo mejorar la vida de las personas y hacer que la atención clínica esté más disponible. Sobre la base de imágenes cerebrales avanzadas, información genética y cognitiva de miles de personas con epilepsia, planeamos usar IA para responder preguntas actualmente sin respuesta.
¿Continuarán las convulsiones de esta persona? ¿Qué medicamento es más efectivo? ¿Es la cirugía cerebral una opción de tratamiento viable? Estas son preguntas fundamentales que la medicina moderna lucha por abordar.
Como líder de IA de este proyecto, mi principal preocupación es que la IA avanza rápido y la supervisión regulatoria es mínima. Estos problemas son la razón por la que recientemente establecimos un marco ético por utilizar la IA como herramienta de apoyo clínico. Este marco pretende garantizar que nuestras tecnologías de IA sean abiertas, seguras y confiables, al tiempo que fomenta la inclusión y la equidad en la atención clínica.
Entonces, ¿cómo implementamos la ética de la IA en la medicina para reducir el sesgo y mantener el control sobre los algoritmos? El principio de la informática "si entra basura, sale basura" se aplica a la IA. Supongamos que recopilamos datos sesgados de muestras pequeñas. Es probable que nuestros algoritmos de IA estén sesgados y no sean replicables en otro entorno clínico.
No es difícil encontrar ejemplos de sesgos en los modelos de IA contemporáneos. Los modelos populares de lenguaje grande (ChatGPT, por ejemplo) y los modelos de difusión latente (DALL-E y Stable Diffusion) muestran cómo sesgos explícitos con respecto al género, la etnia y el nivel socioeconómico pueden ocurrir.
Los investigadores descubrieron que las indicaciones simples del usuario generan imágenes que perpetúan los estereotipos étnicos, de género y de clase. Por ejemplo, un mensaje para un médico genera mayormente imágenes de médicos varones, lo que no concuerda con la realidad, ya que aproximadamente la mitad de todos los médicos en los países de la OCDE son mujeres.
Implementación segura de IA médica
La solución para prevenir el sesgo y la discriminación no es trivial. Permitir la igualdad en la salud y fomentar la inclusión en los estudios clínicos son probablemente algunos de los soluciones primarias para combatir los sesgos en la IA médica.
De manera alentadora, la Administración de Alimentos y Medicamentos de EE. UU. propuso recientemente haciendo obligatoria la diversidad en ensayos clínicos. Esta propuesta representa un paso hacia estudios clínicos menos sesgados y basados en la comunidad.
Otro obstáculo para el progreso es la financiación limitada de la investigación. Los algoritmos de IA generalmente requieren cantidades sustanciales de datos, lo que puede ser costoso. Es crucial establecer mecanismos de financiación mejorados que proporcionen a los investigadores los recursos necesarios para recopilar datos clínicamente relevantes apropiados para las aplicaciones de IA.
También argumentamos que siempre debemos conocer el funcionamiento interno de los algoritmos de IA y comprender cómo llegan a sus conclusiones y recomendaciones. Este concepto a menudo se denomina "explicabilidad" en IA. Se relaciona con la idea de que los humanos y las máquinas deben trabajar juntos para obtener resultados óptimos.
Preferimos ver la implementación de la predicción en modelos como inteligencia "aumentada" en lugar de "artificial": los algoritmos deben ser parte del proceso y las profesiones médicas deben mantener el control de la toma de decisiones.
Además de fomentar el uso de algoritmos explicables, apoyamos la ciencia abierta y transparente. Los científicos deberían publicar los detalles de los modelos de IA y su metodología para mejorar la transparencia y la reproducibilidad.
¿Qué necesitamos en Aotearoa Nueva Zelanda para garantizar la implementación segura de la IA en la atención médica? Las preocupaciones sobre la ética de la IA están dirigidas principalmente por expertos en el campo. Sin embargo, las regulaciones específicas de IA, como la basada en la UE Ley de inteligencia artificial han sido propuestos, abordando estas consideraciones éticas.
La ley europea de IA es bienvenida y protegerá a las personas que trabajan dentro de una “IA segura”. El gobierno del Reino Unido lanzó recientemente su enfoque proactivo para la regulación de la IA, sirviendo como modelo para otras respuestas gubernamentales a la seguridad de la IA.
En Aotearoa, abogamos por adoptar una postura proactiva en lugar de reactiva para la seguridad de la IA. Establecerá un marco ético para el uso de la IA en la atención clínica y otros campos, produciendo una IA interpretable, segura e imparcial. En consecuencia, crecerá nuestra confianza en que esta poderosa tecnología beneficia a la sociedad mientras la protege de cualquier daño.
Sobre el Autor
Mangor Pedersen, Profesor Asociado de Psicología y Neurociencia, Universidad Tecnológica de Auckland
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
Libros relacionados:
El cuerpo lleva la cuenta: cerebro, mente y cuerpo en la curación del trauma
por Bessel van der Kolk
Este libro explora las conexiones entre el trauma y la salud física y mental, y ofrece ideas y estrategias para la curación y la recuperación.
Haga clic para obtener más información o para ordenar
Aliento: la nueva ciencia de un arte perdido
por James Nestor
Este libro explora la ciencia y la práctica de la respiración, y ofrece ideas y técnicas para mejorar la salud física y mental.
Haga clic para obtener más información o para ordenar
La paradoja de las plantas: los peligros ocultos en los alimentos "saludables" que causan enfermedades y aumento de peso
por Steven R. Gundry
Este libro explora los vínculos entre la dieta, la salud y la enfermedad, y ofrece ideas y estrategias para mejorar la salud y el bienestar en general.
Haga clic para obtener más información o para ordenar
El código de inmunidad: el nuevo paradigma para la salud real y el antienvejecimiento radical
por Joel Greene
Este libro ofrece una nueva perspectiva sobre la salud y la inmunidad, basándose en los principios de la epigenética y ofreciendo conocimientos y estrategias para optimizar la salud y el envejecimiento.
Haga clic para obtener más información o para ordenar
La guía completa para el ayuno: sana tu cuerpo a través del ayuno intermitente, en días alternos y prolongado
por el Dr. Jason Fung y Jimmy Moore
Este libro explora la ciencia y la práctica del ayuno y ofrece ideas y estrategias para mejorar la salud y el bienestar en general.
servicios sociales
