El uso de la IA para combatir el COVID-19 corre el riesgo de dañar a los ‘grupos desfavorecidos’, advierten los expertos
Crédito: Pixabay/CC0 Dominio público
El rápido despliegue de la inteligencia artificial y el aprendizaje automático para abordar el coronavirus aún debe pasar por controles y equilibrios éticos, o corremos el riesgo de dañar a comunidades ya desfavorecidas en la prisa por vencer la enfermedad.
Esto es lo que afirman los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (CFI) de la Universidad de Cambridge en dos artículos, publicados hoy en el British Medical Journal, que advierten contra el uso ciego de la IA para la recopilación de datos y la toma de decisiones médicas. mientras luchamos por recuperar algo de normalidad en 2021.
«Relajar los requisitos éticos en una crisis podría tener consecuencias dañinas no deseadas que duran mucho más allá de la vida de la pandemia», dijo el Dr. Stephen Cave, director de CFI y autor principal de uno de los artículos.
«La introducción repentina de una IA compleja y opaca, que automatiza los juicios que alguna vez hicieron los humanos y absorbe información personal, podría socavar la salud de los grupos desfavorecidos, así como la salud a largo plazo». confianza pública en la tecnología».
En otro artículo, en coautoría de la Dra. Alexa Hagerty de CFI, los investigadores destacan las posibles consecuencias que surgen de la IA que ahora toma decisiones clínicas a escala para predecir las tasas de deterioro de los pacientes que podrían no necesita ventilación, por ejemplo, si lo hace en base a datos sesgados.
Los conjuntos de datos utilizados para «entrenar» y refinar los algoritmos de aprendizaje automático están inevitablemente sesgados en contra de los grupos que acceden a los servicios de salud con menos frecuencia, como las comunidades étnicas minoritarias y aquellos de «nivel socioeconómico más bajo».
«COVID-19 ya ha tenido un impacto desproporcionado en las comunidades vulnerables. Sabemos que estos sistemas pueden discriminar, y cualquier sesgo algorítmico en el tratamiento de la enfermedad podría dar un golpe más brutal», dijo Hagerty.
En diciembre, se produjeron protestas cuando el algoritmo del Centro Médico de Stanford priorizó a los trabajadores a domicilio para la vacunación sobre aquellos en las salas de COVID.»Los algoritmos ahora se usan a escala local, nacional y global para definir la asignación de vacunas. En muchos casos, la IA juega un papel central para determinar quién está mejor posicionado para sobrevivir a la pandemia», dijo Hagerty.
«En una crisis de salud de esta magnitud, hay mucho en juego para la justicia y la equidad. «
Junto con sus colegas, Hagerty destaca el bien establecido «arrastre de discriminación» que se encuentra en la IA que utiliza la tecnología de «procesamiento del lenguaje natural» para recoger perfiles de síntomas de los registros médicos, lo que refleja y exacerba los prejuicios contra las minorías que ya están en el caso. notas.
Señalan que algunos hospitales ya usan estas tecnologías para extraer información de diagnóstico de una variedad de registros, y algunos ahora están usando esta IA para identificar síntomas de infección por COVID-19.
Del mismo modo, el uso de aplicaciones de seguimiento y localización crea el potencial para conjuntos de datos sesgados.Los investigadores escriben que, en el Reino Unido, más del 20 % de los mayores de 15 años carecen de las habilidades digitales esenciales, y hasta el 10 % de la población «subgrupos» no poseen teléfonos inteligentes.
«Ya sea que se originen fr Desde los registros médicos o las tecnologías cotidianas, los conjuntos de datos sesgados aplicados de una manera única para hacer frente a COVID-19 podrían resultar perjudiciales para quienes ya están en desventaja», dijo Hagerty.
En los artículos de BMJ, el Los investigadores señalan ejemplos como el hecho de que la falta de datos sobre el color de la piel hace que sea casi imposible que los modelos de IA produzcan cálculos precisos a gran escala de los niveles de oxígeno en la sangre. O cómo una herramienta algorítmica utilizada por el sistema penitenciario de EE. UU. para calibrar la reincidencia y que se ha demostrado que tiene prejuicios raciales se ha reutilizado para gestionar su riesgo de infección por COVID-19.
El Centro Leverhulme para el Futuro de la Inteligencia lanzó recientemente el primer Máster de ética en IA. Para Cave y sus colegas, el aprendizaje automático en la era COVID debe verse a través del prisma de la ética biomédica, en particular los «cuatro pilares».
El primero es la beneficencia. «El uso de la IA está destinado a salvar vidas, pero eso no debe usarse como una justificación general para establecer precedentes no deseados, como el uso generalizado de software de reconocimiento facial», dijo Cave.
En India, la tecnología biométrica los programas de identidad pueden estar vinculados a la distribución de vacunas, lo que plantea preocupaciones sobre la privacidad y la seguridad de los datos. Otros algoritmos de asignación de vacunas, incluidos algunos utilizados por la alianza COVAX, están impulsados por IA de propiedad privada, dice Hagerty. «Los algoritmos patentados dificultan mirar dentro de la ‘caja negra’ y ver cómo determinan las prioridades de las vacunas».
El segundo es la ‘no maleficencia’, o evitar daños innecesarios. Un sistema programado únicamente para preservar la vida no considerará tasas de ‘COVID largo’, por ejemplo. En tercer lugar, la autonomía humana debe ser parte del cálculo. Los profesionales deben confiar en las tecnologías y los diseñadores deben considerar cómo los sistemas afectan el comportamiento humano, desde las precauciones personales hasta las decisiones de tratamiento.
Finalmente, la IA basada en datos debe estar respaldada por ideales de justicia social. «Necesitamos involucrar a diversas comunidades y consultar a una variedad de expertos, desde ingenieros hasta equipos médicos de primera línea. Debemos ser abiertos sobre los valores y las compensaciones inherentes a estos sistemas», dijo Cave.
» La IA tiene el potencial de ayudarnos a resolver problemas globales, y la pandemia es, sin duda, uno de los principales. Pero confiar en una IA poderosa en este momento de crisis trae desafíos éticos que deben tenerse en cuenta para garantizar la confianza del público».
Explore más
Siga las últimas noticias sobre el brote de coronavirus (COVID-19) Más información: Uso ético de la IA para abordar el COVID-19, British Medical Journal (2021). DOI: 10.1136/bmj.n364
¿La «IA» significa aumentar la desigualdad en la era de la atención médica por COVID-19? Revista médica británica (2021). DOI: 10.1136/bmj.n304 Información de la revista: British Medical Journal (BMJ)