La IA sesgada puede ser perjudicial para la salud: aquí se explica cómo promover la imparcialidad algorítmica
Crédito: CC0 Public Domain
La inteligencia artificial es muy prometedora para mejorar la salud humana al ayudar a los médicos a realizar diagnósticos y decisiones de tratamiento precisos. También puede dar lugar a una discriminación que puede perjudicar a las minorías, las mujeres y las personas económicamente desfavorecidas.
La pregunta es, cuando los algoritmos de atención médica discriminan, ¿qué recurso tiene la gente?
Un ejemplo destacado de este tipo de discriminación es un algoritmo utilizado para derivar pacientes con enfermedades crónicas a programas que atienden a pacientes de riesgo. Un estudio realizado en 2019 encontró que el algoritmo favorecía a los blancos sobre los afroamericanos más enfermos en la selección de pacientes para estos servicios beneficiosos. Esto se debe a que utilizó los gastos médicos pasados como indicador de las necesidades médicas.
La pobreza y la dificultad para acceder a la atención médica a menudo impiden que los afroamericanos gasten tanto dinero en atención médica como los demás. El algoritmo malinterpretó su bajo gasto como una indicación de que estaban sanos y los privó del apoyo que tanto necesitaban.
Como profesor de derecho y bioética, analicé este problema e identifiqué formas de abordarlo.
Cómo discriminan los algoritmos
¿Qué explica el sesgo algorítmico? La discriminación histórica a veces está integrada en los datos de entrenamiento y los algoritmos aprenden a perpetuar la discriminación existente.
Por ejemplo, los médicos a menudo diagnostican la angina y los ataques cardíacos en función de los síntomas que experimentan los hombres con más frecuencia que las mujeres. En consecuencia, las mujeres están infradiagnosticadas de enfermedades cardíacas. Un algoritmo diseñado para ayudar a los médicos a detectar afecciones cardíacas que se entrena en datos de diagnóstico históricos podría aprender a centrarse en los síntomas de los hombres y no en los de las mujeres, lo que exacerbaría el problema de subdiagnosticar a las mujeres.
Además, la discriminación por IA puede ser radica en supuestos erróneos, como en el caso del algoritmo del programa de atención de alto riesgo.
En otro caso, la empresa de software de registros médicos electrónicos Epic creó una herramienta basada en inteligencia artificial para ayudar a los consultorios médicos a identificar a los pacientes que probablemente no acudan a sus citas. Permitió a los médicos realizar doble reserva de posibles visitas de no presentación para evitar la pérdida de ingresos. Debido a que una variable principal para evaluar la probabilidad de no presentarse fueron las citas perdidas anteriores, la IA identificó de manera desproporcionada a las personas económicamente desfavorecidas.
Estas son personas que a menudo tienen problemas con el transporte, el cuidado de los niños y faltan al trabajo. Cuando llegaban a las citas, los médicos tenían menos tiempo para estar con ellos debido a la doble reserva.
Algunos algoritmos se ajustan explícitamente a la raza. Sus desarrolladores revisaron los datos clínicos y concluyeron que, en general, los afroamericanos tienen diferentes riesgos de salud y resultados de los demás, por lo que incorporaron ajustes en los algoritmos con el objetivo de hacerlos más precisos.
Pero los datos en los que se basan estos ajustes suelen ser obsoletos, sospechosos o sesgados. Estos algoritmos pueden hacer que los médicos diagnostiquen erróneamente a los pacientes negros y desvíen recursos de ellos.
Por ejemplo, la puntuación de riesgo de insuficiencia cardíaca de la American Heart Association, que va de 0 a 100, agrega 3 puntos para los no negros. Por lo tanto, identifica a los pacientes que no son negros como más propensos a morir de enfermedades del corazón. De manera similar, un algoritmo de cálculos renales agrega 3 de 13 puntos a los no negros, evaluándolos así como más propensos a tener cálculos renales. Pero en ambos casos las suposiciones estaban equivocadas. Aunque estos son algoritmos simples que no necesariamente se incorporan a los sistemas de IA, los desarrolladores de IA a veces hacen suposiciones similares cuando desarrollan sus algoritmos.
Los algoritmos que se ajustan a la raza pueden estar basados en generalizaciones inexactas y podrían engañar a los médicos. El color de la piel por sí solo no explica los diferentes riesgos o resultados para la salud. En cambio, las diferencias suelen atribuirse a factores genéticos o socioeconómicos, que es lo que deben ajustar los algoritmos.
Además, casi el 7 % de la población es de ascendencia mixta. Si los algoritmos sugieren diferentes tratamientos para afroamericanos y no negros, ¿cómo deben los médicos tratar a los pacientes multirraciales?
Promover la equidad algorítmica
Hay varias vías para abordar el sesgo algorítmico: litigio, regulación, legislación y mejores prácticas.
- Litigio de impacto desigual: el sesgo algorítmico no constituye discriminación intencional. Es probable que los desarrolladores de IA y los médicos que usan IA no tengan la intención de lastimar a los pacientes. En cambio, la IA puede llevarlos a discriminar involuntariamente al tener un impacto dispar en las minorías o las mujeres. En los campos del empleo y la vivienda, las personas que sientan que han sufrido discriminación pueden demandar por discriminación de impacto desigual. Pero los tribunales han determinado que las partes privadas no pueden demandar por impacto desigual en casos de atención médica. En la era de la IA, este enfoque tiene poco sentido. A los demandantes se les debe permitir demandar por prácticas médicas que resulten en discriminación no intencional.
- Reglamento de la FDA: la Administración de Alimentos y Medicamentos (FDA, por sus siglas en inglés) está investigando cómo regular la IA relacionada con la atención de la salud. Actualmente está regulando algunas formas de IA y no otras. En la medida en que la FDA supervise la IA, debe asegurarse de que los problemas de sesgo y discriminación se detecten y aborden antes de que los sistemas de IA reciban la aprobación.
- Ley de responsabilidad algorítmica: en 2019, los senadores Cory Booker y Ron Wyden y la representante Yvette D. Clarke introdujeron la Ley de responsabilidad algorítmica. En parte, habría requerido que las empresas estudiaran los algoritmos que utilizan, identificaran los sesgos y corrigieran los problemas que descubrieran. El proyecto de ley no se convirtió en ley, pero allanó el camino para una legislación futura que podría tener más éxito.
- Hacer IA más justas: los desarrolladores y usuarios de IA médica pueden priorizar la justicia algorítmica. Debería ser un elemento clave en el diseño, validación e implementación de sistemas médicos de IA, y los proveedores de atención médica deberían tenerlo en cuenta al elegir y usar estos sistemas.
La IA es cada vez más frecuente en la salud cuidado. La discriminación por IA es un problema grave que puede dañar a muchos pacientes, y es responsabilidad de quienes están en los campos de la tecnología y el cuidado de la salud reconocerlo y abordarlo.
Explore más
Se descubrió que el algoritmo de predicción de atención médica ampliamente utilizado está sesgado contra los negros Proporcionado por The Conversation
Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.
Cita: La IA sesgada puede ser mala para su salud: cómo promover la justicia algorítmica (2021, 9 de marzo) consultado el 30 de agosto de 2022 en https://medicalxpress.com/news/2021-03 -biased-ai-bad-healthhere-algorithmic.html Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.