Cr\u00e9dito: CC0 Public Domain <\/p>\n
La inteligencia artificial es muy prometedora para mejorar la salud humana al ayudar a los m\u00e9dicos a realizar diagn\u00f3sticos y decisiones de tratamiento precisos. Tambi\u00e9n puede dar lugar a una discriminaci\u00f3n que puede perjudicar a las minor\u00edas, las mujeres y las personas econ\u00f3micamente desfavorecidas. <\/p>\n
La pregunta es, cuando los algoritmos de atenci\u00f3n m\u00e9dica discriminan, \u00bfqu\u00e9 recurso tiene la gente?<\/p>\n
Un ejemplo destacado de este tipo de discriminaci\u00f3n es un algoritmo utilizado para derivar pacientes con enfermedades cr\u00f3nicas a programas que atienden a pacientes de riesgo. Un estudio realizado en 2019 encontr\u00f3 que el algoritmo favorec\u00eda a los blancos sobre los afroamericanos m\u00e1s enfermos en la selecci\u00f3n de pacientes para estos servicios beneficiosos. Esto se debe a que utiliz\u00f3 los gastos m\u00e9dicos pasados como indicador de las necesidades m\u00e9dicas. <\/p>\n
La pobreza y la dificultad para acceder a la atenci\u00f3n m\u00e9dica a menudo impiden que los afroamericanos gasten tanto dinero en atenci\u00f3n m\u00e9dica como los dem\u00e1s. El algoritmo malinterpret\u00f3 su bajo gasto como una indicaci\u00f3n de que estaban sanos y los priv\u00f3 del apoyo que tanto necesitaban.<\/p>\n
Como profesor de derecho y bio\u00e9tica, analic\u00e9 este problema e identifiqu\u00e9 formas de abordarlo.<\/p>\n
C\u00f3mo discriminan los algoritmos<\/p>\n
\u00bfQu\u00e9 explica el sesgo algor\u00edtmico? La discriminaci\u00f3n hist\u00f3rica a veces est\u00e1 integrada en los datos de entrenamiento y los algoritmos aprenden a perpetuar la discriminaci\u00f3n existente. <\/p>\n
Por ejemplo, los m\u00e9dicos a menudo diagnostican la angina y los ataques card\u00edacos en funci\u00f3n de los s\u00edntomas que experimentan los hombres con m\u00e1s frecuencia que las mujeres. En consecuencia, las mujeres est\u00e1n infradiagnosticadas de enfermedades card\u00edacas. Un algoritmo dise\u00f1ado para ayudar a los m\u00e9dicos a detectar afecciones card\u00edacas que se entrena en datos de diagn\u00f3stico hist\u00f3ricos podr\u00eda aprender a centrarse en los s\u00edntomas de los hombres y no en los de las mujeres, lo que exacerbar\u00eda el problema de subdiagnosticar a las mujeres.<\/p>\n
Adem\u00e1s, la discriminaci\u00f3n por IA puede ser radica en supuestos err\u00f3neos, como en el caso del algoritmo del programa de atenci\u00f3n de alto riesgo. <\/p>\n
En otro caso, la empresa de software de registros m\u00e9dicos electr\u00f3nicos Epic cre\u00f3 una herramienta basada en inteligencia artificial para ayudar a los consultorios m\u00e9dicos a identificar a los pacientes que probablemente no acudan a sus citas. Permiti\u00f3 a los m\u00e9dicos realizar doble reserva de posibles visitas de no presentaci\u00f3n para evitar la p\u00e9rdida de ingresos. Debido a que una variable principal para evaluar la probabilidad de no presentarse fueron las citas perdidas anteriores, la IA identific\u00f3 de manera desproporcionada a las personas econ\u00f3micamente desfavorecidas. <\/p>\n
Estas son personas que a menudo tienen problemas con el transporte, el cuidado de los ni\u00f1os y faltan al trabajo. Cuando llegaban a las citas, los m\u00e9dicos ten\u00edan menos tiempo para estar con ellos debido a la doble reserva.<\/p>\n
Algunos algoritmos se ajustan expl\u00edcitamente a la raza. Sus desarrolladores revisaron los datos cl\u00ednicos y concluyeron que, en general, los afroamericanos tienen diferentes riesgos de salud y resultados de los dem\u00e1s, por lo que incorporaron ajustes en los algoritmos con el objetivo de hacerlos m\u00e1s precisos. <\/p>\n
Pero los datos en los que se basan estos ajustes suelen ser obsoletos, sospechosos o sesgados. Estos algoritmos pueden hacer que los m\u00e9dicos diagnostiquen err\u00f3neamente a los pacientes negros y desv\u00eden recursos de ellos.<\/p>\n
Por ejemplo, la puntuaci\u00f3n de riesgo de insuficiencia card\u00edaca de la American Heart Association, que va de 0 a 100, agrega 3 puntos para los no negros. Por lo tanto, identifica a los pacientes que no son negros como m\u00e1s propensos a morir de enfermedades del coraz\u00f3n. De manera similar, un algoritmo de c\u00e1lculos renales agrega 3 de 13 puntos a los no negros, evalu\u00e1ndolos as\u00ed como m\u00e1s propensos a tener c\u00e1lculos renales. Pero en ambos casos las suposiciones estaban equivocadas. Aunque estos son algoritmos simples que no necesariamente se incorporan a los sistemas de IA, los desarrolladores de IA a veces hacen suposiciones similares cuando desarrollan sus algoritmos.<\/p>\n
Los algoritmos que se ajustan a la raza pueden estar basados en generalizaciones inexactas y podr\u00edan enga\u00f1ar a los m\u00e9dicos. El color de la piel por s\u00ed solo no explica los diferentes riesgos o resultados para la salud. En cambio, las diferencias suelen atribuirse a factores gen\u00e9ticos o socioecon\u00f3micos, que es lo que deben ajustar los algoritmos.<\/p>\n
Adem\u00e1s, casi el 7 % de la poblaci\u00f3n es de ascendencia mixta. Si los algoritmos sugieren diferentes tratamientos para afroamericanos y no negros, \u00bfc\u00f3mo deben los m\u00e9dicos tratar a los pacientes multirraciales?<\/p>\n
Promover la equidad algor\u00edtmica<\/p>\n
Hay varias v\u00edas para abordar el sesgo algor\u00edtmico: litigio, regulaci\u00f3n, legislaci\u00f3n y mejores pr\u00e1cticas. <\/p>\n
La IA es cada vez m\u00e1s frecuente en la salud cuidado. La discriminaci\u00f3n por IA es un problema grave que puede da\u00f1ar a muchos pacientes, y es responsabilidad de quienes est\u00e1n en los campos de la tecnolog\u00eda y el cuidado de la salud reconocerlo y abordarlo. <\/p>\n
Explore m\u00e1s<\/p>\n
Se descubri\u00f3 que el algoritmo de predicci\u00f3n de atenci\u00f3n m\u00e9dica ampliamente utilizado est\u00e1 sesgado contra los negros Proporcionado por The Conversation <\/p>\n
Este art\u00edculo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el art\u00edculo original. <\/p>\n
Cita<\/strong>: La IA sesgada puede ser mala para su salud: c\u00f3mo promover la justicia algor\u00edtmica (2021, 9 de marzo) consultado el 30 de agosto de 2022 en https:\/\/medicalxpress.com\/news\/2021-03 -biased-ai-bad-healthhere-algorithmic.html Este documento est\u00e1 sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigaci\u00f3n privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona \u00fanicamente con fines informativos.<\/p>\n","protected":false},"excerpt":{"rendered":" Cr\u00e9dito: CC0 Public Domain La inteligencia artificial es muy prometedora para mejorar la salud humana al ayudar a los m\u00e9dicos a realizar diagn\u00f3sticos y decisiones de tratamiento precisos. Tambi\u00e9n puede dar lugar a una discriminaci\u00f3n que puede perjudicar a las minor\u00edas, las mujeres y las personas econ\u00f3micamente desfavorecidas. La pregunta es, cuando los algoritmos de … Continuar leyendo \u00abLa IA sesgada puede ser perjudicial para la salud: aqu\u00ed se explica c\u00f3mo promover la imparcialidad algor\u00edtmica\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-18576","post","type-post","status-publish","format-standard","hentry","category-general"],"_links":{"self":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts\/18576","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/comments?post=18576"}],"version-history":[{"count":0,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts\/18576\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/media?parent=18576"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/categories?post=18576"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/tags?post=18576"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}