El Centro de Derecho Familiar en Pittsburgh se ve el mi\u00e9rcoles 16 de marzo de 2022. En todo el pa\u00eds, mientras las agencias de bienestar infantil usan o consideran herramientas algor\u00edtmicas como en el condado de Allegheny, una revisi\u00f3n de Associated Press ha identificado una serie de preocupaciones sobre la tecnolog\u00eda, incluidas preguntas sobre su confiabilidad y su potencial para endurecer las disparidades raciales en el sistema de bienestar infantil. Cr\u00e9dito: AP Photo\/Matt Rourke <\/p>\n
Para el abogado de derecho familiar Robin Frank, defender a los padres en uno de sus puntos m\u00e1s bajos, cuando corren el riesgo de perder a sus hijos, nunca ha sido f\u00e1cil. <\/p>\n
El trabajo nunca es f\u00e1cil, pero en el pasado sab\u00eda a lo que se enfrentaba cuando se enfrentaba a los servicios de protecci\u00f3n infantil en el tribunal de familia. Ahora, le preocupa estar luchando contra algo que no puede ver: un algoritmo opaco cuyos c\u00e1lculos estad\u00edsticos ayudan a los trabajadores sociales a decidir qu\u00e9 familias deben investigarse en primer lugar.<\/p>\n
\u00abMucha gente no sabe que incluso se est\u00e1 utilizando\u00bb, dijo Frank. \u00abLas familias deben tener derecho a tener toda la informaci\u00f3n en su archivo\u00bb.<\/p>\n
Desde Los \u00c1ngeles hasta Colorado y todo Oreg\u00f3n, ya que las agencias de bienestar infantil usan o consideran herramientas similares a la del condado de Allegheny, Pensilvania. , una revisi\u00f3n de Associated Press ha identificado una serie de preocupaciones sobre la tecnolog\u00eda, incluidas preguntas sobre su confiabilidad y su potencial para endurecer las disparidades raciales en el sistema de bienestar infantil. Los problemas relacionados ya han torpedeado los planes de algunas jurisdicciones para usar modelos predictivos, como la herramienta que abandon\u00f3 notablemente el estado de Illinois.<\/p>\n
Seg\u00fan una nueva investigaci\u00f3n de un equipo de la Universidad Carnegie Mellon obtenida exclusivamente por AP, el algoritmo de Allegheny en sus primeros a\u00f1os de operaci\u00f3n mostr\u00f3 un patr\u00f3n de marcar un n\u00famero desproporcionado de ni\u00f1os negros para una investigaci\u00f3n de negligencia \u00abobligatoria\u00bb, en comparaci\u00f3n con los ni\u00f1os blancos. Los investigadores independientes, que recibieron datos del condado, tambi\u00e9n encontraron que los trabajadores sociales no estaban de acuerdo con las puntuaciones de riesgo que produc\u00eda el algoritmo aproximadamente un tercio de las veces.<\/p>\n
La supervisora de trabajo social, Jessie Schemm, examina la primera pantalla del software utilizado por trabajadores que atienden llamadas en un centro de selecci\u00f3n de llamadas entrantes para los Servicios para Ni\u00f1os y J\u00f3venes del Condado de Allegheny, en Penn Hills, Pa. Los funcionarios de bienestar infantil en el condado dicen que la herramienta algor\u00edtmica de vanguardia que est\u00e1 captando la atenci\u00f3n en todo el pa\u00eds utiliza datos para apoyar trabajadores mientras tratan de proteger a los ni\u00f1os del abandono. El t\u00e9rmino matizado puede incluir todo, desde viviendas inadecuadas hasta mala higiene. Cr\u00e9dito: AP Photo\/Keith Srakocic <\/p>\n
Los funcionarios del condado dijeron que los trabajadores sociales siempre pueden anular la herramienta y calificaron la investigaci\u00f3n como \u00abhipot\u00e9tica\u00bb.<\/p>\n
Funcionarios de bienestar infantil en el condado de Allegheny, la cuna de Mister Rogers’ Vecindario de TV y las innovaciones centradas en los ni\u00f1os del \u00edcono, dicen que la herramienta de vanguardia que est\u00e1 captando la atenci\u00f3n en todo el pa\u00eds usa datos para apoyar a los trabajadores de la agencia mientras intentan proteger a los ni\u00f1os del abandono. Ese t\u00e9rmino matizado puede incluir todo, desde vivienda inadecuada hasta higiene deficiente, pero es una categor\u00eda diferente del abuso f\u00edsico o sexual, que se investiga por separado en Pensilvania y no est\u00e1 sujeto al algoritmo.<\/p>\n
\u00abTrabajadores, sean quienes sean son, no se les debe pedir que tomen, en un a\u00f1o determinado, 14, 15, 16,000 de este tipo de decisiones con informaci\u00f3n incre\u00edblemente imperfecta\u00bb, dijo Erin Dalton, directora del Departamento de Servicios Humanos del condado y pionera en la implementaci\u00f3n de la predicci\u00f3n algoritmo de bienestar infantil.<\/p>\n
Nico’Lee Biddle, ex ni\u00f1o de crianza temporal convertido en terapeuta, trabajador social y defensor de pol\u00edticas, habla sobre el uso de algoritmos basados en datos fuera de una de las oficinas de Ni\u00f1os, J\u00f3venes y Familias del condado en North Versailles , Pensilvania, el viernes 11 de febrero de 2022. \u00abEsto muestra que cuando tienes tecnolog\u00eda dise\u00f1ada por humanos, el sesgo aparecer\u00e1 en los algoritmos\u00bb. dice Biddle, quien ha trabajado durante casi una d\u00e9cada en el bienestar infantil, incluso como terapeuta familiar y especialista en colocaci\u00f3n en hogares de guarda en el condado de Allegheny. Cr\u00e9dito: AP Photo\/Keith Srakocic <\/p>\n
Los cr\u00edticos dicen que le da a un programa impulsado por datos recopilados principalmente sobre personas pobres un papel descomunal en la decisi\u00f3n del destino de las familias, y advierten contra la creciente dependencia de los funcionarios locales en las herramientas de inteligencia artificial.<\/p>\n
Si la herramienta hubiera actuado por s\u00ed sola para filtrar una tasa comparable de llamadas, habr\u00eda recomendado que se investigara a dos tercios de los ni\u00f1os negros, en comparaci\u00f3n con aproximadamente la mitad de todos los dem\u00e1s ni\u00f1os informados, seg\u00fan otro estudio publicado. el mes pasado y en coautor\u00eda con un investigador que ha auditado el algoritmo del condado.<\/p>\n
Los defensores se preocupan de que si se usan herramientas similares en otros sistemas de bienestar infantil con una intervenci\u00f3n humana m\u00ednima o nula, similar a c\u00f3mo se han usado los algoritmos para hacer decisiones en el sistema de justicia penal, podr\u00edan reforzar las disparidades raciales existentes en el sistema de bienestar infantil.<\/p>\n
Los trabajadores reciben llamadas en un centro de detecci\u00f3n de llamadas de admisi\u00f3n para la oficina de Servicios para Ni\u00f1os y J\u00f3venes del Condado de Allegheny en Penn Hills, Pensilvania, el jueves 17 de febrero de 2022. Los incidentes de negligencia potencial se informan a la l\u00ednea directa de protecci\u00f3n infantil del condado de Allegheny. Los informes pasan por un proceso de selecci\u00f3n en el que el algoritmo calcula el riesgo potencial del ni\u00f1o y le asigna una puntuaci\u00f3n. Los trabajadores sociales luego usan su discreci\u00f3n para decidir si investigar esas inquietudes. Cr\u00e9dito: AP Photo\/Keith Srakocic <\/p>\n
\u00abNo est\u00e1 disminuyendo el impacto entre las familias negras\u00bb, dijo Logan Stapleton, investigador de la Universidad Carnegie Mellon. \u00abSobre el punto de precisi\u00f3n y disparidad, (el condado est\u00e1) haciendo declaraciones fuertes que creo que son enga\u00f1osas\u00bb.<\/p>\n
Debido a que las audiencias de la corte de familia est\u00e1n cerradas al p\u00fablico y los registros est\u00e1n sellados, AP no fue capaz de identificar de primera mano a las familias a las que el algoritmo recomend\u00f3 que fueran investigadas obligatoriamente por negligencia infantil, ni a los casos que resultaron en el env\u00edo de un ni\u00f1o a un hogar de acogida. Las familias y sus abogados tampoco pueden estar seguros del papel del algoritmo en sus vidas porque no se les permite conocer los puntajes.<\/p>\n
Las agencias de bienestar infantil en al menos 26 estados y Washington, DC, han considerado usar herramientas algor\u00edtmicas, y al menos 11 las han implementado, seg\u00fan la Uni\u00f3n Estadounidense de Libertades Civiles.<\/p>\n
Personas caminan hacia el Centro de Derecho Familiar en Pittsburgh, el jueves 17 de marzo de 2022. Funcionarios de bienestar infantil en el condado de Allegheny dicen que las La herramienta algor\u00edtmica que est\u00e1 captando la atenci\u00f3n en todo el pa\u00eds utiliza datos para apoyar a los trabajadores de agencias en su intento de proteger a los ni\u00f1os del abandono. El t\u00e9rmino matizado puede incluir todo, desde viviendas inadecuadas hasta mala higiene. Cr\u00e9dito: AP Photo\/Matt Rourke <\/p>\n
El condado de Larimer, Colorado, hogar de Fort Collins, ahora est\u00e1 probando una herramienta modelada en Allegheny’s y planea compartir puntajes con las familias si sigue adelante con el programa.<\/p>\n
\u00abEs su vida y su historia\u00bb, dijo Thad Paul, gerente de Children Youth & Family Services del condado. \u00abQueremos minimizar la diferencia de poder que conlleva estar involucrado en el bienestar infantil, simplemente pensamos que no es \u00e9tico no compartir el puntaje con las familias\u00bb.<\/p>\n
Oregon no comparte los n\u00fameros de puntaje de riesgo de su evaluaci\u00f3n estatal herramienta, que se implement\u00f3 por primera vez en 2018 y se inspir\u00f3 en el algoritmo de Allegheny. El Departamento de Servicios Humanos de Oreg\u00f3n, que actualmente se prepara para contratar a su octavo nuevo director de bienestar infantil en seis a\u00f1os, explor\u00f3 al menos otros cuatro algoritmos mientras la agencia estaba bajo el escrutinio de una junta de supervisi\u00f3n de crisis ordenada por el gobernador.<\/p>\n
El abogado Robin Frank posa para una fotograf\u00eda afuera del Family Law Center en Pittsburgh, el jueves 17 de marzo de 2022. Frank, abogado de derecho familiar desde hace mucho tiempo, lucha por los padres en uno de sus puntos m\u00e1s bajos cuando corren el riesgo de perder a sus hijos. Cr\u00e9dito: AP Photo\/Matt Rourke <\/p>\n
Recientemente, detuvo un algoritmo piloto creado para ayudar a decidir cu\u00e1ndo los ni\u00f1os de crianza pueden reunirse con sus familias. Oreg\u00f3n tambi\u00e9n explor\u00f3 otras tres herramientas de modelos predictivos para evaluar el riesgo de muerte y lesiones graves de un ni\u00f1o, si los ni\u00f1os deben ser colocados en hogares de guarda y, de ser as\u00ed, d\u00f3nde.<\/p>\n
Durante a\u00f1os, California explor\u00f3 enfoques basados en datos para la sistema de bienestar infantil en todo el estado antes de abandonar una propuesta para usar una herramienta de modelado de riesgo predictivo en 2019.<\/p>\n
\u00abDurante el proyecto, el estado tambi\u00e9n explor\u00f3 las preocupaciones sobre c\u00f3mo la herramienta puede afectar la equidad racial. Estos hallazgos dieron como resultado que el estado el cese de la exploraci\u00f3n\u00bb, dijo el portavoz del departamento, Scott Murray, en un correo electr\u00f3nico.<\/p>\n
El Departamento de Servicios para Ni\u00f1os y Familias del condado de Los \u00c1ngeles est\u00e1 siendo auditado luego de muertes infantiles de alto perfil, y est\u00e1 buscando un nuevo director despu\u00e9s de que el anterior renunci\u00f3. cay\u00f3 a finales del a\u00f1o pasado. Est\u00e1 probando un \u00abalgoritmo de riesgo complejo\u00bb que ayuda a aislar los casos de mayor riesgo que est\u00e1n siendo investigados, dijo el condado.<\/p>\n
<li data-thumb="https:\/\/scx1.b-cdn.net\/csz\/news\/tmb\/2022\/an-algorithm-that-scre-9.jpg" data-src="https:\/\/scx2.b-cdn.net\/gfx\/news\/hires\/2022\/an-algorithm-that-scre-9.jpg" data-sub-html="La luna se pone detr\u00e1s de las casas en Pittsburgh, jueves 17 de marzo de 2022. En todo el pa\u00eds, mientras las agencias de bienestar infantil usan o consideran herramientas algor\u00edtmicas como en el condado de Allegheny, una revisi\u00f3n de Associated Press ha identificado una serie de preocupaciones sobre la tecnolog\u00eda, incluidas preguntas sobre su confiabilidad y su potencial para endurecer las disparidades raciales en el sistema de bienestar infantil Credit: AP Photo\/Matt Rourke , una revisi\u00f3n de Associated Press ha identificado una serie de preocupaciones sobre la tecnolog\u00eda, incluidas preguntas sobre su confiabilidad y su potencial para endurecer las disparidades raciales en el sistema de bienestar infantil. art\u00edculo Cr\u00e9dito: AP Photo\/Matt Rourke <\/li>\n<\/ul>\n
En los primeros meses en que los trabajadores sociales en la ciudad de Lancaster, en el desierto de Mojave, comenzaron a usar la herramienta, sin embargo, los datos del condado muestran que los ni\u00f1os negros eran objeto de casi la mitad de todas las investigaciones se marcaron para un escrutinio adicional, a pesar de que representan el 22 % de la poblaci\u00f3n infantil de la ciudad, seg\u00fan el censo de EE. UU.<\/p>\n
El condado no dijo de inmediato por qu\u00e9, pero dijo que decidir\u00e1 si ampliar la herramienta a finales de este a\u00f1o. <\/p>\n
Explore m\u00e1s<\/p>\n
Una mejor manera de reducir el maltrato infantil <\/p>\n
2022 The Associated Press. Reservados todos los derechos. Este material no puede ser publicado, transmitido, reescrito o redistribuido sin permiso. <\/p>\n
Cita<\/strong>: Un algoritmo que detecta la negligencia infantil plantea preocupaciones (29 de abril de 2022) recuperado el 29 de agosto de 2022 de https:\/\/medicalxpress.com\/news\/2022-04-algorithm-screens -child-neglect.html Este documento est\u00e1 sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigaci\u00f3n privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona \u00fanicamente con fines informativos.<\/p>\n","protected":false},"excerpt":{"rendered":" El Centro de Derecho Familiar en Pittsburgh se ve el mi\u00e9rcoles 16 de marzo de 2022. En todo el pa\u00eds, mientras las agencias de bienestar infantil usan o consideran herramientas algor\u00edtmicas como en el condado de Allegheny, una revisi\u00f3n de Associated Press ha identificado una serie de preocupaciones sobre la tecnolog\u00eda, incluidas preguntas sobre su … Continuar leyendo \u00abUn algoritmo que detecta negligencia infantil genera preocupaciones\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-11407","post","type-post","status-publish","format-standard","hentry","category-general"],"_links":{"self":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts\/11407","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/comments?post=11407"}],"version-history":[{"count":0,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/posts\/11407\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/media?parent=11407"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/categories?post=11407"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.biblia.work\/articulos-salud\/wp-json\/wp\/v2\/tags?post=11407"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}