Las explicaciones en los verificadores de síntomas en línea podrían mejorar la confianza del usuario
Crédito: Pixabay/CC0 Dominio público
¿Recientemente recurrió a su dispositivo móvil o computadora para averiguar si su tos, resfriado o fiebre podría ser causado por COVID-19?
Es posible que el verificador de síntomas en línea que utilizó le haya aconsejado quedarse en casa y llamar a su proveedor médico si los síntomas empeoran, o quizás le haya dicho que puede ser elegible para la prueba de COVID-19. Pero, ¿por qué hizo la recomendación que hizo? ¿Y cómo debe saber si puede confiar en él?
Esas son preguntas que los investigadores del Colegio de Ciencias y Tecnología de la Información de Penn State exploraron recientemente a través de un proyecto en el que aumentaron los verificadores de síntomas en línea al ofrecer explicaciones de cómo el sistema generó sus diagnósticos probables y sugerencias al mismo tiempo que estudiaba las percepciones de los usuarios sobre esas recomendaciones.
«La gente está confundida acerca de por qué los verificadores de síntomas en línea hacen ciertas preguntas y cómo hacen ciertas recomendaciones y decisiones», dijo Chun-Hua. Tsai, profesor asistente de investigación y primer autor del artículo de investigación. «Estas interacciones no son muy transparentes, lo cual está bien si solo tiene un resfriado común, pero con COVID podría ser bastante grave».
Tsai explicó que los verificadores de síntomas en línea actuales, que funcionan con aprendizaje automático algoritmos, utilizan la información que los usuarios proporcionan para guiar al verificador en sus próximos pasos hacia un posible diagnóstico. Sin embargo, la falta de transparencia y lenguaje comprensible de los sistemas impulsados por IA podría tener consecuencias no deseadas y potencialmente trágicas si un usuario no comprende completamente las recomendaciones que proporciona.
Por ejemplo, si un verificador de síntomas en línea simplemente recomienda que un usuario se hace la prueba de COVID-19 en función de la entrada del usuario, podría causar preocupaciones indebidas o viajes innecesarios a un centro médico. Por el contrario, si un usuario supiera de un verificador de síntomas en línea que posiblemente podría tener el coronavirus, podría llevarlo a tomar una mala decisión médica, como tomar medicamentos por su cuenta en lugar de hacerse la prueba o buscar el tratamiento médico adecuado.
«La explicación en las interacciones de diagnóstico médico enfatiza la importancia de la pragmática», dijo Jack Carroll, profesor distinguido de ciencias y tecnología de la información y uno de los autores del artículo de investigación.
El trabajo del equipo tiene una aplicación potencial más allá de COVID -19, dijo Xinning Gui, profesor asistente de ciencias y tecnología de la información y otro colaborador del proyecto.
«Incluso antes del COVID-19, decenas de millones de personas han usado verificadores de síntomas para autodiagnosticarse o autodiagnosticarse». -triage para numerosas condiciones de salud», dijo. «Sin embargo, se presta poca atención a cuestiones críticas como la legitimidad, la seguridad, la confianza y la transparencia desde la perspectiva del usuario. Nuestro trabajo es solo el comienzo para llenar este vacío».
En su trabajo, los investigadores reprodujeron la interacción de un usuario con un verificador de síntomas en línea y se agregaron explicaciones de por qué el chatbot hizo ciertas preguntas y cómo se generaron las recomendaciones, por ejemplo, si la sugerencia se extrajo de las pautas de los Centros para el Control y la Prevención de Enfermedades.
«Basado en estas explicaciones, nuestros hallazgos mostraron que los usuarios tenían más confianza (en la precisión del verificador de síntomas) cuando recibieron estas recomendaciones», dijo Tsai. «Los verificadores de síntomas transparentes podrían ser realmente útiles para que las personas comprendan su propia situación y tomen una mejor decisión médica. Potencialmente, esto podría [también] ser una herramienta para responder a la crisis de salud pública pandémica que enfrentamos hoy».
En su estudio, los investigadores entrevistaron a usuarios de verificadores de síntomas en línea para comprender si las explicaciones mejorarían su experiencia de usuario y su confianza en las herramientas en línea. Las entrevistas arrojaron que los usuarios a menudo se confunden con las preguntas que hacen los chatbots y qué síntomas e información llevaron al diagnóstico y consejo sugeridos.
«Por las posibles causas que me enumeraron, (el chatbot) no dime por qué mis síntomas tienen una coincidencia. Simplemente dice algo de manera estadística, como cuántas personas pueden tener esta causa. Creo que la aplicación debería mostrar las relaciones, como explicar por qué cree que esta podría ser una posible causa, qué pregunta preguntó, y qué respuestas di me llevaron a este diagnóstico», dijo un participante de la encuesta, como se publicó en el artículo de investigación.
Luego, los investigadores diseñaron un verificador de síntomas de COVID-19 en línea para incluir tres tipos de estilos de explicación: basados en fundamentos, brindando una explicación después de cada pregunta que el sistema promovió al usuario; basado en funciones, que ofrece un resumen personalizado basado en las respuestas del usuario; y basado en ejemplos, destacando un ejemplo idéntico de un paciente que recibió la misma recomendación clínica que el usuario en base a respuestas idénticas.
Descubrieron que las explicaciones no solo podían mejorar significativamente la experiencia del usuario, sino que también podían facilitar la toma de decisiones médicas y mejorar la confianza del usuario en el diagnóstico.
«La explicación podría capacitar a los consumidores de salud para tomar decisiones informadas», dijo Gui. «Sin una explicación sobre cómo los verificadores de síntomas llegan a los resultados y la evidencia subyacente, los consumidores de salud enfrentarán desafíos para comprender o confiar en los resultados del diagnóstico».
Agregó: «Nuestro estudio demuestra que brindar explicaciones adecuadas puede ayudar a los usuarios a interpretar mejor los resultados y tomar decisiones informadas».
Los hallazgos de los investigadores podrían informar el diseño futuro de verificadores de síntomas en línea, ayudando a los usuarios a navegar potencialmente por una serie de problemas médicos más allá de COVID-19.
«Nuestros hallazgos podrían hacer avanzar el área de investigación de los sistemas de recomendación de salud y la IA [inteligencia artificial] explicable en términos de cuidado de la salud personal, equidad y confianza del usuario», dijo Tsai.
Explore más
Los verificadores de síntomas impulsados por IA pueden ayudar a los sistemas de atención médica a lidiar con la carga de COVID-19 Más información: Los investigadores presentarán sus hallazgos en la Conferencia virtual 2021 ACM CHI sobre humanos Factores en los sistemas informáticos: chi2021.acm.org/ Proporcionado por la Universidad Estatal de Pensilvania Cita: Las explicaciones en los verificadores de síntomas en línea podrían mejorar la confianza del usuario (2021, 16 de abril) consultado el 30 de agosto de 2022 en https://medicalxpress .com/news/2021-04-explanations-online-symptom-checkers-user.html Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.