La aplicación ‘escudo’ contra el ciberacoso usa IA para combatir los trolls de las redes sociales

Crédito: CC0 Public Domain

Científicos informáticos de la Universidad de Aston, Birmingham, lanzaron una aplicación que utiliza algoritmos novedosos de inteligencia artificial (IA) para combatir el troleo y el acoso en línea .

La aplicación descargable, Bullstop, es la única aplicación contra el ciberacoso que se integra directamente a las plataformas de redes sociales para proteger a los usuarios de los acosadores y los trolls que les envían mensajes directamente.

Fue desarrollada por Semiu Salawu, un doctorado investigador en la Facultad de Ingeniería y Ciencias Físicas y se diseñó inicialmente pensando en adolescentes de 13 años en adelante.

La aplicación se diseñó en colaboración con jóvenes para mejorar sus posibilidades de adopción entre el público objetivo principal. Sin embargo, también es útil para adultos que usan regularmente herramientas de redes sociales como Twitter y que a menudo son objeto de troleo y abuso. Los ejemplos de troleo de Internet de alto perfil son lo suficientemente frecuentes como para mostrarnos que este tipo de abuso prevalece en las redes sociales.

Desde el brote de Covid-19 y el comienzo del confinamiento, los jóvenes y adultos han cambiado sus vive cada vez más en línea, con el uso del tiempo frente a la pantalla aumentando drásticamente y los informes de acoso cibernético en aumento. En abril, el gobierno del Reino Unido emitió una nueva guía de seguridad en línea para padres, instándolos a seguir los consejos para mantener a los niños seguros en línea durante el confinamiento.

Comparitech.com encuestó a más de 1000 padres en todo el mundo y descubrió que entre 2018 y 2020 , una quinta parte de todo el acoso se produjo a través de las redes sociales y las aplicaciones, y otro 11 % se produjo a través de mensajes de texto. Los informes de acoso cibernético aumentaron alrededor de un 70 % al comienzo del confinamiento, según datos de la empresa emergente israelí L1ght in Digital Trends, lo que dejó a los jóvenes especialmente expuestos a los daños en línea.

Bullstop es único en el sentido de que supervisa una el perfil de las redes sociales del usuario y busca mensajes entrantes ofensivos, para garantizar que el usuario no esté sujeto a abusos entrantes, así como mensajes salientes ofensivos, para garantizar que el usuario no esté usando un lenguaje inapropiado y para proporcionar un medio de autorreflexión. Esto funciona a través de un algoritmo de inteligencia artificial (IA) que está diseñado para comprender el lenguaje escrito: analiza los mensajes y marca el contenido ofensivo, como instancias de ciberacoso, lenguaje abusivo, insultante o amenazante, pornografía y spam.

Los mensajes ofensivos se pueden eliminar inmediatamente de la bandeja de entrada del usuario. Sin embargo, se conserva una copia de los mensajes eliminados si el usuario desea revisarlos. La aplicación también puede bloquear automáticamente los contactos que envían continuamente mensajes ofensivos. Bullstop es altamente configurable, lo que permite al usuario determinar qué tan exhaustivamente la aplicación elimina los mensajes inapropiados.

Ph.D. El estudiante Semiu Salawu, quien diseñó Bullstop, dijo: «Esta aplicación se diferencia de otras aplicaciones porque el uso de inteligencia artificial para detectar el ciberacoso es único en sí mismo. Otras aplicaciones contra el ciberacoso, en comparación, usan palabras clave para detectar instancias de acoso, lenguaje inapropiado o amenazante. .

«La IA de detección ha sido entrenada en más de 60,000 tweets para reconocer no solo lenguaje abusivo y ofensivo, sino también el uso de medios sutiles como el sarcasmo y la exclusión del acoso, que de otro modo son difíciles de detectar usando palabras clave .

«Utiliza una arquitectura distribuida basada en la nube que hace posible que los ‘clasificadores’ se intercambien dentro y fuera. Por lo tanto, a medida que se disponga de mejores algoritmos de inteligencia artificial, se podrán integrar fácilmente para mejorar la aplicación.»

Bullstop actualmente es compatible con Twitter con soporte para mensajes de texto planificados en la próxima etapa del lanzamiento. Se espera que, con el uso continuo de la aplicación y los buenos resultados, otras plataformas de redes sociales como Facebook e Instagram se sumen, permitiendo que sus usuarios se beneficien de la aplicación.

Semiu agregó: «Twitter ha apoyado mucho los esfuerzos de investigación como este al permitir que aplicaciones como BullStop se integren de forma segura con su plataforma y esto ha sido clave para completar la investigación. Esperamos que otras plataformas de redes sociales sigan su ejemplo».

La aplicación se encuentra actualmente en la etapa de prueba beta, lo que significa que los investigadores invitan a los usuarios de la aplicación a brindarles comentarios que les permitan realizar mejoras. Ya ha sido probado por varios jóvenes y profesionales, incluidos maestros, policías y psicólogos.

Un usuario de 11 años dijo: «Me gusta que cuando quiero enviar mensajes a la gente, pueda verificar si porque aunque no quiero que me lastimen, tampoco quiero lastimar a las personas. Además, si las personas no quieren meterse en problemas por enviar algo, pueden usar la aplicación para decirles si lo que que están enviando es malo».

Un usuario de 16 años dijo: «Me gusta que puedas hacer que los contactos sean confiables o bloqueados y que pueda bloquear automáticamente a las personas si son ofensivas».

Un psiquiatra que revisó la aplicación dijo: «Tiene una sección de ‘detente y piensa’, que para cualquier niño que no quiera intimidar directamente o no tenga la intención de intimidar, es muy positiva. Tampoco yo Creo que cualquier niño instalaría una aplicación si supiera que permite el acceso de sus padres, por lo que la decisión de no incluir el control parental en la aplicación es la correcta».

Un portavoz de t a unidad de delitos cibernéticos de la policía de West Midlands dijo: «Mi impresión inicial fue muy buena. Como usuario, o tal vez incluso como tutor, puedo recorrer la aplicación y entender muy rápidamente lo que la aplicación está tratando de lograr. Creo que el hecho de que no tenga una aplicación para padres o acompañante debería usarse como punto de venta. Si alguien está siendo intimidado en línea, definitivamente le recomendaría esta aplicación y si esta herramienta está disponible públicamente, entonces podría ver que sería algo que la policía podría recomendar como una herramienta de protección».

Un local El médico general (GP) que probó la aplicación agregó: «Ahora que sé que BullStop estará disponible, puedo recomendarlo, porque está poniendo en práctica los consejos que damos a los pacientes y sus padres. Por ejemplo, les recomendamos que bloqueen los contactos ofensivos y revisen las solicitudes de conexión. Tener algo como esto le devuelve a una persona joven cierta medida de control».

Bullstop está disponible de forma gratuita y ahora se puede descargar en GooglePlay.

Explore más

Cómo proteger a sus hijos from cyberbullying Proporcionado por la Universidad de Aston Cita: Cyberbullying ‘shield’ app uses AI to combat social media trolls (2020, July 16) recuperado el 31 de agosto de 2022 de https://medicalxpress.com/news/2020- 07-cyberbullying-shield-app-ai-combat.html Este documento está sujeto a derechos de autor. Además de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona a título informativo. propósitos solamente.