Según un estudio realizado por Utopia Analytics para el Ministerio de Justicia de Finlandia, la incitación al odio en línea aparece con mayor frecuencia en los foros de debate. El informe revela que los foros de debate albergan el 97 % de los mensajes de incitación al odio identificados. Por tipo de plataforma, los mensajes de Twitter representan el 2,5 % y los de Instagram, el 0,2 %. Los blogs, los comentarios de noticias y los mensajes públicos de Facebook representan menos del 0,02 % de toda la incitación al odio identificada. El conjunto de datos no incluía discusiones privadas, por ejemplo, grupos o cuentas de Facebook.
El proyecto, que forma parte del programa «Hechos contra el odio» del Ministerio de Justicia, puso a prueba la capacidad de la inteligencia artificial para reconocer los discursos de odio en entornos virtuales. El enfoque combinaba la evaluación humana con el aprendizaje automático. Uno de los objetivos clave era encontrar los principales canales de discurso de odio e identificar las diferencias en el discurso de odio entre plataformas.
La definición de discurso de odio se basó en la investigación académica que se realiza en las ciencias sociales. Para ello se elaboraron categorías de discurso de odio, que luego se utilizaron para identificar de forma manual ejemplos de discurso de odio en un conjunto de datos de mensajes en línea. Estas anotaciones se utilizaron como datos de entrenamiento para Utopia AI Moderator, una herramienta independiente del idioma que utiliza el análisis de textos y el aprendizaje automático. Este conjunto de datos estaba compuesto por 12 millones de comentarios y publicaciones finlandesas de septiembre a octubre de 2020.
Los resultados muestran que cada mes aparecen en las plataformas de redes sociales finlandesas de acceso público unos 150 000 mensajes que contienen expresiones de odio. Eso supone alrededor del 1,8 % de todos los mensajes.
Entre las plataformas públicas de redes sociales internacionales, Twitter parece ser la más destacada, con 7450 mensajes identificados como incitación al odio, es decir, el 0,14 % de todos los tuits. Los retuits desempeñan un papel importante en la circulación de estos mensajes: El 39 % de todos los tuits con incitación al odio son retuits.
«Aunque el conjunto de datos constaba principalmente de mensajes en finlandés, los resultados serían muy similares en otros idiomas», explica la Dra. Mari-Sanna Paukkeri, directora ejecutiva de Utopia. «Por ejemplo, la principal plataforma que difunde discursos de odio en finlandés, Ylilauta, es similar a la conocida 4chan. Además, podemos construir un modelo de IA similar para identificar el discurso de odio en cualquier idioma en tan solo dos semanas. Lo único que necesitamos es una persona capacitada para decir cómo debe definirse el discurso de odio en su cultura e idioma y los datos para analizarlos».
Biblioteca multimedia/fotos: https://utopiaanalytics.com/media-library
El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.
Vea la versión original en businesswire.com: https://www.businesswire.com/news/home/20210422005783/es/