En su estrategia para combatir el odio y la desinformación en Internet, el Gobierno de España ha anunciado la creación de un nuevo sistema cuya finalidad es la de analizar y medir los discursos de odio en redes sociales.
La herramienta se denomina HODIO, acrónimo de «Huella del Odio y la Polarización» y busca evaluar el impacto que tienen determinados contenidos en el entorno digital. Es decir, es como una especie de «huella de carbono» enfocada a internet para que las empresas tengan que responsabilizarse de todo lo que se publica allí, identificando qué plataformas contribuyen más a la difusión de discursos de odio.
Qué es HODIO y quién lo gestiona
HODIO ha sido desarrollado por el Ministerio de Inclusión, Seguridad Social y Migraciones y se gestión la llevará a cabo el Observatorio Español del Racismo y la Xenofobia (OBERAXE).
Esta herramienta permitirá medir de forma sistemática la presencia, evolución y alcance de los discursos de odio en las plataformas digitales utilizadas en España. Así, se generará mayor transparencia y responsabilidad por parte de las empresas tecnológicas, a través de un ranking público y transparente.
La intención del Gobierno es que este sistema sirva para presionar a las plataformas digitales a reforzar sus mecanismos de moderación y control de contenidos.
Metodología: inteligencia artificial y revisión humana
Para analizar los contenidos publicados en redes sociales, HODIO utilizará un sistema mixto que combina IA y supervisión humana:
- Técnicas cuantitativas e inteligencia artificial, cuyo objetivo será el de procesar grandes cantidades de datos (Big Data) asociadas al contenido público en internet.
- Revisión humana especializada, encargada de validar los resultados y asegurar que el análisis respete los estándares internacionales.
Redes sociales analizadas
Cuando la herramienta esté completamente operativa, analizará contenidos publicados en las principales plataformas utilizadas en España, como son las siguientes:
- Instagram.
- Tiktok.
- X.
- Youtube.
- Facebook.
Según datos publicados por OBERAXE, tres de cada cuatro jóvenes españoles se encuentran con discursos de odio en Internet y cada día se detectan más de 1300 mensajes de este tipo en redes sociales.
Acceso público y funcionamiento
HODIO no es una aplicación móvil al uso individual, sino que funcionará como una plataforma de monitorización accesible desde la web de OBERAXE.
Por lo tanto, a través de este portal cualquier ciudadano podrá consultar información actualizada sobre los discursos de odio en internet. La consulta será totalmente gratuita, no requerirá registro alguno y la descarga de los ficheros podrá acometerse en formato PDF o CSV.
En definitiva, el éxito de esta plataforma dependerá no solo de su capacidad técnica para analizar grandes volúmenes de contenido, sino también de cómo las plataformas y la sociedad utilicen estos datos para fomentar un entorno digital más responsable y seguro.
