Fiero is a virtual assistant aimed at collecting insults, vulgar expressions, o ensive comments or any form of unacceptable language across the messaging application Telegram. Users can chat with Fiero where it encourages them to insult in a humorous and sarcastic way. It has been made available to the Spanish population obtaining a widevariety of expletives used in Spanish. The collection of these in-sults will be essential for the creation of linguistic resources in Spanish. In addition, their integration in systems based on Human Language Technologies could help to identify social problems present on the Web such as cyberbullying or hate speech in its di erent manifestations.
Las TICS (Tecnolog as de la Informacion y la Comunicacion) se han asentado en nuestra sociedad cambiando la forma de comunicarse entre las personas. Es una realidad que la era digital esta aportando grandes bene cios a la sociedad, pero tambien el aumento de las interacciones sociales digitales y el anonimato, ha promovido la presencia de conductas y mensajes violentos en las Web.
En referente al ciberacoso, segun la
encuesta
Al mismo tiempo, este problema tambien implica a los gobiernos y las plataformas digitales. Por ello, para combatir la difusion del lenguaje ofensivo en la Web, continuamente se estan desarrollando leyes y pol ticas de lucha contra la incitacion al odio. Desde 2013, el Consejo Europeo ha promovido el movimiento \No Hate Speech", con el objetivo de movilizar a los jovenes para combatir el discurso de odio y defender los derechos humanos en Internet. En 2016, la Comision Europea llego a un acuerdo con Facebook, Microsoft, Twitter y YouTube para crear un \Codigo de conducta sobre la lucha contra el discurso de odio ilegal en Internet"1. Segun un 1https://cutt.ly/Hj5EsAh Copyright © 2021 for this paper by its authors. Use permitted under Creative Commons License Attribution 4.0 International (CC BY 4.0). informe espan~ol de 2019 sobre la evolucion de los delitos de odio en Espan~a 2, las amenazas, los insultos y la discriminacion se contabilizan como los actos delictivos mas repetidos, siendo Internet (54,9 %) y las redes sociales (17,2 %) los medios mas utilizados para cometer estas acciones. Este informe llevo al parlamento espan~ol a aprobar en 2020 un proyecto de ley para evitar la propagacion del odio en la red3.
El Procesamiento del Lenguaje Natural
(PLN) desempen~a un papel fundamental en
la deteccion de este tipo de contenido en
la Web ya que permite desarrollar sistemas
computacionales que ayuden a procesar e
interpretar el lenguaje humano. Para entrenar
estos sistemas, es necesario disponer de
recursos espec cos para la tarea objetivo, en
este caso, la identi cacion del lenguaje ofensivo
Sin embargo, la mayor a estan disponibles para el ingles, lo que conlleva la necesidad de crear recursos lingu sticos en otros idiomas cuya presencia es notable en la Web, como el espan~ol.
En este art culo se presenta Fiero, un asistente virtual que mantiene una conversacion con el usuario animandolo a expresar improperios a traves de Telegram. Esta aplicacion es popularmente conocida en el ambiente propio del uso de herramientas digitales por parte de la poblacion. El dialogo recopilado servira para generar recursos lingu sticos que se puedan usar en sistemas automaticos de inteligencia arti cial para combatir problemas sociales como el ciberacoso o la propagacion del discurso del odio. 2 2.1
El asistente virtual Fiero se ha desarrollado teniendo en cuenta diferentes caracter sticas en base a su utilizacion por parte de los usuarios:
Recopilacion de datos demogra cos del usuario. Se recopilan dos variables, 2https://cutt.ly/ej5EgU7 3https://cutt.ly/5j5Ejum la edad (mayor o menor de 18 an~os) y el sexo (hombre o mujer) al iniciar la aplicacion, con el objetivo de identi car los comentarios utilizados para la expresion del lenguaje ofensivo por diferentes sectores de la poblacion.
Anonimizacion. Al tratarse de un programa disen~ado para comunicarse con personas y recopilar un gran volumen de datos, es necesario asegurar a los usuarios su privacidad para un uso seguro y con able de la aplicacion. Por ello, Fiero solo recopila su genero y edad, garantizando la preservacion de la privacidad y el derecho a la proteccion de datos personales en todo momento.
Dialogo. Fiero establece los dialogos
apoyandose en una lista de
preguntasrespuestas en un unico contexto de
DialogFLow. Se trata de una herramienta de
creacion de chatbots capaz de entender
el lenguaje natural y que provee
infraestructura para recrear conversaciones y
construir dialogos con el n de
interactuar con el usuario de manera uida
El componente principal en la arquitectura de Fiero es un componente que actua como controlador, u orquestador, de procesos mediante el cual el ujo de informacion entre el usuario y la parte servidora de la aplicacion. A traves de este componente:
Figura 1: Arquitectura de Fiero la parte servidora interactua con la plataforma de Telegram. se construyen los dialogos. Para esto contamos con un diccionario de secuencia de dialogos a nes con distintos tipos de preguntas. En este proceso tecnicas simples de PLN se aplican para emparejar insultos de los usuarios con determinadas respuesta del sistema que utilizan jergas populares, logrando motivar al usuario a insultar al bot. se almacena informacion proveniente del usuario en el repositorio, los datos demogra cos y los comentarios provenientes del dialogo.
Los modulos de la parte servidora utilizan NodeJS4 como tecnolog a de programacion. 2.3
El usuario activamente puede mantener una conversacion con Fiero a traves de la interfaz intuitiva que ofrece Telegram. En la Figura 2.3 se muestra la simulacion de un dialogo real con Fiero. En primer lugar, se solicita la edad y el sexo, una vez proporcionados estos datos, el asistente virtual ofrece el reto al usuario de enfadarlo a traves de improperios. 3
Fiero esta continuamente activo para interactuar con los usuarios a traves de la aplicacion de mensajer a de Telegram. Se puso a disposicion de los usuarios en el mes de julio de 2019 y hasta febrero de 2021 se han recopilado una serie de estad sticas que recogen la utilizacion de Fiero por parte de la poblacion. La Tabla 1 muestra el numero de comentarios obtenidos en dicho per odo de tiempo. Cabe destacar que durante el an~o 2020 hubo una interaccion notablemente mayor, obteniendo
Figura 2: Interfaz de usuario de Fiero un total de 150.754 comentarios debido a la gran difusion y repercusion de Fiero en los medios de comunicacion de radio, prensa y television nacional. Finalmente, se obtiene un total de 164.467 comentarios en el periodo de tiempo mencionado (2019-2021).
Con respecto a las variables demogra cas, se han recopilado el numero de comentarios obtenidos por mujeres y hombres menores y mayores de 18 an~os (Tabla 2). Cabe destacar que la poblacion masculina mayor de 18 an~os ha realizado una mayor interaccion con Fiero recopilando un total de 95.513 comentarios. La poblacion mas joven (<18) participa en menor medida, obteniendo un total de 17.037 comentarios en comparacion con 147.430 comentarios obtenidos por el sector mayor de la poblacion.
An~o
Con la intencion de efectuar un analisis del lenguaje natural, se ha realizado un estudio para obtener el total de comentarios correspondientes a unigramas, bigramas, trigramas (donde ya el usuario ha utilizado expresiones), e incluso n-gramas, simulando una posible conversacion con el bot. Dichos datos
Tabla 2: Numero de comentarios obtenidos segun sexo y edad en Fiero se exponen en la Tabla 3. La mayor proporcion (55,33 %) corresponde a unigramas y la mayor parte de ellos se re eren a insultos a Fiero, seguido de los n-gramas (25,65 %) donde se observa un uso mas rico del lenguaje al entablar una conversacion mas real.
N-grama
Total #Comentarios Tabla 3: Numero de comentarios distribuidos en ngramas en Fiero 4
En este art culo se presenta Fiero, un asistente virtual accesible desde Telegram que simula una conversacion real con el usuario para recopilar insultos, expresiones vulgares o cualquier forma de comentario no aceptable. Esta herramienta se ha puesto a disposicion de la poblacion obteniendo una gran variedad de comentarios que recogen los improperios mas utilizado en el registro espan~ol. El principal objetivo marcado como trabajo futuro es recopilar estos improperios para la creacion de recursos lingu sticos en esta lengua. Su integracion en sistemas basados en TLH que permitira el desarrollo de sistemas automaticos que ayudaran a identi car problemas sociales presentes hoy en d a en la Web como el discurso del odio o el ciberacoso.
Esta investigacion ha sido parcialmente nanciada por la Universidad de Alicante, la Universidad de Jaen, el Ministerio de Ciencia, Innovacion y Universidades (Beca FPI-PRE2019-089310) y el Mi