Information and Communication Theories (ICT) play a very important role in our society. One of the negative uses given to them, is the harassment among minors in the network ”Ciberbullying”. There are a large number of minors with access to networks and who have mobile phones with younger and younger ages. This harassment generates an important social alert due to the consequences it has and makes it necessary to study it in order to stop the problem. The purpose of this research is to find characteristics present in the messages that can indicate, together with current computer systems, the presence of violent messages among minors and provide possible solutions to such an alarming case.
Con la aparici´on de las tecnolog´ıas de la informaci´on y la comunicaci´on, surge una nueva forma de relacionarnos en la sociedad. Muchas son las ventajas de esta nueva forma de conectarnos digitalmente, por ejemplo, ha facilitado una mayor relaci´on entre personas desde cualquier lugar del mundo, la transferencia de conocimiento entre pa´ıses o el acercamiento a la informaci´on de manera r´apida. Pero con el uso indebido de las mismas, se ha detectado un incremento de actos negativos utilizando las herramientas digitales de comunicaci´on, acoso en la red, suplantaci´on de identidades, acceso a informaci´on privada, etc.
Es una realidad que cada vez los menores con edades m´as tempranas tienen acceso a internet, ya sea mediante un ordenador en casa o en los colegios, como tambi´en la pertenencia de un m´ovil privado para ellos. Segu´n el Instituto Nacional de Estad´ıstica (INE), en el caso de los j´ovenes y menores cuya edad est´a comprendida entre los 16 y los 24 an˜os encontramos que el 98,8 % tienen tel´efono m´ovil.
Uno de los actos negativos con lo que
lucha la sociedad es el llamado Ciberbullying
o acoso en la red entre menores. Los casos
cada an˜o aumentan y muchos son los
investigadores interesados en la materia debido a
su gravedad.
Como punto de partida, debemos definir
qu´e es el Ciberbullying de una manera veraz,
Uno de los objetivos prioritarios a solucionar es la problem´atica del Ciberbullying o acoso en la red. Este problema que crece cada an˜o en todo el mundo, es una evoluci´on del acoso escolar tradicional, aquel acoso que se vive en los centros educativos. Un acoso que siempre ha estado presente, pero que, por la aparici´on de los sistemas digitales, ha evolucionado a un problema mayor, esto es debido a 3 factores:(Garaigordobil, 2011).
1. Anonimato de los acosadores: Se puede acosar a una persona por internet, con insultos o publicando informaciones falsas o dando informaci´on de la vida privada de una persona con un perfil falso e incluso en algunas redes sociales desde el anonimato. Por lo tanto se tiene una imagen de impunidad ante estas circunstancias.(Ch´oliz y Cho´liz, 2009) 2. No existe la empat´ıa: Para los menores una forma de aprender las relaciones sociales es ser capaz de empatizar con los dem´as. En este caso no hay un visi´on f´ısica del sufrimiento que estamos causando a la v´ıctima. No existe una culpabilidad por ver de manera expl´ıcita el sufrimiento que est´a generando. 3. Disponibilidad 24/7: Este es un factor importante para entender la gravedad del problema y porque crece el nu´mero de casos cada an˜o. El acoso escolar ”tradicional¸como hemos comentado, sucede s´olo en el centro donde se encuentran los menores. Normalmente ocurrir´a en el recreo o en la salida del colegio donde los adultos no est´en presentes. En el caso de Ciberbullying puede ser las 24 horas del d´ıa, los 7 d´ıas de la semana, desde cualquier lugar del mundo y sin vigilancia adulta. Lo que adem´as dificulta el seguimiento de los acosadores.
A trav´es de los medios de los que disponemos hoy en d´ıa es muy f´acil poder seguir acosando y persiguiendo al acosado en cualquier parte del mundo (A´ lvarez-Garc´ıa et al., 2011; Calvete et al., 2010).
El problema del Ciberbullying aumenta cada an˜o, y desde 2014 se ha incrementado en un 240 %, segu´n ha publicado la fundaci´on ANAR en su II Estudio sobre el Ciberbullying, dato muy elevado que debemos investigar.
El Ciberbullying supone un nuevo reto
para las escuelas por su peligrosa extensi´on
El inter´es por esta materia viene dado por el alarmante crecimiento de casos de Ciberbullying en la sociedad actual. En 2016 se ha incrementado este suceso en un 87,7 % con 1.207 casos registrados, adem´as de estas cifras, llama la atenci´on que la edad de menores que lo sufren a disminuido considerablemente.
El t´ermino Ciberbullying nace con la aparici´on de las TIC (Tecnolog´ıas de la informaci´on y de la comunicaci´on) en nuestra sociedad. El primer paso fue crear un ´area de investigaci´on nueva y separarlo del llamado bullying o acoso escolar.
Mientras que el bullying se cin˜e exclusivamente al ´ambito escolar, el Ciberbullying es un problema de acoso entre menores a trav´es de las TIC.
Cada an˜o aumentan las cifras del acoso en la red, y es por ello que se ha incrementado el nu´mero de art´ıculos en referencia a este tema. Podemos encontrar trabajos indicadores de porcentajes de casos reales existentes, trabajos donde abordan actividades y recursos para implantar en los colegios y trabajos que recogen la detecci´on de mensajes a trav´es de sistemas computacionales.
Algunos trabajos utilizados en esta
investigaci´on y que se han relacionado con las
investigaciones de Ciberbullying son :
Trabajos Teor´ıa
- Libro Cyber Bullying , el acoso en la era
digital. Robin Kowalski, Susan Limber,
Patricia Agatston
En este libro que trata de acoso cibern´etico podemos encontrar desde la definicio´n del problema hasta posibles soluciones. Tambi´en incluye la normativa legal y pol´ıticas espec´ıficas. Recoge datos de entrevistas reales con los estudiantes y con los padres. Se basan en cuestiones y preguntas para recabar informaci´on y reflejar los datos m´as relevantes. - III Estudio sobre acoso escolar y Ciberbullying segu´n los afectados. Fundaci´on Anar (?).
Con este informe quieren dar a conocer la evoluci´on del acoso escolar y del Ciberbullying entre las v´ıctimas y los cambios producidos en sus entornos detectados en el u´ltimo an˜o. Se basa en casos reales que conocen gracias a las llamadas que se han producido a esta fundaci´on, tanto de v´ıctimas como de sus familiares. Nos da informaci´on real de porcentajes y datos estad´ısticos de como se encuentra en la actualidad el problema. - Art´ıculo Usos problem´aticos y agresivos de las TIC por parte de adolescentes implicados en Cyberbullying (Gim´enez Gualdo, Maquil´on S´anchez, y Arnaiz S´anchez, 2015).
El siguiente estudio examina la extensi´on y caracter´ısticas del Ciberbullying en una muestra de escolares. Su objetivo es saber que situaciones ocurren en el ´ambito escolar as´ı como el uso problem´atico de Internet en menores y la posible adicci´on que los menores (ciberacosadores y ciberv´ıctimas) hacen de las TIC. - Common Sense Reasoning for Detection, Prevention, and Mitigation of Cyberbullying KARTHIK (Dinakar, Picard, y Lieberman, 2015).
Trabajan en la detecci´on de intimidaci´on basado en el procesamiento del lenguaje natural. Analizan la apariencia, inteligencia, insultos raciales y ´etnicos, aceptaci´on social y rechazo; y una vez analizado estos procesos crean una base de conocimiento de ”sentido comu´n”que codifica conocimientos particulares sobre situaciones de intimidaci´on. Adem´as ensen˜an a las v´ıctimas a hacer frente a este problema y los conecta entre s´ı en lo que llaman “apoyo emocional”. - Art´ıculo Cyberbullying in adolescents: Modalitites and aggressors’s profile (Calvete et al., 2010).
Realizan un cuestionario para evaluar la prevalencia de numerosas modalidades de Ciberbullying (formas de violencia, exposici´on a la violencia, aceptaci´on y rechazo por los compan˜eros). En este cuestionario recogieron informaci´on de la justificaci´on del uso de la violencia, las medidas de agresi´on y la exposici´on a la violencia.
Trabajos Sistemas computacionales
- Automatic Detection of Cyberbullying on
Social Networks based on Bullying
Features
Proponen un programa para la
detecci´on del acoso cibern´etico. Usan una
lista con palabras e insultos para
determinar el nivel de intimidaci´on existente en
cada mensaje. Trabajan con la red
social Twitter cuya finalidad es la creaci´on
de un sistema autom´atico de detecci´on
cibern´etica para categorizar la
informaci´on y detectar los casos de
Ciberbullying.
- Art´ıculo Cyberbullying detection and
prevention: Data mining and
psychological perspective
Utilizan un corpus de 3 redes sociales con
el objetivo de comprobar cual es el mejor
m´etodo para detectar el Ciberbullying.
Primero hay un pre procesamiento de los
datos y a continuaci´on experimentan con
una m´aquina de soporte vectorial,
algoritmo de machine learniung B.48 y el
clasificador ”Na¨ıve Bayes·
- Cyberbullying Detection Based on
Semantic-Enhanced Marginalized
Denoising Auto-Encoder
La investigaci´on se inici´o con la bu´squeda de art´ıculos cient´ıficos y materiales relacionados con el Ciberbullying para recoger toda la informaci´on posible y poder trabajar con una base de conocimiento amplia.
Se cre´o un informe que recopilaba datos pertenecientes a los casos de Ciberbullying, donde se encuentra: 1. La edad y el g´enero de la v´ıctima. 2. Su entorno y los lugares donde ocurre el
Ciberbullying. 3. Cua´les son los medios y el motivo de que ocurra este acoso. 4. Cua´ndo empieza y su duraci´on y frecuencia. 5. Qu´e lenguaje se utiliza en el acoso y si se siguen las mismas pautas en la mayor´ıa de los casos. 6. Cu´ales son las diferentes fases del proceso. 7. C´omo se relacionan las fases con su lenguaje violento o acci´on.
Una vez se finaliz´o el informe, se cre´o una gu´ıa de anotaci´on inicial sobre el Ciberbullying y la t´ecnica de anotaci´on mediante el programa ”Gate”para anotar los mensajes pertenecientes a mensajes reales entre menores por la red. En este proceso se seleccionada si el mensaje era violento o no, su nivel de alerta, tipo de violencia encontrado (amenazas, anuncio de agresi´on, ataques a sus aficiones,contra su familia, contra su forma de ser, contra su f´ısico, su situaci´on familiar, su g´enero, su raza y otros. Adem´as an˜adimos la etiqueta de elegir el rol, ejecutor, incitador, pasivo y v´ıctima. Y un apartado de notas por si los anotadores necesitaban explicar o apuntar alguna correcci´on en algu´n texto.
Una vez obtenida la gu´ıa de anotaci´on necesit´abamos un Corpus. La recolecci´on de Corpus de mensajes reales entre menores no ha sido posible debido a la dificultad legal de poder obtener estos mensajes. Es por eso que decidimos hacer una descarga de mensajes en las redes sociales para poder avanzar en nuestra investigaci´on y formar un modelo de mensajes violentos gen´erico. Para ello, el Corpus existente, surgi´o de la descarga de 633 mensajes de la red social Twitter. Las semillas utilizadas ten´ıan relaci´on con el caso de ”la manada 2.el pequen˜o Gabriel”.
El Corpus ha sido etiquetado segu´n una nueva gu´ıa de anotaci´on que se ha realizado. Y se encuentra en proceso de modificaciones por algunos datos que se consider´o deb´ıan estar recogidos y en la primera gu´ıa no se encontraban y la modificaci´on de los niveles de alerta.
Antes de proceder a trabajar con el corpus,estamos realizando investigaci´on exhaustiva de cuales son los sistemas computacionales utilizados en relaci´on a los casos de Ciberbullying, para poder comparar sus resultados con los nuestros y utilizar t´ecnicas nuevas o implantar modificaciones que nos permitan obtener unos buenos resultados. 3.1
Objetivos 1. Gu´ıa de Ciberbullying. 2. Ampliaci´on de nuestro corpus violento 3. Creaci´on de un corpus de mensajes reales entre menores en la red. 4. Identificaci´on de mensajes violentos, relacionando palabras claves o comportamientos que nos ayuden a etiquetarlo en el Ciberbullying. 5. Definir cuales son los elementos necesarios en un mensaje para etiquetarlo como Ciberbullying. 6. Creaci´on de un programa de detecci´on autom´atica del Ciberbullying. 3.2
Hip´otesis 1. El Ciberbullying es el acoso m´as frecuente entre los j´ovenes. 2. Cada an˜o incrementa el nu´mero de casos de Ciberbullying en menores y con edades mas pequen˜as. 3. Se pueden detectar un mensaje como Ciberbullying siguiendo unas normas de este acoso espec´ıfico. 4. Posibilidad de que pueda crearse un programa que detecte autom´aticamente la presencia de Ciberbullying. 3.3
Experimentos propuestos Como experimentos para esta investigaci´on se encuentran los siguientes: - Fijar las reglas presentes en los mensajes de Ciberbullying. - Ampliar nuestro Corpus y probarlo en sistemas computacionales. - Determinar que sistema es el m´as adecuado. - Conseguir poner en marcha el programa y que ´este sea capaz de detectar y sen˜alar la presencia de Ciberbullying en las redes sociales. 4
Cuestiones espec´ıficas de investigaci´on 1. Es posible la detecci´on del Ciberbullying a trav´es del Machine Learning para frenar la problem´atica del Ciberbullying. 2. Se puede definir distintas fases que tiene el acoso entre menores en la red para saber cual es el nivel de gravedad que encontramos en el Ciberbullying. 3. Se podr´ıa crear una alerta autom´atica capaz de avisarnos de que se est´a generando Ciberbullying a un menor.
Esta investigaci´on ha sido financiada parcialmente por la Universidad de Alicante, la Generalitat Valenciana, el Gobierno Espan˜ol (Ministerio de Educaci´on, Cultura y Deporte) y las Ayudas Fundaci´on BBVA a equipos de investigaci´on cient´ıfica 2016 mediante los proyectos: TIN2015-65100-R, TIN201565136-C2-2-R, GRE16-01 y An´alisis de Sentimientos Aplicado a la Prevenci´on del Suicidio en las Redes Sociales (ASAP).
Especial agradecimiento a Patricio Mart´ınez Barco y al Departamento de Lenguajes y Sistemas Inform´aticos de la Universidad de Alicante (DLSI).
A´lvarez-Garc´ıa, D., J. C. Nu´n˜ez, L. A´ lvarez, A. Dobarro, C. Rodr´ıguez, y P. Gonz´alezCastro. 2011. Violencia a trav´es de las tecnolog´ıas de la informaci´on y la comunicaci´on en estudiantes de secundaria.
Anales de psicolog´ıa, 27(1):221–231. Calvete, E., I. Orue, A. Estevez, L. Villard, y P. Padilla. 2010. Cyberbull1ying in adolescents: Modalities and aggressors’ profile. Computers in Human Behavior, 26(5):1128–1135.
Ch´oliz, M. y M. C. Ch´oliz. 2009. Ellas, ellos y su movil: Uso, abuso(¿y dependencia?) del telefono movil en la adolescencia. Originales, 34(1):74–88.
Dinakar, K., R. Picard, y H. Lieberman. 2015. Common sense reasoning for detection, prevention, and mitigation of cyberbullying. En IJCAI International Joint Conference on Artificial Intelligence, volumen 2015-Janua, p´aginas 4168–4172. Garaigordobil, M. 2011. Prevalencia y consecuencias del cyberbullying: una revisi´on. Journal of Psychology and Psychological Therapy, 11(2):233–254.
Gim´enez Gualdo, A. M., J. J. Maquil´on S´anchez, y P. Arnaiz S´anchez. 2015. Usos problem´aticos y agresivos de las TIC por parte de adolescentes implicados en cyberbullying. Revista de Investigaci´on Educativa, 33(2):335.