Diseño de un juego serio para la prevención de la polarización en menores Raquel Menendez-Ferreira1 , Javier Torregrosa1 , and David Camacho1 Universidad Politécnica de Madrid Campus Sur de la UPM, Calle de Alan Turing, s/n, 28031 Madrid (España) raquel.menendez@upm.es {franciscojavier.torregrosa,david.camacho}@upm.es Abstract. Durante los últimos años, la proliferación de ideologı́as ex- tremas en diversos ámbitos de la sociedad, como la polı́tica, la religión o los deportes, ejerce un gran impacto en el desarrollo de la identidad de los más jóvenes. Especialmente, en aquellos más vulnerables, ya sea por su carácter, situación familiar o la influencia de su entorno. Dada la gravedad de esta situación, es necesario crear y diseñar programas educativos para proteger a los más jóvenes de esa polarización. Este tra- bajo presenta YoungRes, un proyecto europeo cuyo principal objetivo es diseñar una intervención educativa para trabajar la fortaleza psicológica, o resiliencia, de los más jóvenes. Dicha resiliencia será mejorada medi- ante la promoción de habilidades psicológicas sociales y personales. El aspecto innovador del proyecto es que las intervenciones propuestas son una modificación de un programa existente (el programa Foritus) y ahora se inluyen sesiones con un juego serio (serious game). Con la inclusión de videojuegos en el proceso de aprendizaje se pretende motivar a los más jóvenes a trabajar diferentes contenidos teóricos atraı́dos por las historias que viven los personajes del videojuego. En este trabajo se describirán, por tanto, el modelo de intervención desarrollado y la descripción del juego serio resultante. Abstract. In recent years, the proliferation of extreme ideologies in dif- ferent areas of society, such as politics, religion or sports, has greatly af- fected the development of the identity of young people. This is specially critical on those who are more vulnerable, due to either their charac- ter, family situation or environment’s influence. Given this situation, it is needed to create and design educational programs to protect young people from this polarization. This paper presents an European project called YoungRes, whose main objective is to design an educational in- tervention to increase the psychological strength, or resilience, of young- sters. The innovative aspect of this project is that the proposed inter- vention is an adaptation of an existing program, called Fortius, on which serious game sessions are included. The main goal of this approach is to motivate young people to learn different theoretical contents through the stories experienced by the characters in the video game. In this article, we will describe the intervention program, together with the process of adapting it to include serious games, and the final design of the serious game. Copyright © 2020 for this paper by its authors. Use permitted under Creative Commons License Attribution 4.0 International (CC BY 4.0). 2 Menendez-Ferreira et al. Keywords: Resilience · Polarization · Video game · Serious Game · Eductation · Resiliencia · Polarización · Videojuego · Juego Serio · Edu- cación 1 Introducción Desde el fenómeno yihadista y hasta el resurgimiento de los movimientos polı́ticos nacionalistas extremistas, en la actualidad se está encontrando un aumento sin precedentes de las ideologı́as más radicales [25, 31]. Existen múltiples causas para esta situación; entre ellas, la crisis económica y el aumento de la migración dentro de Europa [4], ası́ como la visión e imagen que se ha dado de estos fenómenos a través de los medios de comunicación o desde la polı́tica. Esta visión de la actualidad polı́tica, unida a la amenaza terrorista que ha supuesto el Estado Islámico durante la segunda mitad de la década pasada, han facilitado la proliferación de ideas reaccionarias ante dichos fenómenos en la población. Según la Radicalisation Awareness Network (RAN)[27], el crecimiento de las ideas extremistas que derivan en la radicalización es un problema que preocupa cada vez más en Europa. Dado que la infancia y la adolescencia son etapas de la vida en las que las personas conforman su identidad propia, no es de extrañar que los más jóvenes sean los fragmentos de la población más suceptibles ante estos fenómenos. En muchas ocasiones sentirse pertenecientes a un grupo, aunque tenga ideas radicales, hace que se sientan integrados en la sociedad [26]. Muchas de las organizaciones polı́ticas y religiosas son conscientes de ello y centran sus esfuerzos en influenciar a este sector de la población. Uno de los principales medios de difusión de estas ideologı́as han sido las redes sociales, ya que resultan medios muy familiares y atractivos para los más jovenes. Esto facilita que la trasmisión de ideas extremistas se haga de manera rápida y descontrolada [30]. En este sentido, la Unión Europea ha financiado diferentes proyectos y pro- gramas para prevenir y detectar la radicalización islámica. Algunos de estos proyectos son RiskTrack1 [15, 16, 33, 34], ARMOUR2 o TRIVALENT3 [9]. Si bien estos proyectos han estado centrados en la radicalización islámica, estos no han sido los únicos centrados en reducir polarización. De hecho, hay que prestar atención a otros proyectos y programas que se han llevado a cabo en la Unión Europea para luchar contra este tipo de fenómenos en ámbitos como el deporte, donde se pueden ver bastantes situaciones de racismo e intolerancia. Algunos de estos proyectos han sido GOAL4 [6], The First Tee5 o el proyecto SAVEit 6 [21, 19, 22, 23]. Todos estos proyectos se han centrado en la creación de metodologı́as y programas educativos para desarrollar habilidades sociales y personales en los 1 http://risk-track.eu/es/ 2 https://armourproject.eu/ 3 https://trivalent-project.eu/ 4 https://www.projectgoal.eu/ 5 http://www.thefirsttee.org 6 http://saveitproject.eu Diseño de un juego serio para la prevención de la polarización en menores 3 más jóvenes, lo cual les permiten mejorar su resiliencia y, a la vez, reduce las posibilidades de verse involucrados en un proceso de radicalización. Teniendo en cuenta el gran potencial del desarrollo de la resiliencia como instrumento para confrontar cualquier tipo de radicalización, este trabajo se centra en la presentación del proyecto YoungRes [20]. Este proyecto pretende diseñar una metodologı́a innovadora que aúna la experiencia de expertos en la promoción de la resiliencia, como es el programa Fortius, y lo adapta a las nuevas tecnologı́as, diseñando un juego serio como elemento central de toda la formación. La estructura de este documento es la siguiente: la Sección 2 se hace una breve revisión del concepto de resiliencia y sus dimensiones, asi como, del papel de los juegos serios en la promoción de la resiliencia. La descripción del pro- grama Fortius y su adaptación a un juego serio será analizada en la Sección 3. En la Seccion 4 se hace una descripción detallada del juego serio desarrollado. Finalmente, en la Sección 5 se presentan las principales conclusiones y el trabajo futuro. 2 Resiliencia, educación y videojuegos Como punto de partida de este trabajo, es importante tratar de definir qué es la resiliencia. Vanistendael [35] definió la resiliencia como “la capacidad de una persona individual o de un sistema social para crecer y desarrollarse ante circunstancias difı́ciles”. En el ámbito de la psicologı́a, este término se empezó a estudiar a raı́z de la capacidad de recuperación que mostraban ciertas per- sonas cuando se enfrentaban a situaciones extremadamente difı́ciles, como es el caso del psicólogo Viktor Frankl. Frankl estuvo en un campo de concentración nazi, al cuál sobrevivió, logrando transformar dicha experiencia para ayudar al crecimiento personal de otras personas. Desde entonces, son numerosos los estudios que han tratado de identificar qué factores, o dimensiones, son las que influyen en las personas para fortalecerse o recuperarse ante circustancias adversas. Existe una gran variedad de trabajos que intentan definir tanto el número como el contenido de dichas dimensiones. En este trabajo, se usará la descripción proporcionada por Knight [14], dado su enfoque educativo. Knight establece tres dimensiones claves a la hora de promover la resiliencia: 1. La primera dimensión considera la resiliencia como un “estado”. Es decir, las personas poseen unas caracteristicas personales que les pre- disponen al buen manejo de las situaciones difı́ciles, concretamente, estas tres: a) competencia emocional (autoconcepto positivo, regulación, control de emociones,autonomı́a personal y sentido del humor), b) competencia so- cial (comunicación, la empatı́a, la benevolencia y el sentido de la pertenen- cia) y c) orientación hacı́a el futuro (propósito vital, optimismo, flexibilidad, adapatación, reflexión crı́tica y resolución de conflictos). 4 Menendez-Ferreira et al. 2. La segunda dimensión considera la resiliencia como una “condición” y supone aprovechar los factores de protección y minimizar los factores de riesgo. 3. La tercera dimensión considera la resiliencia como una “práctica”. Esta última dimensión se refiere a la puesta en práctica de programas y proyectos que promuevan la resiliencia, pero no sólo desde las escuelas, sino desde todos los ámbitos de la sociedad, incluyendo familias y comunidad El desarrollo de estas dimensiones es clave a la hora de diseñar cualquier proyecto educativo cuyo objetivo sea promover la resiliencia. Como hemos po- dido constatar, la mayorı́a de los programas desarrollados en este sentido han diseñado propuestas educativas para trabajar la mayorı́a de las dimesiones de- scritas por Knight como son: el programa Fortius [18], Brita Future [24], SMART [17], Coping Cat [11] o el programa FRIENDS for life [2]. Estos programas pro- ponen diferentes actividades y estrategias para enseñar competencias clave para el desarrollo personal y social a lo largo de la vida. Para ello, utilizan actividades clásicas como charlas, reflexiones, juegos de rol u hojas de trabajo. Aunque se ha demostrado que son buenas estrategias, a veces pueden no ser lo suficientemente atractivas para los estudiantes, lo que podrı́a provocar que pierdan el interés en los conceptos que se les está explicando. Para solucionar este problema, la inclusión de nuevas tecnologı́as, como los videojuegos, pueden ser útiles cuando se utilizan como herramientas para motivar a los estudiantes hacia los procesos de enseñanza-aprendizaje [23]. El uso de los juegos serios como herramienta de aprendizaje ha ido en au- mento en los últimos años. Actualmente, existen investigaciones en relación a la aplicación de los juegos serios en diversos campos como son la psicologı́a, la empresa, el ámbito militar, la informática, la sociologı́a o la pedagogı́a, entre otros [3]. Inicialmente, el objetivo de estos videojuegos es el de entrenar y resolver problemas de la vida real a través de simulaciones virtuales. En este tipo de videojuegos, los jugadores adquieren habilidades poniendo en practica estrate- gias y tomando decisiones sobre situaciones que se pueden dar en el mundo real [5]. Autores como Abt [1] propusieron el uso de videojuegos y simulaciones como forma de mejorar la educación dentro y fuera del aula. Este autor introdujo el concepto de juegos serios y lo definió como “videojuegos con un propósito educa- tivo explı́cito y cuidadosamente pensado que no están destinados a ser jugados por diversión. Esto no significa que los juegos serios no sean, o no deberı́an ser, entretenidos” [1]. Esta definición considera una amplia gama de videojuegos enfocados a pro- mover el aprendizaje, como son los juegos persuasivos [36], juegos para la salud [7] y juegos para el cambio social [13]. Estos juegos están diseñados para cam- biar comportamientos y actitudes ya que suelen tratar sobre temas sociales, culturales y emocionales [8]. Muchos de estos juegos son juegos de rol que usan la simulación para recrear situaciones que impliquen poner en práctica tanto habilidades cognitivas como afectivas por parte del jugador. Diseño de un juego serio para la prevención de la polarización en menores 5 El juego de rol es uno de los géneros más utilizados para desarrollar jue- gos serios, ya que utilizan la simulación para recrear situaciones que implican las habilidades cognitivas y emocionales de los jugadores [28]. En este tipo de videojuegos, los jugadores asumen el papel de un avatar y siguen una histo- ria tomando decisiones con consecuencias para el desarrollo de la misma [32]. Los investigadores han demostrado el efecto positivo de la identificación de los jugadores con los personajes principales [32]. Esta identificación hace que los jugadores asimilen las mismas caracterı́sticas y rasgos de personalidad de su personaje en el juego. A su vez, este tipo de videojuegos contribuye a la creación de un entorno de aprendizaje, en el que los niños pueden practicar habilidades como la empatı́a, el trabajo en equipo, la toma de decisiones, resolución de conflictos o la gestión emocional [12, 10]. Y, por lo tanto, los niños recibirı́an herramientas para fortalecer su capacidad de resiliencia, que es precisamente el objetivo del proyecto YoungRes. 3 Adaptación del programa Fortius a un videojuego Como ya se ha mencionado en la introducción, el principal objetivo del proyecto YoungRes es mejorar la capacidad de resiliencia de niños y jóvenes como un mecanismo para proteger y prevenir la polarización y radicalización. Para ello se ha utilizado como punto de partida el programa Fortius. Fortius es un programa de intervención desarrollado en Murcia y Elche (España) con el objetivo de fortalecer psicológicamente a niños de entre 8 y 12 años, a través de la promoción de competencias personales y sociales. Para ello combinan enfoques de la psicologı́a clı́nica (orientado a las amenazas ambientales y debilidades personales) y de la psicologı́a positiva (orientado a las potencial- idades del contexto y fortalezas de la persona) [18]. Tratando de minimizar los factores de riesgo y fortalecer los factores de protección personal (segunda de las dimensiones clave para trabajar la resiliencia). Principalmente, el programa Fortius trata de prevenir problemas psicológicos derivados de problemas emocionales que puedan surgir como son la ansidad, fo- bias o la depresión en niños y jóvenes. Para lograrlo, también trabaja diferentes dimensiones de la resiliencia, concretamente trabaja con estas tres: 1) emo- cional (entender y controlar emociones), 2) conductual (mejorar habilidades sociales y personales) y, 3) cognitiva (mejorar los procesos cognitivos y la toma de deciones). Fortius trabaja estas dimensiones de manera global e interconectada, estable- ciendo en todo momento las relaciones entre los pensamientos, los sentimientos y los comportamientos de las personas. La intervención se divide en 12 sesiones y sigue la siguiente estructura: 1. Presentación del contenido teórico sobre el que se va a trabajar mediante charlas. 2. Tareas y ejercicios sobre los contenidos teóricos, que se presentan en difer- entes formatos: fichas, juegos de rol, redacciones, etc. 6 Menendez-Ferreira et al. 3. Tarea para realizar en casa, normalmente consiste en poner en práctica al- guno de los ejercicios realizados en clase. 4. Tarea divertida: para terminar la sesión y relajar a los niños. La novedad del proyecto YoungRes radica en la inclusión de videojuegos como elemento central del proceso de aprendizaje. Con este cambio se busca aumentar la motivación de los jóvenes en el proceso de aprendizaje, y por tanto, mejorar la asimilación de conceptos, lo que repercute directamente en un aumento de la resiliencia. YoungRes adapta parte de la metodologı́a del programa Fortius no sólo in- cluyendo el videojuego como elemento central de la formación, sino que también crea y añade nuevos contenidos como por ejemplo, la interculturalidad, elemento importante a trabajar a la hora de prevenir la radicalización. Como resultado, se propone una intervención mixta, utilizando un videojuego y las clases conven- cionales. Lo cual conlleva una adaptación de las fases propuestas por el programa Fortius de tal manera que las nuevas fases serán las siguientes: F1. Comienza la sesión jugando a un capı́tulo del videojuego. En dicho capı́tulo estarán presentes diferentes conceptos teóricos que se trabajarán más tarde. F2. Explicación del profesor de los contenidos teóricos, en formato charla para seguir captando la atención de los niños. F3. Ejercicios prácticos sobre el videojuego, se proponen una serie de fichas que hacen referencia a las decisiones tomadas. En estos ejercicios los niños deben reflexionar sobre las decisiones que han tomado y las consecuencias que tienen para sus personajes. En la Figura 1 se puede ver un ejemplo de los ejercicios propuestos en la adaptación de YoungRes. F4. Finalmente, los jóvenes vuelven a jugar al videojuego una vez más. Esta vez jugarán al siguiente capı́tulo, que está relacionado con el anterior y en la que se enfrentan a acontecimientos que les permite practicar lo que han aprendido durante la sesión. Con este enfoque, el videojuego cumple dos funciones diferentes en cada sesión: en primer lugar, actúa como introducción para cada tema, presentando al niño/a el contexto y la situación del concepto que se abordará en esa sesión. Y, en segundo lugar, ayuda a desarrollar actividades y ejercicios en los que los jóvenes pueden poner en práctica lo que han aprendido, y los resultados de estos ejercicios pueden ser supervisados para evaluar cuánto está mejorando la clase. 4 Descripción del videojuego desarrollado A la hora de diseñar el videojuego, se ha tomado la decisión de desarrollar un juego de rol (RPG), dado que dentro de la literatura cientı́fica se muestra como una buena herramienta para la creación de situaciones que requiren tomar decisiones y ver las consecuencias de las mismas [29]. Dentro del campo de la educación en valores, los juegos de rol son una de las principales metodologı́as para la discusión y debate de situaciones morales. Diseño de un juego serio para la prevención de la polarización en menores 7 Fig. 1. Ejemplo de ejercicio relativo al videojuego de YoungRes. El videojuego desarrollado está destinado a niños de entre 9 y 12 años. El jugador, al inicio del videojuego, debe elegir si su personaje principal va a ser un chico o una chica. Por lo tanto, debe ponerse en la piel de un niño, o niña, que ha tenido varios problemas con un compañero de origen musulmán que ha sido acosado. El primer capı́tulo se inicia en el instituto con una charla con el director y su madre. A partir de ahı́, el protagonista tiene que tomar diferentes decisiones que le permitirán conocer otro punto de vista acerca del mundo que rodea al compañero musulmán. Cabe destacar que a lo largo del videojuego, el estudiante se enfrentará a lecciones sobre la gestión de las emociones, la escucha activa, la reflexión o la resolución de conflictos, entre otros. Sin embargo, este viaje no lo hace solo. Otro personaje, en este caso un juguete que sólo el protagonista del videojuego puede ver, cobrará vida para guiarle en el proceso de toma de decisiones. Este nuevo personaje actuará como la voz de la conciencia del protagonista durante todo el juego y le explicará conceptos fundamentales para desarrollar su resiliencia. Junto con los contenidos relativos a las competencias presentes en la resilien- cia, se les presenta una visión de la cultura islámica, con el objetivo de que el protagonista se familiarice con el niño previamente acosado y ası́ empatizar con él. La figura 2 muestra una captura de pantalla de este primer prototipo del videojuego. 8 Menendez-Ferreira et al. Fig. 2. Captura de pantalla del videojuego. En dicha imagen, un personaje le da un consejo al protagonista sobre cómo deberı́a comportarse. El videojuego se está desarrollando utilizando el software RPG Maker7 , ya que dispone de varios módulos que permiten su utilización para usuarios sin gran necesidad de conocimientos técnicos. Esta caracterı́stica hace que todo nuestro esfuerzo, al principio del proyecto, se centre en los temas que queremos trabajar con los jóvenes y la narración del videojuego. Además, RPG Maker se centra en la creación de juegos de tipo RPG, por lo que dispone de procedimientos ya creados que son necesarios para la implementación de las mecánicas. Por último, los juegos RPG son realmente útiles debido a la posibilidad de interactuar con los personajes y definir su acción futura a través de las decisiones tomadas durante las conversaciones. Por lo tanto, las conversaciones pueden ser utilizadas como una herramienta para transmitir los conocimientos deseados, pero también para extraer aquellos factores que permitan a los profesores evaluar el aprendizaje de los jóvenes. 5 Conclusiones y Trabajo Futuro El objetivo de este trabajo ha sido describir el desarrollo de una intervención mixta, combinando el uso de un juego serio con un programa de promoción de la resiliencia. Para desarrollar este objetivo, se ha realizado una revisión de los principales programas y proyectos dirigidos a promover la resiliencia, y de ellos se ha seleccionado el programa Fortius como referente dado los resultados positivos que habı́a alcanzado. En este trabajo se describe una adaptación del programa Fortius para que la metodologı́a de aprendizaje incluya un juego serio como elemento principal de la intervención. De modo que las funciones de este juego serio son: en primer lugar, servir como introducción a los contenidos teóricos que se van a tratar en la clase presencial. Y, en segundo lugar, presentar desafı́os y actividades, para que los jugadores puedan poner en práctica las competencias que han aprendido. 7 https://www.rpgmakerweb.com/ Diseño de un juego serio para la prevención de la polarización en menores 9 Como trabajo futuro, serı́a la implantación de este sistema en centros educa- tivos donde los estudiantes podrán utilizar el programa descrito. Estas pruebas se usarán para validar el programa de intervención propuesto, verificando, tanto, si los jóvenes encuentran la intervención interesante, como, si la intervención propuesta es útil para mejorar la resiliencia. Agradecimientos Este trabajo se ha realizado con la financiación del proyecto YoungRes: Strength- ening European Youngsters Resilience through Serious Game, bajo el programa Internal Security Fund-Police action: 823701-ISFP-2017-AG-RAD. References 1. Abt, C.C.: Serious Games. Lanham, MD (1987) 2. Barrett, P., Lowry-Webster, H., Turner, C.: Friends program for children: Group leaders manual (2000) 3. Breuer, J., Bente, G.: Why so serious? On the Relation of Serious Games and Learning 4(1), 7–24 (2010) 4. Buonfino, A.: Politics, discourse and immigration as a security concern in the eu: a tale of two nations, italy and britain. In: ECPR Joint Sessions of Workshops. Uppsala: ECPR (2004) 5. Caballero-Hernández, J.A., Palomo-Duarte, M., Dodero, J.M.: Skill assessment in learning experiences based on serious games: A Systematic Mapping Study. Computers & Education 113, 42–60 (2017) 6. Danish, S.J.: Going for the goal: A life skills program for adolescents. In: Primary prevention works: issues in children’s and families’ lives. pp. 291–313 (1997) 7. DeSmet, A., Van Ryckeghem, D., Compernolle, S., Baranowski, T., Thompson, D., Crombez, G., Poels, K., Van Lippevelde, W., Bastiaensens, S., Van Cleemput, K., et al.: A meta-analysis of serious digital games for healthy lifestyle promotion. Preventive medicine 69, 95–107 (2014) 8. Dormann, C., Biddle, R.: Understanding game design for affective learning. In: Proceedings of the 2008 Conference on Future Play: Research, Play, Share. pp. 41–48. ACM (2008) 9. Fernandez, M., Asif, M., Alani, H.: Understanding the roots of radicalisation on twitter. In: Proceedings of the 10th ACM Conference on Web Science. p. 1–10. WebSci ’18, Association for Computing Machinery (2018) 10. Gordon, E., Schirra, S.: Playing with empathy: digital role-playing games in public meetings. In: Proceedings of the 5th International Conference on Communities and Technologies. pp. 179–185 (2011) 11. Kendall, P.: Coping cat manual. Ardmore, PA: Workbook (1990) 12. Khoo, A.: Video games as moral educators? Asia Pacific Journal of Education 32(4), 416–429 (2012) 13. Klimmt, C.: Serious games and social change: Why they (should) work. In: Serious Games, pp. 270–292. Routledge (2009) 14. Knight, C.: A resilience framework: perspectives for educators. Health Education 107(6), 543–555 (2007) 10 Menendez-Ferreira et al. 15. Lara-Cabrera, R., Gonzalez-Pardo, A., Benouaret, K., Faci, N., Benslimane, D., Camacho, D.: Measuring the radicalisation risk in social networks. IEEE Access 5, 10892–10900 (2017) 16. Lara-Cabrera, R., Gonzalez-Pardo, A., Camacho, D.: Statistical analysis of risk assessment factors and metrics to evaluate radicalisation in twitter. Future Gener- ation Computer Systems 93, 971–978 (2019) 17. Loprinzi, C.E., Prasad, K., Schroeder, D.R., Sood, A.: Stress management and resilience training (smart) program to decrease stress and enhance resilience among breast cancer survivors: a pilot randomized clinical trial. Clinical breast cancer 11(6), 364–368 (2011) 18. Méndez, F., Llavona, L., Espada, J., Orgilés, M.: Programa fortius. fortaleza psi- cológica y prevención de las dificultades emocionales. Madrid: Pirámide (2012) 19. Menéndez-Ferreira, R., Barquı́n, R.R., Maldonado, A., Camacho, D.: Education in sports values through gamification. In: Proceedings of INTED2018 Conference on 5th-7th March 2018, Valencia, Spain. pp. 6139–6147 (2018) 20. Menendez-Ferreira, R., Torregrosa, J., Panizo-LLedot, A., Gonzalez-Pardo, A., Ca- macho, D.: Improving youngsters resilience through video game-based interven- tions. Vietnam Journal of Computer Science pp. 1–17 (2020) 21. Menéndez-Ferreira, R., Barquı́n, R.R., Maldonado, A., Camacho, D.: Análisis y propuesta de una herramienta basada en gamificación para la educación en valores dentro del deporte. In: Proc. XVIII Conf. Asociación Espanola para la Inteligencia ArtiŻcial. pp. 1039–1045 (2018) 22. Menéndez-Ferreira, R., Gómez, M., Camacho, D.: Save it: Saving the dream of a grassroots sport based on values. In: CEUR Workshop Proceedings. Herrero Ezquerro, Marı́a Trinidad (2017) 23. Menendez-Ferreira, R., Gonzalez-Pardo, A., Ruı́z Barquı́n, R., Maldonado, A., Camacho, D.: Design of a software system to support value education in sports through gamification techniques. Vietnam Journal of Computer Science 6(01), 57– 67 (2019) 24. Mitchelson, M.R., Erskine, H.E., Ramirez, E., Suleman, F., Prasad-Ildes, R., Siskind, D., Harris, M.: Brita futures: A resilience-building program for children and young people from culturally and linguistically diverse backgrounds–program description and preliminary findings. Advances in Mental Health 9(3), 243–254 (2010) 25. Panizo-LLedot, A., Torregrosa, J., Bello-Orgaz, G., Thorburn, J., Camacho, D.: Describing alt-right communities and their discourse on twitter during the 2018 us mid-term elections. In: International Conference on Complex Networks and Their Applications. pp. 427–439. Springer (2019) 26. Parliamentary Assembly of the Council of Europe Committee on Social Affairs, Health and Sustainable Development (PACE): Preventing the radicalisation of children and young people by fighting the root causes (2016) 27. Radicalisation Awareness Network (RAN): Preventing radicalisation to terrorism and violent extremism. Approaches and practices European Commission. (2017) 28. Schrier, K.: Epic: A framework for using video games in ethics education. Journal of Moral Education 44(4), 393–424 (2015) 29. Simkins, D.W., Steinkuehler, C.: Critical ethical reasoning and role-play. Games and Culture 3(3-4), 333–355 (2008) 30. Thompson, R.: Radicalization and the use of social media. Journal of strategic security 4(4), 167–190 (2011) Diseño de un juego serio para la prevención de la polarización en menores 11 31. Thorburn, J., Torregrosa, J., Panizo, Á.: Measuring extremism: Validating an alt- right twitter accounts dataset. In: International Conference on Intelligent Data Engineering and Automated Learning. pp. 9–14. Springer (2018) 32. Tichon, J.G., Mavin, T.: Experiencing resilience via video games: A content analy- sis of the playstation blog. Social Science Computer Review 35(5), 666–675 (2017) 33. Torregrosa, J., Panizo, Á.: Risktrack: assessing the risk of jihadi radicalization on twitter using linguistic factors. In: International Conference on Intelligent Data Engineering and Automated Learning. pp. 15–20. Springer (2018) 34. Torregrosa, J., Thorburn, J., Lara-Cabrera, R., Camacho, D., Trujillo, H.M.: Lin- guistic analysis of pro-isis users on twitter. Behavioral Sciences of Terrorism and Political Aggression pp. 1–15 (2019) 35. Vanistendael, S.: Resilience and spirituality. Resilience in palliative care: Achieve- ment in adversity 2007, 115–135 (2007) 36. Wright, W., Bogost, I.: Persuasive games: The expressive power of videogames. Mit Press (2007)