<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>Designing dashboards for students and instructors in a Sakai supported face-to-face learning environment</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>Haro-Valle</string-name>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Valeria</string-name>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Benlloch-Dualde</string-name>
        </contrib>
        <contrib contrib-type="author">
          <string-name>José-V.</string-name>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Lemus-Zúñiga</string-name>
          <email>lemus@upv.es</email>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Lenin y Maldo- nado-Mahauad</string-name>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Jorge J.</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
        </contrib>
        <aff id="aff0">
          <label>0</label>
          <institution>Universidad de Cuenca</institution>
          ,
          <country country="EC">Ecuador</country>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>Universitat Politècnica de València</institution>
          ,
          <addr-line>Valencia 46022</addr-line>
          ,
          <country country="ES">Spain</country>
        </aff>
      </contrib-group>
      <abstract>
        <p>A very recent review of the literature in the field of Visual Learning Analytics states that the use of these techniques is quite frequent in blended learning or online learning environments, including MOOCs. However, this is not the case in classroom learning environments. In this context, the paper aims at studying how using Visual Learning Analytics can contribute to a better understanding of the educational processes in face-to-face educational contexts, supported by a Sakai-based Virtual Learning Environment. Considering that the institutional platform reports are only available for teachers, the main objective is the design and implementation of a learning dashboard that could help students in their learning process. To accomplish that, it should integrate data from different sources, generating easy to understand visual representations. Additionally, the same data sources will be used to develop a dashboard for instructors that could help them to provide formative feedback to their students, or to improve the teaching materials they use. In order to create the dashboards, visualization tools such as Tableau and QlikSense have been initially employed. However, it was decided to use the java script library D3.js, as it allows us to create any imaginable visualization and because of the interactivity it offers. To conclude, some preliminary results are discussed, and further research is outlined.</p>
      </abstract>
      <kwd-group>
        <kwd>Visual Learning Analytics</kwd>
        <kwd>Learning Dashboard</kwd>
        <kwd>Face-to-Face Learning Environment</kwd>
        <kwd>Sakai</kwd>
      </kwd-group>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>
        años después se acuña una definición bastante aceptada del mismo, como: “la medición,
recopilación, análisis y realización de informes de datos sobre los alumnos y sus
contextos, con el propósito de entender y optimizar el aprendizaje y los entornos en los que
se produce” [
        <xref ref-type="bibr" rid="ref1">1</xref>
        ].
      </p>
      <p>
        No menos importantes que las técnicas de análisis son las estrategias para visualizar
esos conjuntos de datos y cómo el tipo de representaciones escogidas contribuyen a
facilitar su interpretación. Esta disciplina se conoce como Visual Analytics (VA) y ha
sido definida como "la ciencia del razonamiento analítico facilitada por las interfaces
visuales interactivas" [
        <xref ref-type="bibr" rid="ref2">2</xref>
        ]. Si los profesores tuvieran acceso a visualizaciones efectivas
de sus datos educativos, podrían usarlos para proporcionar retroalimentación formativa
a sus estudiantes o para mejorar los materiales didácticos que emplean. Del mismo
modo, si los estudiantes pudieran tener acceso a este tipo de visualizaciones, se podría
favorecer el desarrollo de sus habilidades de autorregulación del aprendizaje y
ayudarles a conseguir sus objetivos.
      </p>
      <p>
        En un trabajo muy reciente [
        <xref ref-type="bibr" rid="ref3">3</xref>
        ], se realiza una revisión sistemática de la literatura en
la intersección de las áreas citadas anteriormente y se introduce el término Visual
Learning Analytics (VSA) como “el uso de herramientas y métodos computacionales para la
comprensión de fenómenos educativos a través de técnicas de visualización
interactiva”. De los 52 trabajos revisados en el estudio, tan solo tres correspondían a contextos
de enseñanza presencial, siendo los más frecuentes los entornos híbridos (blended
learning), los enteramente on-line o los MOOC. En esta línea, este trabajo se propone
estudiar cómo el uso de técnicas de VLA puede contribuir a comprender mejor los
procesos educativos en cursos de enseñanza presencial apoyados en el uso de la plataforma
institucional Poliformat [
        <xref ref-type="bibr" rid="ref4">4</xref>
        ], basada en Sakai. En este planteamiento, resulta de gran
interés un estudio anterior [
        <xref ref-type="bibr" rid="ref5">5</xref>
        ] que aborda la relación entre los datos de interacción en
la plataforma con el rendimiento académico, ya que analiza también este mismo tipo
de contextos educativos, también llamados VLE-supported F2F courses.
      </p>
      <p>
        Tal y como apunta un reciente informe del Departamento de Educación de los
Estados Unidos [
        <xref ref-type="bibr" rid="ref6">6</xref>
        ], la información proporcionada a estudiantes y profesores sobre el nivel
de logro de los objetivos de aprendizaje es más valiosa si está disponible en un lugar de
fácil acceso. Con este fin, aboga por introducir los dashboards de aprendizaje, que
pueden utilizarse para integrar información de distintas fuentes generando representaciones
visuales fáciles de entender.
      </p>
      <p>El principal objetivo de este trabajo es el diseño e implementación de un dashboard
en un entorno de enseñanza presencial donde el estudiante pueda, de manera sencilla,
interpretar las gráficas que se le presentan para monitorizar su aprendizaje durante el
curso académico. Por otro lado, se creará también un dashboard para el profesor de
modo que pueda, a partir de los datos presentados, identificar a los alumnos en riesgo,
observar el acceso a los materiales o la entrega de las tareas propuestas, entre otras, y
así poder tomar alguna medida correctora.</p>
      <p>El resto del trabajo se estructura como sigue: la sección 2 describe la arquitectura
del sistema y los bloques que la forman; la sección 3 expone los criterios seguidos en
el diseño del dashboard; la sección 4 introduce los resultados preliminares y, por
último, la sección 5 presenta las conclusiones.</p>
    </sec>
    <sec id="sec-2">
      <title>Arquitectura</title>
      <p>Para la implementación del dashboard se considera la arquitectura descrita en la Fig.
1, donde se definen 3 bloques. En el primero, se identifican las fuentes de datos, en el
segundo se realizan procesos de extracción, limpieza y carga para preparar los datos
que serán la entrada del bloque 3 y, en este último, se diseña e implementa el dashboard.</p>
      <p>Dado que el contexto de nuestro estudio es una enseñanza presencial soportada por
el uso de un entorno virtual de aprendizaje, los datos proporcionados por la plataforma
van a ser la principal fuente de datos. En nuestro caso, la plataforma institucional, y
más concretamente su herramienta “Estadísticas”, permite generar informes sobre las
interacciones de los usuarios con aquella, para cada uno de los cursos donde de utiliza.
Para cada informe se puede definir el tipo de actividad (visitas, eventos, acceso a
recursos, tiempo de estancia), el intervalo temporal al que se refiere, los usuarios a
monitorizar y cómo se mostrarán los resultados. Una vez generados los datos, se exportan en
ficheros CSV o XLS. Si bien la cantidad y calidad de los datos que se pueden obtener
en estos informes son considerables, es importante señalar que siempre están
restringidos a las opciones implementadas en la herramienta y que, por tanto, no se tiene un
acceso completo a la base de datos que almacena los logs de los usuarios que acceden
a la plataforma.</p>
      <p>Por otro lado, se utilizan también los ficheros de calificaciones de las asignaturas,
igualmente en formato CSV, que almacenan las notas de los diferentes actos de
evaluación y que serán de gran utilidad para relacionar la información obtenida de la
plataforma con la de rendimiento académico.</p>
      <p>
        Las fuentes de datos anteriores se podrían complementar con muchas otras, algunas
genéricas y otras dependientes del enfoque utilizado en cada asignatura, tal y como se
apunta en diversos estudios [
        <xref ref-type="bibr" rid="ref7 ref8">7, 8</xref>
        ]. Entre las primeras cabe considerar, por ejemplo, los
ficheros de asistencias a las sesiones presenciales, los accesos a las bases de datos de la
biblioteca o incluso las bases de datos donde se guardan los expedientes de los
estudiantes y que incluyen, entre otros, datos demográficos, notas de acceso, opciones
de matrícula, rendimiento en cursos anteriores. Aunque el acceso a estos datos puede
ser, en no pocas ocasiones, bastante difícil de obtener, las posibilidades que abren son
enormes. Respecto a las fuentes de datos específicas, en algunos cursos se utilizan
aplicaciones tales como Socrative1 o Kahoot2, por citar dos muy populares, para generar
cuestionarios. Las respuestas de los estudiantes se recogen en una serie de informes que
podrían ser igualmente de gran utilidad. En otros cursos se hace uso de redes sociales
como Twitter, Facebook, Instagram u otras. Las respectivas API de estas redes podrían
proporcionar igualmente fuentes de datos a incorporar a nuestro sistema. Dependiendo
de las herramientas utilizadas en cada curso, se pueden integrar distintas fuentes de
datos.
2.2
      </p>
      <sec id="sec-2-1">
        <title>Extracción, transformación y carga (ETL)</title>
        <p>Los procesos ETL (Extract, Transform and Load), permiten copiar los datos de una
fuente y cargarlos en otra. En la primera fase, denominada extracción, se toman los
datos de diferentes fuentes, ya sean bases de datos, archivos de texto, hojas de cálculo,
entre otras. Posteriormente, en la fase de transformación, se realiza una limpieza de
datos y se modifican para estandarizar los datos en un determinado formato.
Finalmente, estos datos serán cargados en otro repositorio durante la fase de carga.</p>
        <p>Utilizando la herramienta Pentaho Data Integration o también conocida como
Kettle3, se realizan varios procesos ETL con la finalidad de preparar los datos que serán
mostrados en el dashboard. En la Fig. 2 se expone el proceso ETL de los datos de la
asignatura Tecnología de Computadores (TCO), de primer curso del Grado de
Ingeniería Informática de la Universitat Politècnica de València, donde se recogen los informes
de los eventos realizados por cada alumno, el tiempo por día que el estudiante ha
accedido al sistema, los recursos a los que accede y las notas finales obtenidas por los
estudiantes. Estos datos se recogen en archivos Excel y se integran mediante el identificador
del estudiante, además, se realizan transformaciones de datos como el reemplazo de los
datos nulos por “0” y la extracción del identificador del grupo al que pertenece el
estudiante de una cadena de caracteres. Y durante el paso final se almacena los datos en un
nuevo archivo.</p>
        <p>
          Las variables disponibles tanto para la asignaturas de Grado TCO y Fundamentos de
Computadores (FCO), como para Información Multimedia en entornos
Multidispositivo (IMM) , esta última del master de Gestión de la Información (MUGI) son: el
identificador del estudiante, asignatura, número de eventos realizados en la plataforma,
fecha del evento realizado por el estudiante, tiempo de conexión a la plataforma, número
de clases a las que asiste, recursos a los que accede y notas adquiridas en los diferentes
actos de evaluación. A partir de estos datos se crearán indicadores para el dashboard.
1https://www.socrative.com/materials/SocrativeUserGuide.pdf
2https://kahoot.com/blog/2017/02/20/download-evaluate-kahoot-results-data/
3https://www.hitachivantara.com/en-us/products/big-data-integration-analytics/pentaho-data-integration.html
Stephen Few define un dashboard como una visualización de la información más
importante para lograr uno o más objetivos; información consolidada y organizada en una
sola pantalla por lo que puede ser monitoreada de un vistazo [
          <xref ref-type="bibr" rid="ref9">9</xref>
          ].
        </p>
        <p>
          Se han desarrollado dashboards para los diferentes niveles y tipos de educación, con
diferentes tecnologías y diferentes enfoques. Con la popularidad que ha tenido la
educación online en los últimos años, se han desarrollado las plataformas MOOC (Massive
open online courses) para dar soporte durante el proceso de aprendizaje, así como
también herramientas como NoteMyProgress, que permite a los usuarios del navegador
Google Chrome integrarse con las plataformas MOOC para recolectar datos y facilitarle
un dashboard al estudiante, que permite analizar información de la actividad en su
aprendizaje [
          <xref ref-type="bibr" rid="ref10">10</xref>
          ].
        </p>
        <p>
          Otra herramienta conocida como StepUp está dirigida principalmente a los
profesores en un contexto de aprendizaje colaborativo asistido por computadora, y también
facilita una versión móvil dirigida a los estudiantes para brindar información de los
esfuerzos que ha realizado durante la semana y el esfuerzo general hasta la fecha [
          <xref ref-type="bibr" rid="ref11">11</xref>
          ].
        </p>
        <p>
          Como estas herramientas mencionadas, se han desarrollado otras, como
LOCOAnalyst [
          <xref ref-type="bibr" rid="ref12">12</xref>
          ], GLASS [
          <xref ref-type="bibr" rid="ref13">13</xref>
          ], SAM y CourseSignal [
          <xref ref-type="bibr" rid="ref14">14</xref>
          ] que analizan los accesos, el uso
de los contenidos, mensajes y resultados del rendimiento del estudiante. Además, otras
herramientas como Student Success System [
          <xref ref-type="bibr" rid="ref15">15</xref>
          ], SNAPP y Narcissus extraen datos de
redes sociales para integrarlos con datos académicos y lograr de esta manera un análisis
integral del estudiante [
          <xref ref-type="bibr" rid="ref11">11</xref>
          ].
        </p>
        <p>Las herramientas anteriores se han desarrollado tanto en versiones Web y móvil, lo
que permite que la herramienta esté al alcance de los estudiantes y profesores a través
de los dispositivos que utilizan diariamente. Para el desarrollo del presente proyecto se
considera la implementación de una versión Web multidispositivo que mediante la
utilización de mensajes en formato JSON se lleve a cabo la comunicación entre el lado
servidor (fuente de datos) y el lado cliente (herramienta de visualización).</p>
      </sec>
    </sec>
    <sec id="sec-3">
      <title>Diseño del dashboard</title>
      <p>Los dashboards utilizan diferentes técnicas de visualización ya sea gráficos de barras,
gráficos pastel, tablas, nube de palabras, líneas de tiempo, gráficos de dispersión, entre
otros, que son seleccionados apropiadamente dependiendo de la información que van a
representar, con el objetivo de facilitar la abstracción de la información tanto al profesor
como al estudiante.</p>
      <p>
        Para la creación del dashboard, Stephen Few menciona 13 errores comunes en el
diseño que debemos evitar, los mismos que se presentan a continuación [
        <xref ref-type="bibr" rid="ref9">9</xref>
        ]:
1. Exceder los límites de una sola pantalla
2. Proveer el contexto inadecuada de los datos
3. Visualización con excesivo detalle o precisión
4. Elegir una medida deficiente
5. La elección de gráficos inapropiados
6. Incluir alguna complejidad sin sentido
7. Uso de medios de visualización mal diseñados
8. Mostrar datos cuantitativos inexactos
9. La organización pobre de los datos
10. Destacar los datos importantes erróneamente o no resaltarlos en absoluto
11. Saturación o con demasiada decoración
12. El mal uso o el uso excesivo del color
13. Diseñar una visualización poco atractiva
      </p>
      <p>Para diseñar el dashboard se tomaron en cuenta estas recomendaciones y se
analizaron diversas opciones de herramientas de visualización de datos empleadas en el
ámbito de la inteligencia de negocios y big data. Con el fin de ensayar distintas
aproximaciones hasta llegar a definir el modelo de dashboard propuesto, se utilizaron
inicialmente algunas herramientas disponibles en el mercado, evitando así el tiempo necesario
para los correspondientes desarrollos. En particular, se optó por las aplicaciones
Tableau4 y QlikSense5.</p>
      <p>Tableau es un software comercial que facilita la visualización de datos de forma
interactiva, lo cual le ha hecho popular en el campo empresarial. De forma similar,
Qlik-Sense facilita la creación de gráficas para realizar el análisis de los datos y la
creación de dashboards interactivos.</p>
      <p>
        Por otro lado, un estudio comparativo entre Tableau y D3.js6, explica que se puede
utilizar Tableau en el caso de que no se tengan conocimientos de programación, ya que
brinda al usuario una interfaz gráfica muy intuitiva para realizar análisis y exploración
de datos. También se afirma que el uso de D3.js es más apropiado cuando hay requisitos
de gráficos complejos o altos requisitos de interactividad [
        <xref ref-type="bibr" rid="ref16">16</xref>
        ].
      </p>
      <p>Con el fin de tener mayor flexibilidad en la creación del dashboard junto con
mayores opciones de interactividad, para el modelo final se ha optado por un desarrollo
4 https://www.tableau.com/
5 https://www.qlik.com/es-es/products/qlik-sense
6 https://d3js.org/
propio, utilizando la librería java script D3.js. Esto permitirá que los estudiantes puedan
acceder fácilmente a un dashboard personalizado y escalable.
4</p>
    </sec>
    <sec id="sec-4">
      <title>Resultados</title>
      <p>Después de ensayar los distintos tipos de gráficos ofrecidos por las herramientas
citadas en la sección anterior, así como sus respectivas combinaciones, se ha optado
por el modelo de dashboard que se presenta en la Fig. 3, que se describe a continuación.
En la sección superior izquierda, una gráfica de tipo velocímetro que indica al
estudiante mediante colores, el estado que presenta en una determinada asignatura, donde
el rojo significa riesgo, el amarillo precaución y el verde significa que el estudiante
tiene un buen rendimiento académico. Además, se muestra la nota que ha obtenido el
estudiante en las dos últimas tareas o exámenes. También se incluye un gráfico que
muestra la popularidad de los recursos que están al alcance del estudiante, y otro gráfico
de pastel para que el estudiante conozca el número de eventos, según el tipo de evento
a los que accede. En la sección de la derecha se tienen dos gráficas con el tiempo de
acceso a la plataforma para examinar el ritmo que lleva el estudiante mensualmente y
durante las últimas semanas. Incluir adicionalmente un indicador de la media del
tiempo de actividad de su clase es clave para que el estudiante pueda medir si está
comprometido en el aprendizaje de la asignatura como sus otros compañeros o, por el
contrario, necesitaría una mayor implicación.</p>
      <p>Es importante resaltar que, en la parte superior de la Fig 3, se pueden distinguir los
filtros que puede realizar el usuario del dashboard, permitiendo la interacción del
usuario con la herramienta y la generación de consultas por asignatura, año o mes, y donde,
únicamente el perfil profesor, podrá realizar el filtro por un estudiante determinado o
un grupo de estudiantes.</p>
      <p>Además, para el perfil profesor se incluyen las gráficas de barra mostradas en la Fig
4. donde, basándonos en las notas que ha obtenido el estudiante previamente, el
profesor se mantiene informado durante todo el periodo académico de qué estudiantes tienen
mayor riesgo en la asignatura, al tiempo que le permite identificar aquellos con mejores
resultados. Por otra parte, le permite analizar la correlación entre asistencia y
calificaciones y monitorizar la actividad en la plataforma.</p>
      <p>El trabajo aún está en progreso, pero en análisis preliminares y exploratorios que se
realizaron con los datos facilitados, comienzan a aparecer resultados interesantes.
Como puede observarse en la Fig. 5, en un análisis por grupos para una asignatura de
primer curso de Grado en Ingeniería Informática (TCO) existe una correlación positiva
entre el tiempo de estancia del estudiante en la plataforma y la nota final obtenida, lo
que apoya con datos la utilidad de la plataforma como soporte al aprendizaje.</p>
      <p>Por otro lado, se han encontrado ciertas particularidades en la utilización de la
plataforma Poliformat, dependiendo de la forma en que los estudiantes trabajan en cada
curso. Por ejemplo, en una de las asignaturas de máster analizadas (Información
multimedia en entornos multidispositivo), el profesor ofrece la posibilidad de realizar todos
los trabajos y tareas del curso, tanto en equipo como individualmente. Este hecho ha
causado que uno de los integrantes del grupo, apenas registre actividad en Poliformat,
lo que complica los análisis y supone mostrar datos erróneos en el dashboard, pues las
interacciones de este/a estudiante debieran asociarse a las de su compañero/a de equipo.
Para solucionar esta particularidad, cada estudiante pertenecerá a un grupo dentro de su
clase, así después las estadísticas podrán ser generadas en base al identificador del
grupo en lugar de usar el identificador individual del estudiante.
Este trabajo ha indagado en el estudio de cómo el uso de técnicas de VLA puede
contribuir a comprender mejor los procesos educativos en cursos de enseñanza presencial
apoyados en el uso de entornos virtuales de aprendizaje, tales como Sakai. El objetivo
principal ha sido el diseño e implementación de un dashboard para soporte académico
que visualice, en una única pantalla, diferentes fuentes de datos mediante la
combinación de distintos tipos de gráficos. El dashboard muestra, por ejemplo, los recursos más
populares entre los estudiantes, lo que permite una mejora continua de los materiales
didácticos. Por otro lado, al informar de la actividad del estudiante en la plataforma, y
compararla con la del resto de compañeros, puede contribuir a disminuir la tasa de
abandono porque facilita la identificación anticipada de los alumnos en riesgo y da a
los estudiantes el control sobre su aprendizaje, promoviendo una cultura de
autorregulación y toma de decisiones basadas en datos.</p>
      <p>Respecto al diseño, la estrategia inicial de utilizar herramientas de visualización de
datos ya disponibles en el mercado, tales como Tableau y QlikSense, mientras se definía
el modelo de dashboard, ha resultado de gran utilidad, al evitar desarrollos innecesarios
y facilitar el conocimiento de los datos mediante la exploración y el análisis. El
siguiente paso es su desarrollo Web. Además, se pretenden incluir nuevas fuentes para
ayudar a identificar otras particularidades. Por último, está previsto realizar una fase de
evaluación para identificar la utilidad de la propuesta y recibir las recomendaciones y
sugerencias de la audiencia a quien se dirige, esto es, estudiantes y profesores.</p>
      <sec id="sec-4-1">
        <title>Agradecimientos</title>
        <p>Este trabajo ha sido financiado por el máster universitario de Gestión de la
Información (MUGI) de la ETSINF, en la Universitat Politècnica de València.</p>
      </sec>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          1.
          <string-name>
            <surname>Siemens</surname>
            ,
            <given-names>G.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Gasevic</surname>
            ,
            <given-names>D.</given-names>
          </string-name>
          :
          <article-title>Guest editorial-Learning and knowledge analytics</article-title>
          .
          <source>Educational Technology &amp; Society</source>
          <volume>15</volume>
          (
          <issue>3</issue>
          ),
          <fpage>1</fpage>
          -
          <lpage>2</lpage>
          (
          <year>2012</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          2.
          <string-name>
            <surname>Thomas</surname>
            ,
            <given-names>J. J.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Cook</surname>
            ,
            <given-names>K. A.</given-names>
          </string-name>
          :
          <article-title>Illuminating the path: The research and development agenda for visual analytics</article-title>
          .
          <source>IEEE Computer Society</source>
          (
          <year>2005</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          3.
          <string-name>
            <surname>Vieira</surname>
            ,
            <given-names>C.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Parsons</surname>
            ,
            <given-names>P.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Byrd</surname>
            ,
            <given-names>V.</given-names>
          </string-name>
          :
          <article-title>Visual learning analytics of educational data: A syste-matic literature review and research agenda</article-title>
          .
          <source>Computers &amp; Education</source>
          <volume>122</volume>
          ,
          <fpage>119</fpage>
          -
          <lpage>135</lpage>
          (
          <year>2018</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          4.
          <string-name>
            <surname>Mengod</surname>
          </string-name>
          , R.:
          <article-title>Poliformat, the Sakai-based on-line campus for UPV - history of a success</article-title>
          .
          <source>In: Proceedings of the 5th Sakai Conference</source>
          , Vancouver, BC, Canada (
          <year>2006</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          5.
          <string-name>
            <surname>Agudo-Peregrina</surname>
            ,
            <given-names>Á. F.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Iglesias-Pradas</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Conde-González</surname>
            ,
            <given-names>M.A.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Hernández-García</surname>
            ,
            <given-names>A.</given-names>
          </string-name>
          :
          <article-title>Can we predict success from log data in VLEs? Classification of interactions for learning analytics and their relation with performance in VLE-supported F2F and online learning</article-title>
          .
          <source>Computers in Human Behavior</source>
          <volume>31</volume>
          ,
          <fpage>542</fpage>
          -
          <lpage>550</lpage>
          (
          <year>2014</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          6. U.S. Department of Education:
          <article-title>Future ready Learning: Reimagining the role of technology in education - 2016 national education technology plan (</article-title>
          <year>2016</year>
          ). Retrieved from http://tech.ed.gov/files/2015/12/NETP16.pdf.
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          7.
          <string-name>
            <surname>Kitto</surname>
            ,
            <given-names>K.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Cross</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Waters</surname>
            ,
            <given-names>Z.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Lupton</surname>
            ,
            <given-names>M.</given-names>
          </string-name>
          :
          <article-title>Learning analytics beyond the LMS: the Connected Learning Analytics toolkit</article-title>
          .
          <source>In: Proceedings of the 5th International Learning Analytics and Knowledge (LAK'15) Conference</source>
          , pp.
          <fpage>11</fpage>
          -
          <lpage>15</lpage>
          . ACM, Poughkeepsie, New York, USA (
          <year>2015</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          8.
          <string-name>
            <surname>Buendía-García</surname>
            ,
            <given-names>F.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Benlloch-Dualde</surname>
            ,
            <given-names>J.V.</given-names>
          </string-name>
          :
          <article-title>Las Fuentes del Learning Analytics</article-title>
          . Más allá de las Platafomas de Aprendizaje. In
          <string-name>
            <surname>García-Peñalvo</surname>
            ,
            <given-names>F.J.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Mendes</surname>
            ,
            <given-names>A.J</given-names>
          </string-name>
          . (eds.). Simposio
          <string-name>
            <surname>Internacional de Informática Educativa</surname>
          </string-name>
          (
          <year>18º</year>
          .
          <year>2016</year>
          . Salamanca), pp.
          <fpage>255</fpage>
          -
          <lpage>260</lpage>
          . Ediciones Universidad de Salamanca,
          <string-name>
            <surname>Salamanca</surname>
          </string-name>
          (
          <year>2016</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          9.
          <string-name>
            <surname>Few</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          :
          <article-title>"Information dashboard design: The Effective Visual Communication of Data. 1st edn.</article-title>
          <string-name>
            <surname>O'Reilly Media</surname>
          </string-name>
          (
          <year>2006</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          10.
          <string-name>
            <surname>Pérez-Álvarez</surname>
            ,
            <given-names>R.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Pérez-Sanagustín</surname>
            ,
            <given-names>M.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Maldonado-Mahauad</surname>
            ,
            <given-names>J.J.:</given-names>
          </string-name>
          <article-title>NoteMyProgress: Supporting learners' self-regulated strategies in MOOCs</article-title>
          .
          <source>In: European Conference on Technology Enhanced Learning</source>
          , pp.
          <fpage>517</fpage>
          -
          <lpage>520</lpage>
          . Springer, Cham (
          <year>2017</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          11.
          <string-name>
            <surname>Park</surname>
            ,
            <given-names>Y.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Jo</surname>
            ,
            <given-names>I.</given-names>
          </string-name>
          :
          <article-title>Development of the Learning Analytics Dashboard to Support Students' Learning Performance</article-title>
          .
          <source>Journal of Universal Computing Science</source>
          <volume>21</volume>
          (
          <issue>1</issue>
          ),
          <fpage>110</fpage>
          -
          <lpage>133</lpage>
          (
          <year>2015</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          12.
          <string-name>
            <surname>Jovanović</surname>
            ,
            <given-names>J.</given-names>
          </string-name>
          et al.:
          <article-title>LOCO-analyst: A tool for raising teachers' awareness in online learning environments</article-title>
          .
          <source>In: European Conference on Technology Enhanced Learning</source>
          . Springer, Berlin, Heidelberg, (
          <year>2007</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          13.
          <string-name>
            <surname>Leony</surname>
            ,
            <given-names>D.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Pardo</surname>
            ,
            <given-names>A.</given-names>
          </string-name>
          , de la Fuente Valentín, L.,
          <string-name>
            <surname>de Castro</surname>
            ,
            <given-names>D. S.</given-names>
          </string-name>
          , &amp;
          <string-name>
            <surname>Kloos</surname>
            ,
            <given-names>C. D.:</given-names>
          </string-name>
          <article-title>GLASS: a learning analytics visualization tool</article-title>
          .
          <source>In: Proceedings of the 2nd international conference on learning analytics and knowledge. ACM</source>
          , pp.
          <fpage>162</fpage>
          -
          <lpage>163</lpage>
          (
          <year>2012</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          14.
          <string-name>
            <surname>Arnold</surname>
            ,
            <given-names>K. E.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Pistilli</surname>
          </string-name>
          , M.D.: Course signals at Purdue:
          <article-title>Using learning analytics to increase student success</article-title>
          .
          <source>In: Proceedings of the 2nd international conference on learning analytics and knowledge. ACM</source>
          , pp.
          <fpage>267</fpage>
          -
          <lpage>270</lpage>
          (
          <year>2012</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref15">
        <mixed-citation>
          15.
          <string-name>
            <surname>Essa</surname>
            ,
            <given-names>A.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Ayad</surname>
          </string-name>
          , H.:
          <article-title>Student success system: risk analytics and data visualization using ensembles of predictive models</article-title>
          .
          <source>In: Proceedings of the 2nd international conference on learning analytics and knowledge. ACM</source>
          , pp.
          <fpage>158</fpage>
          -
          <lpage>161</lpage>
          (
          <year>2012</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref16">
        <mixed-citation>
          16.
          <string-name>
            <surname>Nair</surname>
            <given-names>L.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Shetty</surname>
            <given-names>S.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Shetty</surname>
            <given-names>S.:</given-names>
          </string-name>
          <article-title>Interactive visual analytics on Big Data: Tableau vs D3.js</article-title>
          .
          <source>Journal of e-Learning and Knowledge Society</source>
          <volume>12</volume>
          (
          <issue>4</issue>
          ),
          <fpage>139</fpage>
          -
          <lpage>150</lpage>
          (
          <year>2016</year>
          ).
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>