Sabine Rathmayer, Hans Pongratz (Hrsg.): Proceedings of DeLFI Workshops 2015 co-located with 13th e-Learning Conference of the German Computer Society (DeLFI 2015) München, Germany, September 1, 2015 91 Ressourcenorientierte Visualisierungen als Learning- Analytics-Werkzeuge für Lehrende und Lerner Sebastian Gross1 und Niels Pinkwart1 Abstract: In diesem Beitrag stellen wir ein Konzept für ein Learning-Analytics-Werkzeug vor, das Lehrende und Teilnehmer in computergestützten Lernarrangements unterstützt. Im Mittelpunkt des Konzepts stehen dabei digitale Lernressourcen, deren Auswahl und Organisation durch Leh- rende sowie deren Verwendung durch Nutzer. Eine konkrete Umsetzung des Konzepts veran- schaulichen wir anhand eines web-basierten Lernsystems für die Java-Programmierung und disku- tieren, wie unterschiedliche Anforderungen mithilfe des Werkzeugs erfüllt werden können. Keywords: Learning Analytics, Werkzeug, Lernressource, Visualisierung, Konzept 1 Einleitung Computergestützte Lernumgebungen ermöglichen Lernen unabhängig von Zeit und Ort und werden mehr und mehr zu einem Massenphänomen, das immer größer werdende Nutzerzahlen (z. B. in Form von Massive Open Online Courses (MOOCs)) bewirkt. Die zunehmende Digitalisierung von Lehr-/Lernarrangements erfordert zum einen technische Innovationen im computergestützten Lernen, stellt andererseits aber auch Lehrende und Lerner2 vor neue Herausforderungen. Lerner müssen sich oftmals ohne direkte mensch- liche Unterstützung in Lernumgebungen zurechtfinden, ihre Lernaktivitäten koordinieren und die Umgebung hinsichtlich ihrer Lernfortschritte anpassen. Lehrenden hingegen fehlt oftmals die direkte Rückmeldung durch Lerner (anders als z. B. in klassischen Face-to-Face Lehrarrangements). Sie sind darauf angewiesen, Rückschlüsse über die Wirksamkeit des didaktischen Konzepts und der im System verwendeten Lernressourcen aus der Interaktion zwischen den Lernsystem und den Nutzern zu ziehen. Forschungen im Bereich Learning Analytics nehmen sich diesen Herausforderungen an und verfolgen dabei das Ziel, Daten aus dem Lehr-/Lernkontext zu erfassen, zu analysie- ren und in interpretierbarer Form darzustellen, um für Lehrende und Lerner eine Grund- lage zur Untersuchung unterschiedlichster Aspekte des Lernens zu schaffen. In diesem Beitrag stellen wir ein Konzept für ein Learning-Analytics-Werkzeug vor, das Lehrende und Lerner unterstützt, Aspekte, die sich aus der Verwendung von digitalen Lernres- sourcen in computergestützten Lernumgebungen ergeben, untersuchen zu können. Das Werkzeug bedient sich dabei typischen Methoden des Data Minings und nutzt ressour- 1 Humboldt-Universität zu Berlin, Institut für Informatik, Unter den Linden 6, 10099 Berlin, {sebastian.gross,niels.pinkwart}@hu-berlin.de 2 Gemeint sind sowohl weibliche Lernerinnen als auch männliche Lerner. 92 Sebastian Gross und Niels Pinkwart cenorientierte Visualisierungen in Form von interaktiven, adaptiven und anpassbaren Grafiken. In Abschnitt 2 betrachten wir zunächst aktuelle Entwicklungen im Bereich Learning Analytics, insbesondere (grafische) Werkzeuge zur Unterstützung von Lehrenden und Lernern. Anschließend, in Abschnitt 3, stellen wir unser Konzept für ein Learning- Analytics-Werkzeug vor und betrachten Anforderungen, die sich durch die Verwendung von digitalen Lernressourcen in Lehr-/Lernarrangements ergeben. Abschnitt 4 beschreibt die prototypische Implementierung des Konzepts in einem web-basierten Lernsystem für Java-Programmierung und stellt dar, wie die verschiedenen Anforderungen berücksich- tigt werden. Abschließend ziehen wir ein Fazit und geben in Abschnitt 5 einen Ausblick auf zukünftige Arbeiten. 2 Stand der Forschung Learning Analytics ist noch ein relativ junges Forschungsgebiet, das - ähnlich wie For- schungen auf dem Gebiet des Educational Data Mining (EDM) - Fragestellungen, die sich aus computergestützten Lehr-/Lernarrangements ergeben, mithilfe von Methoden des Data Mining zu untersuchen versucht [SB12]. Es existieren vielfältige Anwendungsfälle von Learning Analytics, wie z. B. das Vor- hersagen der Leistung von Lernern bzw. Lernergruppen [APIPCGHG14] oder die Gene- rierung von Empfehlungen z. B. geeigneter Lernressourcen [Duv11]. Die Visualisierung von Daten, die aus dem Lernkontext gewonnen wurden, spielt dabei eine große Rolle. Hierzu gibt es verschiedene Ansätze. GLASS ist eine web-basierte Visualisierungsplatt- form, die verschiedene Aspekte, die sich aus dem Lehr/Lernkontext ergeben (z. B. Ak- tivitäten einzelner Lerner oder Lernergruppen), mithilfe modularer Darstellungen visua- lisieren kann [LPdlFV+12]. Das StepUp! Werkzeug ist eine Anwendung, die Nutzern in offenen Lernarrangements hilft, ihre eigenen Aktivitäten zu reflektieren, indem Lernakti- vitäten in Form von Dashboards visualisiert werden. Zu den visualisierten Informationen gehören, wie viel Zeit ein Lerner in einen Kurs investiert und welche Ressourcen (z. B. Wikis und Blogs) und soziale Medien (z. B. Twitter) dieser zum Lernen genutzt hat. Das LeMo Werkzeug analysiert Lerneraktivitäten, die von verschiedenen Online- Lernplattformen stammen können3. Die enthaltenen Lernpfade werden mithilfe von Sequential Pattern Mining analysiert und anschließend visualisiert [FBE+13]. Die oben genannten Werkzeuge schaffen mithilfe von Visualisierungen für Nutzer eine Grundlage, Aktivitäten in computergestützten Lernarrangements zu analysieren und zu interpretieren. Dabei werden u. a. auch (Lern-)Ressourcen in der Analyse berücksichtigt. Oft bleiben allerdings Zusammenhänge zwischen verschiedenen Ressourcen eher ver- 3 In LeMo existieren u. a. Schnittstellen zu den LMS Moodle und Clix wie auch zu der Online-Enzyklopädie Chemgapeida. [FBE+13] Ressourcenorientierte Visualisierungen als Learning-Analytics-Werkzeuge für Lehrende und Lerner 93 borgen; der Nutzer wird selten darin unterstützt, Dependenzen zwischen Aktivitäten mit unterschiedlichen Ressourcen zu erkennen. Bei den existierenden Verfahren liegt der Fokus typischerweise auf quantitativen Informationen (z. B. wie lange eine Ressource genutzt wurde); qualitative Informationen (z. B. wie wirksam die Nutzung der Ressource war) kann der Nutzer bestenfalls aus den zur Verfügung gestellten Daten ableiten. In unserem Konzept für ein Learning-Analytics-Werkzeug, welches wir im Folgenden vorstellen, berücksichtigen wir daher sowohl Zusammenhänge zwischen verschiedenen Lernressourcen als auch qualitative Informationen, die sich aus Lerneraktivitäten ablei- ten lassen. 3 Konzept für ein Lernressourcen-orientiertes Werkzeug zur Un- terstützung von Lehrenden und Lernern Digitale Lernressourcen sind integraler Bestandteil vieler computergestützter Lernumge- bungen. Dabei können solche Ressourcen unterschiedlichste (multi-)mediale und textu- elle Inhalte umfassen. Lehrende können vorhandene analoge Lernmaterialien digitalisie- ren und bündeln, neue Ressourcen erstellen und unter Berücksichtigung zuvor definierter Lernziele gestalten, oder auf existierende Ressourcen zurückgreifen und diese wieder- verwenden, wenn sie Ressourcen zu Kursen mit bestimmten Lernzielen zusammenstel- len4. Neben der Auswahl und Zusammenstellung von Ressourcen ist deren Strukturierung ein wichtiger Aspekt in computergestützten Lernumgebungen. Der Strukturierung dieser Ressourcen liegt oftmals eine didaktisches Zielsetzung des Lehrenden zugrunde. Ein sehr einfacher möglicher Ansatz, solche Strukturen abzubilden, sind z. B. durch Hyper- text verbundene Webseiten, wie sie in Learning Management Systeme (LMS) genutzt werden. Der Ansatz erfordert, dass der Lehrende die Strukturierung vorgibt, und birgt Nachteile für Lerner: Statische Strukturen berücksichtigen nicht die individuellen Be- dürfnisse einzelner Lerner und setzen voraus, dass sich die verwendeten Lernressourcen inhaltlich und qualitativ nahtlos in den Lehrplan einfügen lassen. Automatische Ansätze, z. B. anhand von Präferenzen und Bewertungen der semantischen Relevanz [WTLC07], Lernern geeignete Lernressourcen zu empfehlen, entkoppeln den Lernprozess u. U. von der didaktischen Zielsetzung des Lehrenden. So wird es in offenen Lernumgebungen, wie z. B. cMOOCs, den Lernenden überlassen, Ziele zu definieren und notwendige Res- sourcen zu identifizieren und somit den Lernprozess selbstständig zu gestalten. Dieses Modell ist aber sicher nicht in allen Online-Lernumgebungen gewünscht. Für Lehrende und Lerner ergeben sich aus der Gestaltung bzw. Verwendung von digita- len Lernressourcen in computergestützten Lernumgebungen (abhängig von der konkre- ten Ausgestaltung des Lernsystems) verschiedene Anforderungen hinsichtlich Qualität, 4 Erleichtert werden der Austausch und die Wiederverwendung von Lernressourcen durch Standards wie SCORM oder LOM. Zudem existieren Repositories für Lernressourcen wie z. B. http://www.merlot.org. 94 Sebastian Gross und Niels Pinkwart Vollständigkeit, Relevanz und Wirkung von Lernressourcen. In Tabelle 1 fassen wir die verschiedenen Aspekte zusammen und leiten konkrete funktionale Anforderungen an ein Learning-Analytics-Werkzeug ab. Aspekt Adressaten Anforderung Analyse und Bewertung des Inhalts von Lernres- Qualität Lehrende sourcen in Abhängigkeit von definierten Lernzielen Analyse und Bewertung der Vernetzung und in- Vollständigkeit Lehrende haltlichen Dependenzen zwischen Lernressourcen Lehrende Analyse von Lernfortschritten der Lerners in Ab- Wirkung Lerner hängigkeit von verwendeten Lernressourcen Analyse von Lernressourcen in Abhängigkeit Relevanz Lerner individueller Bedürfnisse Tab. 1: Aspekte bei der Nutzung von Lernressourcen, Adressaten und Anforderungen eines res- sourcenorientierten Learning-Analytics-Werzeugs zur Unterstützung von Lehrenden und Lernern. Qualität: Der Lehrende muss in der Lage sein, Lernressourcen hinsichtlich ihrer qualita- tiven Eignung zum Erreichen der definierten Lernziele zu bewerten. Dies bezieht sich vor allem auf Lernressourcen, die nicht vom Lehrenden erstellt wurden, sondern z. B. aus Repositories stammen oder von Lernern erstellt wurden. Hierbei ist es wichtig, dass der Lehrende durch das Werkzeug darin unterstützt wird, einzuschätzen, wie die Lern- ressource inhaltlich und qualitativ zu den Lernzielen passt. Hier besteht einerseits die Möglichkeit, die Anzahl der Interaktionen zwischen Lernern und Ressource als Indikator für dessen Güte zu nutzen, andererseits kann auch die Beurteilung direkt durch die Ler- ner (z. B. über ein Bewertungssystem) eine sinnvolle Information für den Lehrenden sein. Vollständigkeit: Außerdem muss der Lehrende erkennen können, ob die zur Verfügung gestellten Lernressourcen vollständig sind. Dies erfordert die inhaltliche Analyse der zur Verfügung stehenden Ressourcen unter Berücksichtigung von Lernzielen. Unvollstän- digkeit ist dabei charakterisiert durch Lernziele, die nicht oder nur unzureichend durch die vorhandenen Lernressourcen erreicht werden können. Wirkung: Sowohl Lehrende als auch Lerner benötigen außerdem die Möglichkeit, Ler- neraktivitäten in Zusammenhang mit Lernressourcen hinsichtlich Lernfortschritten beur- teilen zu können. Dazu besteht z. B. die Möglichkeit, Lerner miteinander zu vergleichen und daraus die Leistung des Einzelnen abzuleiten. Auch ist es möglich, den Ist-Zustand - also den Fortschritt während des Lernens - mit einem (zuvor definierten) Soll-Zustands zu vergleichen. Beispielsweise könnte der Lösungsversuch eines Lerners zu einem gege- benen Problem mit einer Musterlösung auf qualitativer Ebene verglichen werden. Dabei könnten zudem weitere (quantitative) Faktoren wie z. B. die Anzahl der benötigten Ver- suche berücksichtigt werden. Relevanz: Die Relevanz von Lernressourcen für Lerner ergibt sich aus den individuellen Lernzielen und deren Wissensständen. Lerner müssen daher in der Lage sein, die Aus- Ressourcenorientierte Visualisierungen als Learning-Analytics-Werkzeuge für Lehrende und Lerner 95 wahl von Lernressourcen entsprechend ihrer individuellen Bedürfnisse unter Berücksich- tigung verschiedener Parameter anpassen zu können. Im folgenden Abschnitt beschreiben wir die prototypische Implementierung des Kon- zepts. Dabei diskutieren wir die Anforderungen und deren konkrete technische Umset- zung. 4 Prototypische Implementierung als Learning-Analytics- Werkzeug in einem Lernsystem für die Java-Programmierung Das in Abschnitt 3 beschriebene Konzept für ein ressourcenorientiertes Learning- Analytics- Werkzeug haben wir prototypisch implementiert und in einem web-basierten Lernsystem für die Java-Programmierung eingesetzt. Das Lernsystem stellt seinen Nut- zern verschiedene Lernressourcen bereit: gegenwärtig sind dies 39 Programmieraufga- ben5, 4 Quiz6 und 12 Multiple-Choice-Tests7, die von mehreren erfahrenen Java- Programmierern erstellt wurden, sowie 25 Videotutorials, die auf Youtube gefunden und wiederverwendet wurden. Zu jeder Ressource wurde ein Satz von Begriffen (sogenannte Tag Sets) erstellt, die den Inhalt der jeweiligen Ressource beschreiben. Basierend auf diesen Tag Sets wurden anschließend Ähnlichkeiten zwischen Ressourcen ermittelt. Die verwendete Metrik berücksichtigt dabei sowohl explizite als auch implizite Ähnlichkei- ten8 zwischen Tags [ZNQZ11]. Das Werkzeug visualisiert Lernressourcen und deren logischen und semantischen Bezie- hungen zueinander in einer interaktiven Darstellung. Die Darstellung basiert auf der JavaScript Bibliothek D3.js [BOH11] und nutzt ein Force-directed Layout, um semanti- sche Beziehungen (basierend auf den zuvor berechneten semantischen Ähnlichkeiten) zwischen Ressourcen zu simulieren. Die semantischen Ähnlichkeiten wurden zudem genutzt, um Mengen ähnlicher Ressourcen zu identifizieren und visuell in Strukturen abzubilden. 5 Zu jeder Programmieraufgabe wurde eine mehrschrittige Musterlösung erstellt. 6 Ein Quiz enthält ein Java-Programm und Fragen zu dessen Verhalten. 7 Ein Multiple-Choice-Test enthält eine oder mehrere Fragen zu einem Konzept in Java (z. B. Rekursion). 8 Eine explizite Ähnlichkeit ergibt sich daraus, ob zwei Tags identisch sind. Eine implizite Ähnlichkeit von zwei Tags leitet sich aus der Beziehung zwischen Paaren von Tags ab und ermöglicht, eine Ähnlichkeit auch zwischen solchen Tags festzustellen, die zwar nicht identisch sind, aber (häufig) gemeinsam in Paaren auftre- ten. 96 Sebastian Gross und Niels Pinkwart Abb. 1: Ressourcenorientierte Visualisierung: Knoten symbolisieren Lernressourcen, Kanten stellen logische Beziehungen zwischen Ressourcen dar. Dazu wurde der Clustering-Algorithmus Relational Neural Gas [HH07] genutzt, um Lernressourcen in Cluster9 zu gruppieren. In Abb. 1 ist der Datensatz aus dem Lernsys- tem dargestellt. Semantische Cluster sind farbig hinterlegt. Logische Beziehungen, die sich aus Abhängigkeiten zwischen Ressourcen ergeben, sind in der Abbildung als durch- gezogene Linien dargestellt. Solche Abhängigkeiten leiten sich z. B. aus der Modellie- rung von Ressourcen (ein Quiz/Test kann aus mehreren (wiederverwendbaren) Fragen bestehen, oder zu einer Programmieraufgabe können eine oder mehrere Musterlösungen existieren) bzw. aus ihrer Verwendung (ein Lerner kann zu einer gegebenen Program- mieraufgabe eigene Lösungen z. B. in Form von Programmcode erstellen) ab. Semanti- sche Beziehungen sind aus Gründen der Übersichtlichkeit nicht visuell dargestellt. 9 Die Lernressourcen sind Teil eines Online-Kurs, der in 11 Themenbereiche (z. B. Wiederholungsanweisun- gen) gegliedert ist. Daher wurde die Anzahl der Cluster auf 11 gesetzt. Die daraus resultierende Zuordnung von Lernressource zu Cluster bildet dabei nicht exakt die Zuordnung von Lernressource zu Themenbereich des Online-Kurses ab (ein Cluster bleibt z. B. leer, so dass effektiv nur 10 Cluster dargestellt werden). Ressourcenorientierte Visualisierungen als Learning-Analytics-Werkzeuge für Lehrende und Lerner 97 Abb. 2: Dialogbasierte Interaktion zwischen Nutzern und Ressourcen Das Werkzeug ermöglicht es dem Nutzer mit den Ressourcen zu interagieren. Es kann direkt auf deren Inhalte zugegriffen werden; zudem besteht für Lerner und Lehrende die Möglichkeit, Metadaten abzurufen bzw. zu ergänzen. Als Metadaten stehen neben Art der Ressource außerdem die Anzahl der Zugriffe, Bewertungen durch Lerner10 und zu- geordnete Tags zur Verfügung. Über einen Dialog (dargestellt in Abb. 2) kann ein Nut- zer auf die Metadaten zugreifen und neue Bewertungen oder Tags hinzufügen. Das Werkzeug ist hinsichtlich der Darstellung adaptiv und anpassbar. Es hebt Ressour- cen, die vom jeweiligen Nutzer erstellt bzw. bereits verwendet wurden, hervor. Die Me- tadaten bilden die Grundlage für verschiedene Filtermöglichkeiten, über die der Nutzer gezielt Ressourcen ein- bzw. ausblenden kann: Ressourcen können abhängig von deren Art, Qualität und Inhalt (beschrieben durch deren zugeordnete Tags) gefiltert werden: Ein Nutzer kann sich durch gezielte Filterung z. B. nur als gut bewertete Videotutorials zum Thema „Rekursion“ anzeigen lassen. Des Weiteren kann die Anordnung der Res- sourcen und der semantischen Cluster durch den Nutzer individuell angepasst werden, um Ressourcen (z. B. durch Verschieben) nach eigenen Bedürfnissen anzuordnen. Der Nutzer kann neue Ressourcen hinzufügen und mit anderen Nutzern teilen: Lerner können direkt im Lernsystem Programmieraufgaben bearbeiten und eigene Programme schreiben. Diese Programme kö nnen anschließend freigegeben und mit anderen Lernern geteilt werden, die wiederum auf diese Programme zugreifen und Kommentare (um den Ersteller z. B. auf mögliche Fehler hinzuweisen) verfassen können. Sämtliche Program- me (Programme der Lerner und Musterlösungen von Experten) zu einer Program- mieraufgabe werden mithilfe einer Metrik [MGP+13], die die paarweisen Ähnlichkeiten 10 Bei Programmieraufgaben kann sowohl deren Qualität als auch deren Schwierigkeit bewertet werden. 98 Sebastian Gross und Niels Pinkwart zwischen Lösungen berechnet, verglichen. Auf das Resultat dieser Vergleiche kann der Nutzer in Form einer weiteren Visualisierung (dargestellt in Abb. 3) zugreifen. In dieser Visualisierung werden die (freigegebenen) Lösungsversuche der Lerner unter Berück- sichtigung ihrer Ähnlichkeit zu einer (mehrschrittigen) Musterlösung dargestellt. Abb. 3: Lösungen (dargestellt als Knoten) von Lernern und Experten zu einer Programmieraufgabe. Zwischen Knoten können logische Beziehungen existieren (dargestellt als Kanten): Auf eine Lösung können weitere (erweiterte bzw. verbesserte) Lösungen folgen. Eingefärbte Knoten stellen Schritte von Musterlösungen dar. Die Positionierung der Knoten wird über deren Ähnlichkeit zueinander be- rechnet; geringe Distanzen bedeuten eine hohe Ähnlichkeit zwischen den entsprechenden Lösungen. Für Lehrende bietet das Werkzeug die Möglichkeit stark bzw. schwach frequentierte sowie qualitativ hoch bzw. niedrig bewertete Ressourcen zu identifizieren und ggf. An- passungen vorzunehmen (siehe Anforderung hinsichtlich des Aspekts Qualität in Ab- schnitt 3). Die inhaltliche Strukturierung von Lernressourcen basierend auf semantischen Ähnlichkeiten kann Lehrenden helfen, inhaltliche Lücken zu identifizieren und durch zusätzliche Ressourcen zu schließen (siehe Anforderung hinsichtlich des Aspekts Voll- ständigkeit in Abschnitt 3). Das Werkzeug erfasst und visualisiert die Aktivitäten von Lernern und deren Interaktionen mit Ressourcen. Durch den qualitativen Vergleich von Lerneraktivität mit einem zuvor definierten Soll-Zustand haben Lerner die Möglichkeit, ihre Lernfortschritte zu reflektieren; Lehrende können den Lernfortschritt aller Lerner bzw. einzelner Lerner nachvollziehen und analysieren (siehe Anforderung hinsichtlich des Aspekts Wirkung in Abschnitt 3). Außerdem können Lerner durch gezieltes Filtern die Ressourcen identifizieren, die qualitativ und thematisch für die selbst definierten Lernzielen relevant und geeignet sind (siehe Anforderung hinsichtlich des Aspekts Rele- vanz in Abschnitt 3). 5 Fazit und Ausblick In diesem Beitrag haben wir ein Konzept für ein Visualisierungswerkzeug vorgestellt, das Lehrenden und Lernern eine Unterstützung in der Gestaltung bzw. Verwendung von Lernressourcen in Online-Lernarrangements bietet. Das Konzept wurde prototypisch für eine computergestützte Lernumgebung für die Java-Programmierung implementiert. Das Ressourcenorientierte Visualisierungen als Learning-Analytics-Werkzeuge für Lehrende und Lerner 99 entstandene Learning-Analytics-Werkzeug setzt dabei die in Abschnitt 3 erörterten funk- tionalen Anforderungen, die sich aus der Verwendung von Lernressourcen ergeben, durch interaktive, adaptive und adaptierbare Visualisierungen um. Das vorgestellte Konzept (siehe Abschnitt 3) und dessen prototypische Umsetzung (sie- he Abschnitt 4) bietet Potenzial für verschiedene Erweiterungen. Die Analyse von Inter- aktionen zwischen Lernern und Ressourcen kann genutzt werden, um sinnvolle Lernpfa- de zu identifizieren und um Lernern Empfehlungen für Lernressourcen zu geben. Die Gesamtanalyse von Aktivität, Lernfortschritt (z. B. hinsichtlich dem Lösen einer Pro- grammieraufgabe) und thematischen Beziehungen von Ressourcen könnte helfen, um Kompetenzmodelle von Lernern zu berechnen und z. B. in Form eines Open Learner Models dem Lerner zur Selbstreflexion bereitzustellen. Neben technischen Weiterent- wicklungen werden wir uns in unseren zukünftigen Arbeiten auch der empirischen Eva- luierung des Konzepts und des Systems hinsichtlich des Nutzens für Lehrende und Ler- ner widmen. Literaturverzeichnis [APIPCGHG14] Ángel F Agudo-Peregrina, Santiago Iglesias-Pradas, Miguel Ángel Conde- González und Ángel Hernández-García. Can we predict success from log data in VLEs? Classification of interactions for learning analytics and their relation with per- formance in VLE-supported F2F and online learning. Computers in human behavior, 31:542–550, 2014. [BOH11] Michael Bostock, Vadim Ogievetsky und Jeffrey Heer. D3: Data-Driven Documents. IEEE Trans. Visualization & Comp. Graphics (Proc. InfoVis), 2011. [Duv11] Erik Duval. Attention Please!: Learning Analytics for Visualization and Recommenda- tion. In Proceedings of the 1st International Conference on Learning Analytics and Knowledge, LAK ’11, Seiten 9–17, New York, NY, USA, 2011. ACM. [FBE+13] Albrecht Fortenbacher, Liane Beuster, Margarita Elkina, Leonard Kappe, Agathe Merceron, Andreas Pursian, Sebastian Schwarzrock und Boris Wenzlaff. LeMo: A learning analytics application focussing on user path analysis and interactive visualiza- tion. In The 7th IEEE International Conference on Intelligent Data Acquisition and Advanced Computing Systems: Technology and Applications (IDAACS), Seiten 12– 14, 2013. [HH07] Barbara Hammer und Alexander Hasenfuss. Relational Neural Gas. In Joachim Hertzberg, Michael Beetz und Roman Englert, Hrsg., KI 2007: Advances in Artificial Intelligence, Jgg. 4667 of Lecture Notes in Computer Science, Seiten 190–204. Springer Berlin Heidelberg, 2007. [LPdlFV+12] Derick Leony, Abelardo Pardo, Luis de la Fuente Valentín, David Sánchez de Cas- tro und Carlos Delgado Kloos. GLASS: A Learning Analytics Visualization Tool. In Proceedings of the 2Nd International Conference on Learning Analytics and Knowledge, LAK ’12, Seiten 162–163, New York, NY, USA, 2012. ACM. 100 Sebastian Gross und Niels Pinkwart [MGP+13] B. Mokbel, S. Gross, B. Paassen, N. Pinkwart und B. Hammer. Domain- Independent Proximity Measures in Intelligent Tutoring Systems. In S. K. D’Mello, R. A. Calvo und A. Olney, Hrsg., Proceedings of the 6th International Conference on Educational Data Mining (EDM), Seiten 334–335, Memphis, TN, 2013. [SB12] George Siemens und Ryan S. J. d. Baker. Learning Analytics and Educational Data Mining: Towards Communication and Collaboration. In Proceedings of the 2nd Inter- national Conference on Learning Analytics and Knowledge, LAK ’12, Seiten 252–254, New York, NY, USA, 2012. ACM. [WTLC07] Tzone I Wang, Kun Hua Tsai, Ming-Che Lee und Ti Kai Chiu. Personalized learning objects recommendation based on the semantic-aware discovery and the learner pref- erence pattern. Educational Technology & Society, 10(3):84–105, 2007. [ZNQZ11] Jingli Zhou, Xuejun Nie, Leihua Qin und Jianfeng Zhu. Web Clustering Based On Tag Set Similarity. Journal of Computers, 6(1), 2011.