Not logged in.

Contribution Details

Type Master's Thesis
Scope Discipline-based scholarship
Title Application of Higher{Order Network Models to Representation Learning in Sequential Data
Organization Unit
Authors
  • Michael Markus Studer
Supervisors
  • Ingo Scholtes
Language
  • English
Institution University of Zurich
Faculty Faculty of Business, Economics and Informatics
Date 2020
Abstract Text Representation learning provides crucial input for machine learning algorithms. Learning these representations instead of manually engineering them accelerates the development of ML applications. Various such methods exist for networks, but they mostly rely on first-order Markov chains to generate random walks to explore the network. However, higher-order Markov chains are often better at modeling real-world spreading processes, and this model change may also affect community detection. We review well-established methods and explore different approaches to upgrade them from first-order to higher-orders. We experiment with multi-class classification and visualization tasks to compare the original and upgraded methods, using an illustrative synthetic grid and real data on social interactions. The Python source code of the methods and experiments is publicly available on GitHub.
Zusammenfassung 'Representation Learning' stellt wesentliche Eingabedaten für Algorithmen des Maschinellen Lernens bereit. Das automatische lernen solcher Repräsentaten beschleunigt die Entwicklung von entsprechenden Anwendungen, verglichen mit einer händischen Aufbereitung der Daten. Verschiedene solche Methoden existieren für Netzwerkdaten, welche sich aber meistens auf Markovketten erster Ordnung abstützen, um das Netzwerk mit 'Random Walks' auszukundschaften. Markovketten höherer Ordnung modellieren jedoch häufig Ausbreitungsprozesse aus der realen Welt besser, und das beeinflusst auch wie Gemeinschaften identifiziert oder abgegrenzt werden. Wir besprechen etablierte Methoden und erkunden verschiedene Ansätze, diese von Markovketten erster auf höhere Ordnung zu erweitern. Wir experimentieren mit Klassifizierungs- und Visualisierungsaufgaben um die ursprünglichen und die erweiterten Methoden zu Vergleichen. Dazu verwenden wir ein synthetisches Gitter und reale Daten über soziale Interaktionen. Der Python-Quellcode der Methoden und Experimente ist öffentlich auf GitHub verfügbar.
PDF File Download
Export BibTeX