Not logged in.

Contribution Details

Type Bachelor's Thesis
Scope Discipline-based scholarship
Title Deep Adversarial Training for Teaching Networks to Reject Unknown Inputs
Organization Unit
  • Jan Schnyder
  • Manuel Günther
  • English
Institution University of Zurich
Faculty Faculty of Business, Economics and Informatics
Date July 2021
Abstract Text Modern day machine learning models are becoming omnipresent and are required to handle progressively more complex environments in their tasks. In classification problems, an increasingly popular scenario is called Open Set Recognition, which does not require the model to have complete knowledge of the world and during which unknown classes can be submitted to the algorithm while testing. This thesis tackles the challenge to correctly handle and reject these unknown inputs by performing adversarial training on our classification model. Furthermore, we analyze the difference in performance of several state-of-the-art adversarial attacks used in our adversarial training. The experiments show that our approach effectively deals with unknown inputs and delivers very promising results. To our knowledge, there has been no prior work that used adversarial training for Open Set Recognition like in our approach.
Zusammenfassung Moderne Modelle für maschinelles Lernen sind heutzutage omnipräsent und betreuen immer komplexer werdende Aufgaben. Bei Klassifikationsproblemen gewinnt das sogenannte "Open Set Recognition" Szenario an Beliebtheit, bei dem die Modelle keine perfekte Information ihres Umfelds benötigen, sondern auch in unbekannten Situationen brauchbar sind. Diese Arbeit geht die Herausforderung an, mit Hilfe von Adversarial Training mit unbekannten Umgebungen korrekt umzugehen. Zusätzlich vergleichen wir verschiedene moderne Methoden, um sogenannte Adversarial Examples zu erzeugen. Unsere Experimente zeigen, dass die Methode höchst effektiv in unbekannten Situationen ist und auch korrekt mit ihnen umgehen kann. Unseres Wissens nach gibt es noch keine Arbeit, die zuvor Adversarial Training im Open Set Recognition Szenario angewendet hat.
PDF File Download
Export BibTeX