Algorithmisches Lernen (4V, 2Ü)
Bereich: Theoretische Informatik, H2-II, Berechenbarkeit.
Im Vertiefungsgebiet sind 4 Stunden prüfbar.
Zur Volesung gibt es ein Skript
Skript
und
Übungszettel.
Das Algorithmische Lernen ist der Bereich des Maschinellen Lernens, der sich vor allem mit strukturellen, algorithmischen und komplexitätstheoretischen Aspekten beschäftigt. Viele Ansätze zum Maschinellen Lernen sind ad-hoc-Lösungen, die auf ein spezielles Problem zugeschnitten sind. Oft ist der Erfolg oder Mißerfolg dieser heuristischen Lernansätze theoretisch nicht erklärbar. Auch sind häufig die verschiedenen Ansätze nicht vergleichbar, da unterschiedliche Kriterien zur Bewertung der Güte herangezogen werden.
Im Bereich des Algorithmischen Lernens sind nun Modelle und Methoden entwickelt worden, die eine solche Analyse zulassen. Im Rahmen dieser Analysen sind eine Reihe wesentlicher Strukturergebnisse gewonnen und Paradigmen für Lernverfahren entwickelt worden. So ist es möglich die Komplexität von Lernproblemen anhand von kombinatorischen Parametern zu messen und, abhängig davon, die Menge der zum Lernen notwendigen Information zu bestimmen. Die einzelnen Modell unterscheiden sich vorallem durch die Art, wie die Information zum Lernen bereitgestellt wird (beobachten oder fragen) und wie zuverlässig diese ist (unverfälscht oder verrauscht). Weiterhin ist es von Bedeutung, ob die Struktur des zu lernenden Objekts zumindest grob bekannt ist oder ob man ,,mit allem rechnen'' muß. Es wurden jeweils generische ,,Master-Algorithmen'' entwickelt, die man ,,nur noch'' auf das jeweilige konkrete Lernproblem anpassen muß. Dabei gilt es oft anspruchsvolle algorithmische und kombinatorische Probleme zu lösen.
Ziel der Vorlesung ist es, die Lernmodelle vorzustellen und einen Überblick über die Ergebnisse und Methoden zu geben. Neben dem Herausarbeiten der allgemeinen Prinzipien und Master-Algorithmen werden auch konkrete Lernalgorithmen und neueste Ergebnisse dargestellt werden. Außerdem sollen die Ergebnisse auch aus der Sicht der Praxis diskutiert werden. Im folgenden ist ein kurzer Überblick über den Aufbau der Vorlesung gegeben.
1.Einleitung.
2.Einführung des Modells, Gütekriterien und Beispiele für Lernalgorithmen.
3.Allgemeine kombinatorische Kriterien für Lernbarkeit. Obere und untere Schranken für die benötigte Information.
4.Lernen aus unzuverlässiger Information. Allgemeine kombinatorische Kriterien für Lernbarkeit. Obere und untere Schranken für die benötigte Information.
5.Lernen ohne jegliche Kenntnis des Lernziels (Agnostisches Lernen).
6.Nichtlernbarkeits-Resultate.
7.Lernen von nichtdeterministischen Objekten.