20-00-0947-iv Deep Learning für Natural Language Processing

Lehrende: Dr. rer. pol. Steffen Eger

Veranstaltungsart: Integrierte Veranstaltung

Orga-Einheit: FB20 Informatik

Anzeige im Stundenplan: DL4NLP

Fach:

Anrechenbar für:

Semesterwochenstunden: 4

Unterrichtssprache: Deutsch

Min. | Max. Teilnehmerzahl: - | -

Lehrinhalte:
Die Veranstaltung bietet eine Einführung in die grundlegenden Konzepte des Deep Learning und ihren Einsatz für Problemstellungen im Bereich Natural Language Processing (NLP).

Zentrale Inhalte:
- grundlegende Konzepte des Deep Learning (e.g. Feed-Forward Netze, Hidden Layers, Backpropagation, Aktivierungs- und Loss-Funktionen)
- Word Embeddings: Theorie, unterschiedliche Ansätze und Modelle, Verwendung in maschinellen Lernverfahren
- neuronale Netzwerkarchitekturen (e.g. recurrent NN, convolutional NN, encoder-decoder Modelle) für verschiedene Gruppen von NLP-Problemen wie die Klassifikation von Dokumenten (z.B. Spamerkennung), die Bestimmung von Sequenzen (z.B. POS-Tagging, Named Entity Recognition) und komplexeren Strukturen (z.B. Chunking, Parsing)

Die Veranstaltung strebt eine enge Verzahnung zwischen theoretischen Konzepten und ihrer praktischen Verwendung zur Lösung typischer Problemstellungen bei Datenanalyse auf freien Texten mit Hilfe von existierenden Programm-Bibliotheken in Python an.

The lecture will be given in English.

Literatur:
Das kann als Einstiegslektüre verwendet werden:

@book{Goodfellow-et-al-2016,
    title={Deep Learning},
    author={Ian Goodfellow and Yoshua Bengio and Aaron Courville},
    publisher={MIT Press},
    note={\url{http://www.deeplearningbook.org}},
    year={2016}
}

Weitere Literatur wird in der VL bekanntgegeben.

Voraussetzungen:
grundlegende Mathematik- und Programmierkenntnisse