18-kp-2110-ue Datenbasierte Modellierung - Maschinelles Lernen

Lehrende: Prof. Dr.-Ing. Anja Klein; Prof. Dr. techn. Heinz Köppl; M.Sc. Fengyu Cai; M.Sc. Sebastian Alexander Wirth

Veranstaltungsart: Übung

Orga-Einheit: FB18 Elektrotechnik und Informationstechnik

Anzeige im Stundenplan: UE Datenb.Mod.-ML

Fach:

Anrechenbar für:

Semesterwochenstunden: 1

Unterrichtssprache: Englisch

Min. | Max. Teilnehmerzahl: - | -

Lehrinhalte:
Das Modul bietet eine Einführung in das aufstrebende Feld des maschinellen Lernens aus einer ingenieurwissenschaftlichen Perspektive. Die wichtigsten Modelle und Lernverfahren werden vorgestellt und anhand von Problemen aus der Informations- und Kommunikationstechnik veranschaulicht.

• Grundlagen der Wahrscheinlichkeitstheorie und der multivariaten Statistik
  
• Taxonomie von maschinellen Lernproblemen und von Modellen (überwacht, unüberwacht, generativ, diskriminativ)
  
• Regression und Klassifikation: Theorie, Methoden und ICT Anwendungen
  
• Dimensionalitätsreduktion, Gruppierung und Analyse großer Datensätze: Methoden und Anwendungen in Kommunikation und Signalverarbeitung
  
• Probabilistische graphische Modelle: Kategorien, Inferenz und Parameterschätzung
  
• Grundlagen der Bayes’schen Inferenz, Monte Carlo Methoden, nicht-parametrische Bayes’sche Ansätze
  
• Grundlagen der konvexen Optimierung: Lösungsmethoden und Anwendungen in der Kommunikation
  
• Approximative Algorithmen für skalierbare Bayes’sche Inferenz; Anwendungen in der Signalverarbeitung und Informationstheorie (z.B. Dekodierung von LDPC Kodes)
  
• Hidden Markov Modelle (HMM): Theorie, Algorithmen und ICT Anwendungen (z.B. Viterbi Dekodierung von Faltungskodes)
  
• Hochdimensionale Statistik (“large p small n” setting), Lernen von Abhängigkeitsgraphen in hochdimensionalen Daten, Lernen von Kausalitätsgraphen von Beobachtungsdaten.
  
• Schätzverfahren für dünnbesetzte Probleme, Zufallsprojektionen, compressive sensing: Theorie und Anwendungen in der Signalverarbeitung
  
• Tiefe neuronale Netze (deep learning): Modelle, Lernalgorithmen, Programmbibliotheken und ICT Anwendungen
  

Literatur:

• Kevin P. Murphy. Machine Learning – A probabilistic perspective, MIT Press, 2012
  
• Christopher M. Bishop. Pattern recognition and Machine Learning, Springer, 2006
  
• Peter Bühlmann und Sara van de Geer. Statistics of high-dimensional data – Methods, theory and applications, Springer, 2011
  

Voraussetzungen:
Grundkenntnisse von Matlab (z.B. aus dem Kurs 18-st-2030 Matlab Grundkurs) und Mathematik für Ingenieure