Information Theory and Source Coding – Inhalt
Diese einsemestrige Veranstaltung ist Bestandteil des Master-Programms Communications Engineering an der RWTH. Auch Diplomstudenten können die Veranstaltung besuchen. Die Vorlesungsinhalte gliedern sich in zwei Blöcke: Zuerst werden die Grundlagen der Informationstheorie eingeführt und auf das Gebiet der Datencodierung angewandt. Die Theorie besteht aus folgenden Elementen, die durch zahlreiche Beispiele ergänzt werden:
- Diskrete gedächtnislose und gedächtnisbehaftete Quellen
- Entropie, bedingte Entropie und Transinformation
- Entropiecodierung (Shannon code, Fano code, Huffman code, Facsimile)
- Grenzen der Leistungsfähigkeit der Datenkompression
Der zweite Block erweitert die Informationstheorie und erläutert die Prinzipien der Sprachsignalcodierung. Letztendlich verschafft die Vorlesung einen Überblick über state-of-the-art Sprachcodierungstechnologien und ihre Anwendungen, zum Beispiel im Mobilfunk. Insbesondere werden die folgenden Themen behandelt:
- Kontinuierliche (analoge), gedächtnisbehaftete Quellen
- Abtastung und Quantisierung analoger Signale
- Einführung in die rate-distortion-Theorie
- Lineare Prädiktion und differentielle Signalformcodierung
- Überblick über die Standards und Anwendungen der Sprachcodierung
Die Vorlesung wird durch eine wöchentliche Übung begleitet. Die Übungsaufgaben werden für gewöhnlich eine Woche im Voraus verteilt. In Kombination mit der Veranstaltung "Channel Coding and Modulation" kann durch die Vorlesung "Information Theory and Source Coding" ein umfassendes Verständnis digitaler Kommunikationssysteme erreicht werden.