Datenkompression


Kriterien

Übersicht Formate

Grundlagen

Grundbegriffe

Zeichen

Zeichenvorrat

Alphabet

Kode

Kodierung

Redundanz

Informationstheorie

Nachricht

Wahrscheinlichkeit

Informationsgehalt

Entropie

Redundanzreduktion

Irrelevanzreduktion

Entropiekodierung

Kodes mit variabler Länge

Kodebäume

Kompressionsverfahren

Datenformate


Glossar

Stichwortverzeichnis


Download


www.BinaryEssence.de

Entropiekodierung


Der Entropie-Begriff liefert die Information, mit welcher Kodelänge sich die Daten einer Quelle kodieren lassen. Voraussetzung dafür ist die Kenntnis der Wahrscheinlichkeit, mit der die Zeichen dieser Quelle auftreten.


Unter der Bezeichnung Entropiekodierung werden alle Verfahren zusammengefaßt, die sich der Wahrscheinlichkeitsverteilung und somit der Entropie bedienen, um einen Kode idealer Länge zu erzeugen.


Die Entropie-Enkoder ordnen häufig auftrendenden Symbolen mit hoher Wahrscheinlichkeit kurze Kodewörter zu und, im Gegensatz dazu, seltenen Symbolen entsprechend längere Kodewörter. In der Summierung ergibt sich daraus die Kompression.


Beispiele für Verfahren zur Entropiekodierung:


Shannon-Fano-Kodierung

Huffman-Kodierung

arithmetische Kodierung



Je nach verwendetem Verfahren lassen sich die theoretischen Vorgaben mehr oder weniger gut erreichen. Während die arithmetische Kodierung das Optimum präzise abbildet, ergibt sich bei Anwendung der Shannon-Fano-Kodierung eine deutliche Abweichung. Mit Hilfe der Huffman-Kodierung lassen sich bessere Ergebnisse erzielen, die ideale Kodelänge wird aber nicht erreicht.


Auch wenn die Auswahl des Verfahrens Einfluss auf das Kompressionsergebnis hat, maßgeblich für die Effizienz ist jedoch die Genauigkeit der vorhergehenden Arbeitsschritte. Entscheidend ist das angewendete Modell, dass eine Aussage über die Wahrscheinlichkeit der folgenden Symbole liefert.


 <   ^   > 

Entropie [Entropie]

Shannon-Fano-Kodierung [Shannon-Fano-Kodierung]

Huffman-Kodierung [Huffman-Kodierung]

arithmetische Kodierung [arithmetische Kodierung]

Grundbegriffe Irrelevanzreduktion Kodes mit variabler Länge



Anzeigen:

Informations- und Kodierungstheorie