Herbert Klimant, Rudi Piotraschke, Dagmar Schonfeld Informations- und Kodierungstheorie

Annotation

1.1 Gegenstand der Informations-und Kodierungstheorie Die Informations-und Kodierungstheorie [information and coding theory) ge- hort zum theoretischen Fundament der Informatik. Sie dient der formalen Be- schreibung, der Analyse und Bewertung informationeHer Prozesse (wie Erzeu- gung, Ubertragung und Speicherung von Informationen) in unterschiedlichen Anwendungsbereichen. Bemerkenswert dabei ist, da die Information in diesen Prozessen immer nur in kodierter Form erscheint, womit bereits auf den engen Zusammenhang zwischen Information und Kodierung hingewiesen werden soll. Die Entstehung der Informationstheorie und der Kodierungstheorie fallt des- halb nicht zufallig in die gleiche Zeit, die mit den grundlegenden Arbeiten von C. E. SHANNON [SHA 48) und R. W. HAMMING [HAM 50) datiert werden kann. In der Folgezeit haben sich beide Theorien dann jedoch weitgehend selb- standig entwickelt. Obwohl die Informationstheorie, historisch gesehen, aus den Bedurfnissen der Nachrichtenubertragung entstand, fand sie nach dem Erscheinen der Arbeit von SHANNON eine rasche Verbreitung in vielen Anwendungsbereichen. Da- bei wurden aber auch bald ihre Grenzen erkannt, die darin bestehen, da die Informationstheorie nur eine spezifische Seite der Information, namlich ihren statistischen Aspekt, erfat, der sich auf die wahrscheinlichkeitstheoretische Verteilung der informationstragenden Elemente (z.B. Zeichen) bezieht. Man sagt deshalb auch zu Recht "Statistische Informationstheorie" oder ,,SHAN- N 0 N sehe Informationstheorie". Fur die Einbeziehung des semantischen Aspekts (Bedeutung der Information) und des pragmatischen Aspekts (Nutzen fur den lnformationsempfanger) ist bisher noch keine gleichwertige und allgemeingultige Losung gefunden worden.