diff --git a/DiMa/dima.pdf b/DiMa/dima.pdf index e253f38..17081ee 100644 Binary files a/DiMa/dima.pdf and b/DiMa/dima.pdf differ diff --git a/DiMa/dima.tex b/DiMa/dima.tex index ef7242b..e43f213 100644 --- a/DiMa/dima.tex +++ b/DiMa/dima.tex @@ -303,5 +303,27 @@ Jeder ist dazu aufgerufen, sich an der Entwicklung zu beteiligen! Ein Baum heißt \idx{optimal}, falls $\Lquer(T) = \Lquer(p_1, \ldots, p_n)$ + \subsubsection{Der Hauptsatz der Informationstheorie} + Sei $n \ge 1$ und sei $q \ge 2$. Sei weiter $(p_1, \ldots, p_n)$ eine + Wahrscheinlichkeitsverteilung auf $\{1, \ldots, n\}$. + Dann gilt + \[- \sum_{i=1}^n p_i \log_q p_i \le \Lquer (p_1, \ldots, p_n) + \le - \sum_{i=1}^n p_i \log_q p_i + 1, \] + wobei $0 \cdot \log_q 0$ als $0$ zu interpretieren ist. + (Da $\linf x \cdot \log_q x = 0$) + + \subsection{Der Huffman-Algorithmus} + \subsubsection{Vorbereitungen} + Sei $n \ge 1, q\ge 2$ Sei $(p_1, \ldots, p_n)$ eine + Wahrscheinlichkeitsverteilung auf $\{1, \ldots, n\}$, so dass + $p_1 \ge p_2\ge p_n \ge 0$. Dann existiert ein optimaler (n, q)-Baum $T$ + für $(p_1, \ldots, p_n)$, so dass + \begin{enumerate} + \item für die Blätter $b_1, \ldots, b_n$ gilt $l(b_1) \le l(b_2) \le + l(b_n)$. Weiter sind die letzten $q$ Blätter $b_{n-q+1}, \ldots, + b_n$ von der maximalen Länge $L(T)$. + \item $T$ ist vollständig. + \end{enumerate} + \printindex \end{document}