Vorbereitung auf den Huffman-Algorithmus

DiMa/dima.tex

@@ -303,5 +303,27 @@ Jeder ist dazu aufgerufen, sich an der Entwicklung zu beteiligen!
         Ein Baum heißt \idx{optimal}, falls
         $\Lquer(T) = \Lquer(p_1, \ldots, p_n)$
 
+        \subsubsection{Der Hauptsatz der Informationstheorie}
+        Sei $n \ge 1$ und sei $q \ge 2$. Sei weiter $(p_1, \ldots, p_n)$ eine
+        Wahrscheinlichkeitsverteilung auf $\{1, \ldots, n\}$.
+        Dann gilt
+        \[- \sum_{i=1}^n p_i \log_q p_i \le \Lquer (p_1, \ldots, p_n)
+        \le - \sum_{i=1}^n p_i \log_q p_i + 1, \]
+        wobei $0 \cdot \log_q 0$ als $0$ zu interpretieren ist.
+        (Da $\linf x \cdot \log_q x = 0$)
+
+    \subsection{Der Huffman-Algorithmus}
+        \subsubsection{Vorbereitungen}
+        Sei $n \ge 1, q\ge 2$ Sei $(p_1, \ldots, p_n)$ eine
+        Wahrscheinlichkeitsverteilung auf $\{1, \ldots, n\}$, so dass
+        $p_1 \ge p_2\ge p_n \ge 0$. Dann existiert ein optimaler (n, q)-Baum $T$
+        für $(p_1, \ldots, p_n)$, so dass
+        \begin{enumerate}
+            \item für die Blätter $b_1, \ldots, b_n$ gilt $l(b_1) \le l(b_2) \le
+                l(b_n)$. Weiter sind die letzten $q$ Blätter $b_{n-q+1}, \ldots,
+                b_n$ von der maximalen Länge $L(T)$.
+            \item $T$ ist vollständig.
+        \end{enumerate}
+
 \printindex
 \end{document}