G.Heyer Algorithmen und Datenstrukturen 1 Digitales Suchen / Digitale Suchbäume Verschiedene Suchverfahren laufen in der Weise ab, dass sie die Suchschlüssel

G.Heyer Algorithmen und Datenstrukturen1

Digitales Suchen / Digitale Suchbäume

Verschiedene Suchverfahren laufen in der Weise ab, dass sie die Suchschlüssel bitweise untersuchen, anstatt in jedem Schritt vollständige Vergleiche zwischen Schlüsseln durchzuführen.Diese Methoden, die digitale Suchverfahren (radix-searching methods) genannt werden, arbeiten mit den Bits der Schlüssel selbst, im Gegensatz zu der transformierten Variante der Schlüssel, die beim Hashing verwendet wird.

Ebenso wie im Falle der digitalen Sortierverfahren gilt, dass diese Methoden von Nutzen sein können, wenn die Bits der Suchschlüssel leicht zugänglich und die Werte der Suchschlüssel gut verteilt sind.


Die Hauptvorteile sind, dass

• sie ohne Komplikationen, die bei ausgeglichenen Bäumen auftreten, ein annehmbares Verhalten im ungünstigsten Fall gewährleisten,

• sie einen einfachen Weg zur Behandlung von Schlüsseln mit variabler Länge bieten,

• einige von ihnen Einsparungen von Speicherplatz ermöglichen, indem sie einen Teil des Schlüssels innerhalb der Suchstruktur speichern und dass

• sie einen sehr schnellen Zugriff auf die Daten realisieren können, der sowohl mit binären Suchbäumen als auch mit Hashing vergleichbar ist.


Die Nachteile sind, dass

• Daten mit einer gewissen Systematik zu entarteten Bäumen mit schlechtem Verhalten führen können und

• dass einige der Verfahren den Platz sehr ineffizient ausnutzen.

Wie die digitalen Sortierverfahren sind auch diese Methoden dazu bestimmt, spezielle Eigenschaften der Architektur eines Computers auszunutzen.


Digitale Suchbäume

Das einfachste digitale Suchverfahren ist die Suche mit digitalen Bäumen; der Algorithmus ist genau der gleiche wie der für die Suche in einem Binärbaum, mit dem Unterschied, dass in dem Baum nicht entsprechend dem Ergebnis des Vergleiches zwischen den Schlüsseln verzweigt wird, sondern entsprechend den Bits des Schlüssels.

Auf der ersten Ebene wird das führende Bit benutzt, auf der zweiten Ebene das zweite führende Bit usw., bis ein äußerer Knoten vorgefunden wird.

Das Programm hierfür ist praktisch das gleiche wie für die Suche in einem Binärbaum. Der einzige Unterschied ist, dass die Vergleiche der Schlüssel durch Aufrufe der Funktion bits ersetzt werden, die beim digitalen Sortieren verwendet wurde.


unsigned bits ( unsigned x, int k, int j ){ return (x >> k ) & ~ (~ 0 << j) ; }

j sind Bits, die k Stellen von rechts in x erscheinen.

Die Funktion kann in Maschinensprache effizient implementiert werden, indem um k Bits nach rechts geschoben wird und dann alle Bits außer den rechts befindlichen j Bits auf 0 gesetzt werden.

int digitalsearch ( int v)

{

struct node *x = head;

int b = maxb;

z -> key = v ;

while ( v != x -> key)

x = ( bits (v, b--,1)) ? x -> r : x -> l ;

return x -> info;

}


Datenstruktur:die gleiche wie die für elementare binäre Suchbäume

Die Konstante maxb ist die Anzahl der Bits in den Schlüsseln, die zu sortieren sind. Für das Programm wird angenommen, dass das erste Bit in jedem Schlüssel ( das (maxb + 1) -te von rechts) 0 ist, so dass die Suche bei head beginnt, welches eine Verkettung ist, die auf den Kopfknoten eines Baumes mit dem Schlüssel 0 und mit einer auf den Suchbaum zeigenden linken Verkettung zeigt.

Daher ist die Prozedur zur Initialisierung für dieses Programm die gleiche wie für die Suche in einem Binärbaum, abgesehen davon, dass man mit

head -> l = z anstatt mit head -> r = z beginnt.

Hier wird vorausgesetzt, dass alle Schlüssel, die in der Datenstruktur auftreten, unterschiedlich sind.


Annahme:

der i-te Buchstabe des Alphabets wird durch die aus fünf Bits bestehende Binärdarstellung von i repräsentiert.

Um Konsistenz mit bits zu erreichen, betrachten wir die Bits von rechts nach links mit 0 bis 4 durchnumeriert.

( demnach ist Bit 0 das einzige von 0 verschiedene Bit von A, und Bit 4 ist das einzige von 0 verschiedene Bit von P)

A 0 0 0 0 1

S 1 0 0 1 1

E 0 0 1 0 1

R 1 0 0 1 0

C 0 0 0 1 1

H 0 1 0 0 0

I 0 1 0 0 1

N 0 1 1 1 0

G 0 0 1 1 1

X 1 1 0 0 0

M 0 1 1 0 1

P 1 0 0 0 0

L 0 1 1 0 0


Ein digitaler Suchbaum

A

S

X

L

M

NI

H

G

C

E

P

R

0

0 1

0

1

1

1

0

00

0

1

11

1

1

1

0

0

0

1

10 10

0


Prozedur für das Einfügen in digitale Suchbäumedigitalinsert (int v, int info )

{

struct node *p, *x = head;

int b = maxb;

while (x != z )

{

p = x ;

x = ( bits ( v, b--, 1 )) ? x--> r : x --> l ;

}

x = (struct node *) malloc (sizeof *x);

x --> key = v ; x --> info = info ; x --> l = z ; x --> r = z ;

if ( bits ( v, b+1, 1 ) ) p --> r = x ; else p --> l = x;

}


Beispiel: Einfügen eines neuen Knotens,wenn der Schlüssel Z = 11010 zu dem Baum hinzugefügt wird.

Durchlaufen des digitalen Suchbaums:

• zweimal nach rechts wenden, da die beiden führenden Bits

von Z 1 sind,

• dann nach links, wo der äußere Knoten links von X liegt, wo Z eingefügt wird.

Der ungünstigste Fall für Bäume, die mit digitaler Suche erzeugt werden, ist viel besser als für binäre Suchbäume, wenn die Anzahl der Schlüssel groß ist und die Schlüssel nicht lang sind. Die Länge des längsten Pfades in einem digitalen Suchbaum ist gleich der längsten Übereinstimmung in den führenden Bits zwischen zwei beliebigen Schlüsseln im Baum, und diese ist für viele Anwendungen meist relativ klein (z. B. wenn die Schlüssel aus zufälligen Bits bestehen ).


Eigenschaften eines digitalen Suchbaumes:Ein Suchen oder Einfügen in einem digitalen Suchbaum erfordert durchschnittlich ungefähr lg N Vergleiche und im ungünstigsten Fall b Vergleiche, wenn der Baum aus N zufälligen Schlüsseln mit b Bits erzeugt wurde.

Es ist offensichtlich, dass kein Pfad jemals länger sein kann als die Anzahl der Bits in den Schlüsseln; z. B. kann ein digitaler Suchbaum, der aus Schlüsseln mit acht Zeichen erzeugt wurde, mit beispielsweise sechs Bits pro Zeichen, keinen Pfad besitzen, der länger als 48 ist, selbst wenn es Hunderttausende von Schlüsseln gibt. Aus einer Analyse geht hervor, dass digitale Suchbäume nahezu ausgeglichen sind, da das „nächste“ Bit eines zufälligen Schlüssels mit der gleichen Wahrscheinlichkeit 0 oder 1 sein kann, so dass auf beide Seiten eines jeden Knotens jeweils die Hälfte entfällt.


Digitale Such-Tries

Sehr oft liegt der Fall vor, dass Suchschlüssel sehr lang sind, vielleicht zwanzig Zeichen oder mehr. In einer solchen Situation können die Kosten, die beim Vergleich eines Suchschlüssels hinsichtlich der Gleichheit mit einem Schlüssel aus der Datenstruktur entstehen, zu dominierenden Kosten werden, die nicht vernachlässigt werden können.

Bei der Suche mit Hilfe digitaler Bäume wird ein solcher Vergleich bei jedem Knoten des Baumes vorgenommen.

Ziel: Verringerung der Vergleiche


Neue Idee:

die Schlüssel nicht im Knoten des Baumes zu speichern, sondern stattdessen alle Schlüssel in äußeren Knoten des Baumes anzuordnen. Das heißt, anstatt für äußere Knoten der Struktur z zu verwenden, sieht man Knoten vor, die die Suchschlüssel enthalten.

Es entstehen 2 Typen von Knoten:

• innere Knoten, die nur Verkettungen zu anderen Knoten enthalten und

• äußere Knoten, die Schlüssel und keine Verkettungen enthalten.

(Fredkin nannte diese Methode „trie“, da sie für das Wiederauffinden „retrieval“ von Nutzen ist.)


Suchen eines Schlüssels in einer solchen Struktur:Entsprechend seiner Bits abzweigen (aber kein Vergleich ) bis man an einen äußeren Knoten gelangt.

Jeder Schlüssel im Baum wird in einem äußeren Knoten des Pfads gespeichert, der von dem führenden Bitmuster des Schlüssels beschrieben wird, und jeder Suchschlüssel gelangt zu einem äußeren Knoten, so dass ein vollständiger Vergleich der Schlüssel die Suche beendet.

Beispiel eines (binären) digitalen Such-Tries für die

Schlüssel A S E R C

A C

E

R S


Interessante Eigenschaften eines digitalen Such-TrieDie Struktur des Trie ist unabhängig von der Reihenfolge, in der die Schlüssel eingefügt werden. Für jede gegebene Menge von unterschiedlichen Schlüsseln existiert ein eindeutiger Trie.

Für die Implementation dieses Verfahrens in C sind zwei Typen von Knoten erforderlich, wobei Verkettungen in inneren Knoten auf Knoten beider Typen zeigen können.

Der linke Unterbaum eines binären digitalen Such-Trie enthält alle Schlüssel, die als führendes Bit 0 haben; der rechte Unterbaum enthält alle Schlüssel, die 1 als führendes Bit haben. Dies führt zu einer unmittelbaren Entsprechung zum digitalen Sortieren. Bei der Suche mit binären Tries wird die Datei in genau der gleichen Weise zerlegt wie bei Radix Exchange Sort. Diese Entsprechung ist analog zu der Entsprechung zwischen der Suche in einem Binärbaum und Quicksort.


Weitere Eigenschaften von digitalen Such-TriesEin Suchen oder Einfügen in einem digitalen Such-Trie

erfordert ungefähr lg N Bitvergleiche für eine durchschnittliche Suche und b Bitvergleiche im ungünstigsten Fall, wenn der Baum aus N zufälligen Schlüsseln mit b Bits erzeugt wurde.

Eine störende Eigenschaft von digitalen Tries, welche sie von den anderen Typen von Suchbäumen unterscheidet , ist die „Einweg-“Verzweigung, die für Schlüssel erforderlich ist, die eine große Anzahl Bits gemeinsam haben. Zum Beispiel erfordern Schlüssel, die sich nur im letzten Bit unterscheiden, einen Pfad, dessen Länge gleich der Länge des Schlüssels ist, gleichgültig, wie viele Schlüssel im Baum vorhanden sind. Die Zahl der inneren Knoten kann um einiges größer sein als die Zahl der Schlüssel.


Ein digitaler Such-Trie, der aus N zufälligen Schlüsseln mit b Bits erzeugt wurde, besitzt im Durchschnitt ungefähr N/ln2 = 1,44 N Knoten.

Beispiel: Ein Such-Trie, der aus 95 zufälligen Schlüsseln mit 10 Bits erzeugt wurde, besitzt 131 Knoten.

Ziel: Die Höhe von Tries ist zwar durch die Anzahl von Bits in den Schlüsseln begrenzt, doch wäre es wünschenswert, die Möglichkeit zur Verarbeitung von Datensätzen mit sehr langen Schlüsseln (z. B. 1000 Bits oder mehr ) zu betrachten.

Die Schlüssel könnten evtl. eine gewisse Einheitlichkeit aufweisen, wie dies bei Daten der Fall sein könnte, die kodierten Text darstellen. Ein Weg, um die Pfade in den Bäumen zu verkürzen, besteht in der Verwendung von deutlich mehr als zwei Verkettungen pro Knoten ( obwohl dadurch ein „Platz“-Problem infolge der Verwendung zu vieler Knoten entstehen kann; ein anderer Weg ist das „Verkürzen“ von Pfaden, die Einweg-Abzweigungen zu einzelnen Verkettungen enthalten.


Huffman-Codierung

Der erste Schritt zur Erzeugung des Huffmann-Codes besteht darin, durch Zählen der Häufigkeit jedes Zeichens innerhalb der zu kodierenden Zeichenfolge zu ermitteln.Das folgende Programm ermittelt die Buchstabenhäufigkeiten einer Zeichenfolge a und trägt sie in ein Feld count [26] ein.Die Funktion index dient dazu, dass der Häufigkeitswert für den i-ten Buchstaben des Alphabets in dem Eintrag count [i] eingetragen wird, wobei wie üblich der Index 0 für das Leerzeichen verwendet wird.

for (i = 0; i <= 26 ; i++ ) count [i] = 0;for ( i = 0; i < M ; i++ ) count [ index(a[i])] ++;

Nehmen wir z. B. an, dass wir die Zeichenfolge “A SIMPLE STRING TO BE ENCODEC USING A MINIMAL NUMBER OF BITS” kodieren möchten.Häufigkeiten sind: 11 Leerzeichen, 3 A, 3 B usw.


Häufigkeitstabelle zum Beispielsatz:

A B C D E F G H I J K L M N O P Q R S T U V W X Y Z

k 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 count[k]

11 3 3 1 2 5 1 2 0 6 0 0 2 4 5 3 1 0 2 4 3 2 0 0 0 0 0

Der nächste Schritt ist der Aufbau des Kodierungs-Tries entsprechend den Häufigkeiten.

Während der Erzeugung des Trie betrachten wir ihn als eine binären Baum mit Häufigkeiten, die in den Knoten gespeichert sind; nach seiner Erzeugung betrachten wir ihn dann als einen Trie für die Kodierung, in der beschriebenen Weise.


Zunächst wird für jede von null verschiedene Häufigkeit ein Knoten des Baumes erzeugt.

Dann werden die beiden Knoten mit den kleinsten Häufigkeiten ausgewählt, und es wird ein neuer Knoten erzeugt, der diese beiden Knoten als Nachfolger hat und dessen Häufigkeit einen Wert hat, der gleich der Summe der Werte für seine Nachfolger ist. ( Falls mehr als 2 Knoten mit der kleinsten Häufigkeit vorhanden sind, ist es gleichgültig, welche benutzt werden.)

Danach werden die beiden Knoten mit der kleinsten Häufigkeit in diesem Wald ermittelt und eine neuer Knoten wird auf die gleiche Weise erzeugt. In dem man in dieser Weise fortfährt, werden immer größere Unterbäume hergestellt und gleichzeitig bei jedem Schritt die Anzahl der Bäume im Wald um eins verringert (zwei werden entfernt, einer wird hinzugefügt). Am Schluß sind alle Knoten miteinander zu einem einzigen Baum verbunden.


Beispiel: Erzeugung eines Huffman-Baumes

1 16 2 33 4 53 4 3 2 22 2 15 11

11

6 2 33 4 53

6 2 33 4 53

4 3 2 22 2 15 11

4 3 2

2

2 2

1

5 11

11

. . .

2

2 3


Nächste Schritte zur Erzeugung des Tries

6 33 4 53

11

4

3

5 11

2122 22

5

2

4 4 3

Zum Schluss liegen Knoten mit geringer Häufigkeit weit unten im Baum, Knoten mit großen Häufigkeiten in der Nähe der Wurzel des Baumes.


Vollständiger Baum

60

23

11

5

6

12

5 6

3 3 3

116

16

37

3

221

88

21

2

4

10

44

2

4

22

5

11

3


Nunmehr kann der Huffman-Code abgeleitet werden,indem die Häufigkeiten an den unteren Knoten einfach durch die zugehörigen Buchstaben ersetzt werden und der Baum dann als ein Trie für die Kodierung angesehen wird, wobei, genau wie oben „links“ einem Bit 0 und „rechts“ einem Bit 1 im Code entspricht.

Der Code für N ist 000, der Code für I ist 001,

der Code für C ist 110100 usw.

Die kleine Zahl oberhalb jedes Knotens in diesem Baum ist der Index für das Feld count, der angibt, wo die Häufigkeit gespeichert ist. Diese Angabe wird für die Untersuchung im Programm benötigt .

Folglich ist count[33] = 11, der Summe der Häufigkeitszähler für N und I.


Skizze für die Huffman-Kodierung zum Beispielsatz

N

O

I

27

3233

29

G

AB

37 38

LUF

31 30

28

42 S E

36 3435

41 M

D R

40 39

PC

43 T


Huffman-Kodierung ist die beste Kodierung,

da Buchstaben mit großen Häufigkeiten sich näher an der Wurzel befinden und mit weniger Bits verschlüsselt werden als bei anderen Kodierungen.

Eigenschaft: Die Länge der kodierten Zeichenfolge ist gleich der gewichteten äußeren Pfadlänge des Huffman-Baumes.

Die „gewichtete äußere Pfadlänge“ eines Baumes ist gleich der über alle äußeren Knoten gebildeten Summe der Produkte des „Gewichts“ (zugehöriger Häufigkeitszähler) mit der Entfernung von der Wurzel. Dies ist eine Möglich-keit, die Länge der kodierten Zeichenfolge zu berechnen; sie ist äquivalent zu der über alle Buchstaben gebildeten Summe der Produkte der Häufigkeit des Auftretens eines Buchstabens mit der Anzahl der Bits bei jedem Auftreten.


Eigenschaft:

Kein Baum mit den gleichen Häufigkeiten bei den äußeren Knoten hat eine kleinere gewichtete äußere Pfadlänge als der Huffman-Baum.

Mit Hilfe des gleichen Prozesses kann ein beliebiger Baum rekonstruiert werden, um den Huffman-Baum zu erzeugen, doch ohne bei jedem Schritt unbedingt die zwei Knoten mit dem kleinsten Gewicht auszuwählen. Mittels Induktion lässt sich beweisen, dass keine Strategie zu einem besseren Ergebnis führen kann, als die, bei der zuerst die beiden kleinsten Gewichte ausgewählt werden.

Documents

G.Heyer Algorithmen und Datenstrukturen 1 Digitales Suchen / Digitale Suchbäume Verschiedene Suchverfahren laufen in der Weise ab, dass sie die Suchschlüssel