15
Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Vorlesung: „Künstliche Intelligenz- Mustererkennung - ES ES P LS LS S ST ST Miao Wang Künstliche Intelligenz 1 ES ES S ST ST ME ME

Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

  • Upload
    others

  • View
    5

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Vorlesung: „Künstliche Intelligenz“

- Mustererkennung -

ESES

PP LSLS

SS STST

Miao WangKünstliche Intelligenz 1

ESES SS STST

MEME

Page 2: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Inhaltliche Planung für die Vorlesung

1) Definition und Geschichte der KI, PROLOG

2) Expertensysteme

3) Logisches Schließen, Resolution

4) Suche und Spieltheorie

5) Spieleprogrammierung

6) General Game Playing

7) Reinforcement Learning und Spieleprogrammierung

8) Mustererkennung

Künstliche Intelligenz Miao Wang 2

9) Neuronale Netze

10) Optimierungen (genetische und evolutionäre Algorithmen)

11) Bayes-Netze, Markovmodelle

12) Robotik, Pathfindingder rote Vorlesungsfaden...

Page 3: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Mustererkennung - Abgrenzung

• ComputergrafikSynthese von Bildern aus geometrischen Modellen

• Bildbearbeitung• BildbearbeitungManipulation von Bildern mit fertiger Software (Photoshop, Corel, Paint, etc. )

• Digitale BildverarbeitungErstellung von Software und Funktionen zur Bildbearbeitung

• BildanalyseExtraktion von sinnvollen Informationen aus Bildern

• MustererkennungAuffinden von „Mustern“ in Daten und Signalen

• ComputervisionMechanisieren von Sehvorgängen: räumliche Erfassung und Erkennen von

Künstliche Intelligenz Miao Wang 3

Mechanisieren von Sehvorgängen: räumliche Erfassung und Erkennen von Objekten

Page 4: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Bildverstehen

Mensch Maschine

• Kann sehr gut Muster (Text, Sprache, Musik, Bilder) erkennen, selbst in komplizierter Form

• Kann sehr gut analytische Algorithmen verarbeiten (number crunching)

Künstliche Intelligenz Miao Wang 4

erkennen, selbst in komplizierter Form• Intuitiv, angeboren• Assoziative Fähigkeiten

• Kann schlecht analytische Prozesse berechnen

(number crunching)• Entspricht der Konstruktion• Kombinatorische Fähigkeiten

• Kann schlecht Muster erkennen

Was dem Menschen einfach fällt, scheint dem Rechner schwer zu fallen.Was dem Rechner einfach fällt, scheint einem Menschen schwer zu fallen.

Page 5: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Mustererkennung

Verfahren um gemessene Objekte automatisch in Kategorien (Klassen) einzuordnen durch Erkennen von Muster.

Muster: Merkmale (Features), die alle Objekte einer Klasse gemeinsam haben und deutlich von MerkmalenMuster: Merkmale (Features), die alle Objekte einer Klasse gemeinsam haben und deutlich von Merkmalenanderer Klassen unterscheiden

Aufnahme

Vorverarbeitung

Feature-Extraktion

Künstliche Intelligenz Miao Wang 5

Feature-Reduktion

Klassifizierung Clustering

Lernen

Page 6: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Merkmalsvektor

Jedes Objekt wird durch einen n-dimensionalenJedes Objekt wird durch einen n-dimensionalen

Merkmalsvektor im n-dimensionalen Merkmalsraum

repräsentiert.

Ähnliche Objekte sollten räumlich im Merkmalsraum

beieinander liegen, sodass diese Cluster (Klassen)

bilden.

Künstliche Intelligenz Miao Wang 6

Page 7: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Features

Künstliche Intelligenz Miao Wang 7

Page 8: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Features

Künstliche Intelligenz Miao Wang 8

Page 9: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Features

Künstliche Intelligenz Miao Wang 9

Page 10: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

kNN – k-nächste-Nachbarn

Der KNN-Klassifikation ist der denkbar einfachste Klassifikator:

1. Trainingsphase: Lege alle Datenpunkte in einer Datenbank ab („lazy learning“)2. Testphase: Neue Datenpunkte werden folgendermaßen klassifiziert:2. Testphase: Neue Datenpunkte werden folgendermaßen klassifiziert:

1. Berechne Abstand mit allen Trainingspunkten2. Nehme k-nächsten Nachbarn für weitere Auswahl3. Führe Mehrheitsentscheid aus über die Klassen der k Nachbarn

Vorteile:- Einfach- Sehr gute Ergebnisse

Abstandsmaß:

Euklidische Distanz

Künstliche Intelligenz Miao Wang 10

Nachteile:- Teuer- Wie geeignetes k finden?

Mahalanobis Distanz

Manhattan Distanz

Page 11: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

kMeans

K-Means ist ein iteratives Clustering-Verfahren zur Klassifikation

Trainingsphase:

1. Lege alle Datenpunkte in einer Datenbank ab1. Lege alle Datenpunkte in einer Datenbank ab

2. Wähle k Prototypen und lege sie zufällig in den Merkmalsraum

3. Weise jedem Datenpunkte den nächsten Prototypen zu (Partitionierung)

Künstliche Intelligenz Miao Wang 11

Page 12: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

kMeans

4. Errechne für jeden Prototypen das Clusterzentrum (Schwerpunkt) und setze den Prototypen darauf

5. Goto 3)

Künstliche Intelligenz Miao Wang 12

Page 13: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

kMeans

Testphase:

1. Berechne Abstände zu Prototypen und wähle nächsten Prototyp

Vorteile:

- Einfach

- schnell

Nachteile:

Künstliche Intelligenz Miao Wang 13

- Wann mit Schleife enden?

- Konvergiert nicht immer (!)

- Wie geeignetes k finden?

Page 14: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Gauß-Klassifikator

Modelliere Cluster mit n-dimensionalen

Normalverteilungen (Gauß-Glocken)

Verteilungsfunktion der einfachen NormalverteilungVerteilungsfunktion der einfachen Normalverteilung

Mehrdimensionale Verallgemeinerung

Kovarianzmatrix des Clusters i

Künstliche Intelligenz Miao Wang 14

Kovarianzmatrix des Clusters i

Page 15: Vorlesung: „ Künstliche Intelligenz · Vorlesung Künstliche Intelligenz Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz Mustererkennung - Abgrenzung • Computergrafik

Vorlesung Künstliche Intelligenz

Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz

Gauß-Klassifikator

1. Trainingsphase: 1. Berechne Normalverteilung für alle Klassen1. Berechne Normalverteilung für alle Klassen

2. Testphase: Neue Datenpunkte x werden folgendermaßen klassifiziert:1. Berechne Wahrscheinlichkeit von P(x|ci) für alle Klassen ci

2. Wähle die Klasse mit der höchsten Wahrscheinlichkeit

Künstliche Intelligenz Miao Wang 15