Beispielbild - Freie Universität · Rescorla-Experiment: Ton + Schock – Konditionierung mit konstanter Kontiguität Kontingenz fehlt Kontingenz niedrig Ergebnis: Die konditionierte

Beispielbild

Lernen & Gedächtnis

Prinzipien und Modelle der Klassischen Konditionierung

SoSe 2008

2Grundlagen: Klassische KonditionierungFachbereich, Titel, Datum

Gesetze des assoziativen Lernens

Frage:

Gelten die Gesetze der Assoziation in der Konditionierung?

Wird Konditionierung vollständig aus Kontiguität, Frequenz und Intensität vorhergesagt?

§1: „Kontiguität“ beschreibt das gemeinsame Auftreten zweier Ereignisse



§1: Kontiguität

Rolle des US – CS – Zeitintervalls

Trace (Spuren-Konditionierung) vs.

Delay (Verzögerungs-Konditionierung) vs.

Pawlows Ergebnisse zeigen, dass die Verzögerung effektiver als die Spur ist – wie von der Assoziationslehre vorhergesagt.



§1: Kontiguität

Intervall zwischen CS und US

Befunde von Moeller (1954) zeigen, dass bei einem Intervall von mehr als 2s keine Konditionierung mehr möglich ist.

Schätzung für die Integrationszeit im neuronalen System, welches die Kontiguitäterkennen muss.250 450 1000 2500

CR-Stärke

CS-US-Intervall



§1: Kontiguität

Probleme mit der Kontiguität

Die Konditionierung ist schlechter, wenn CS und US gleichzeitig präsentiert werden – oder wenn der CS nach dem US präsentiert werden.

Bedeutet dies, dass bei simultaner Konditionierung keine Assoziation gebildet wird?



§1: Kontiguität

Sensorische Vorkonditionierung

Phase 1: Ton + Licht (simultan)

Phase 2: Licht + Schock (Verzögerung)

Phase 3: Ton

Interpretation:

Assoziationen werden auch gebildet, wenn Reize (CS & US) simultan präsentiert werden.

Allerdings scheint der CS seinen prädiktiven Wert zu verlieren, d.h. dem Organismus bleibt keine Vorbereitungszeit. Weshalb also reagieren? Konditionierung ist ein adaptiver Prozess!

SNIFFY


Kontingenz

1966 : Schicksalsjahr für die Idee der Kontiguität

Rescorla: Predictabilityand number of pairings

in Pavlovian fearconditioning.

Psychonomic Science

Garcia & Koelling: Relation of cue to consequence in

avoidance learning. Psychonomic Science

Prinzip der Kontingenz Prinzip der ‚Preparedness‘


Kontingenz

CS CS CS

= US

Kontingenz = p(US|CS) – p(US|no CS)

Kontingenz = 0.1 – 0.1 = 0

CSCS CS Kontingenz = 1 – 0 = 1

CSCSCS Kontingenz = 0.6 – 0.2 = 0.4

Forderung der Kontingenz: US muss ein valider Prädiktor des Auftretens des US sein.

Kontingenz ist ein statistisches Wahrscheinlichkeitsmaß, dass zwei bedingte Wahrscheinlichkeiten verrechnet.

Wichtig: Man braucht immer die Gegenprobe p(US|no CS)!


Kontingenz

Positive Kontingenzen

CS CS CS

CS CS CS

Rescorla-Experiment: Ton + Schock –

Konditionierung mit konstanter Kontiguität

Kontingenz hoch

Kontingenz niedrig

Ergebnis:Starker Konditionierungseffekt (CER) in der Kontingenz/hoch-Gruppe, kein

Konditionierungseffekt in der Kontingenz/niedrig-Gruppe


Kontingenz

Negative Kontingenzen

CS CS CS

CS CS CS

Rescorla-Experiment: Ton + Schock –

Konditionierung mit konstanter Kontiguität

Kontingenz fehlt

Kontingenz niedrig

Ergebnis:Die konditionierte Angstreaktion (CER) lässt in der

Kontingenz/fehlt-Gruppe nach.


Bereitschaft (prepardness)

Prinzip der ‚Preparedness‘

Experimentelle Grundidee:

Wieso lernt die Ratte so schnell Geschmacksaversionen?

Problem für die Kontiguität:

Wieso vermeidet die Ratte spezifisch einen Geschmack, aber nicht die assoziierten visuellen Cues (oder Plätze)?

Praktische Anwendungen:

-Jagdverhalten von Koyoten.

-Gewichtsverlust nach Chemotherapie



Experiment: Bestrahlung (Übelkeit)

1) Wasser neutral oder Geschmack

2) Trinkprozedur (neutral) mit Licht und Ton gekoppelt

3) Bestrahlung

4) Test: Licht oder Ton

Ergebnis: Geschmack wurde assoziiert

Kontrolle: Elektrischer Schock (Freezing)

1) Wasser neutral oder Geschmack

2) Trinkprozedur (neutral) mit Licht, Ton & Elektroschock gekoppelt

4) Test: Licht oder Ton

Ergebnis: Licht & Ton wurde assoziiert

prä postFlü

ssig

keit

sau

fnah

me Neutr. Neutr.

Geschm.

Geschm.



Zusammenfassung der Ergebnisse

1) Geschmack + Übelkeit : kann assoziiert werden

2) Geschmack + Elektroschock: kann nicht assoziiert werden



Implikationen 1:Geschmacksaversionen

erklären, wie Präferenzen für Nahrungsmittel entstehen. Es

handelt sich um einen eigenständigen Prozess, der

nicht an visuelle – oder sonstige Reize – gebunden ist.

Implikationen 2:Geschmacksaversionen zeigen, dass Kontiguität alleine nicht

ausreichend für Lernen ist.Sogar eine zeitliche

Verzögerung von bis zu 24h kann zu einer gelernten

Geschmacksaversion führen.

Ein anderes Lernprinzip?Rolle von ‚typischer‘ klassischer Konditionierung: Vorbereitung auf

Nahrungsaufnahme, Gefahrensituation, Paarung etc.Rolle von Geschmacksaversion: Vermeidung von Nahrung. Werden alle

situativen Umstände auch konditioniert, wird das Verhalten unangemessen und es entsteht eine Selektionsnachteil.


Blockierung

Leo Kamins DesignZwei-Gruppen-Design in einer Angstkonditionierungsaufgabe:

1. CER auf Licht wird bei Ratten geprüft, die bei Darbietung von Licht & Ton einen

Elektroschock erhalten.2. Was passiert aber, wenn eine Gruppe schon

vorab auf den Ton konditioniert wurde?

Gruppe 1 Ton/Licht – Schock

Gruppe 2 Ton – Schock Ton/Licht - Schock

Erster Training Hauptexperiment

SNIFFY


Blockierung

OriginalergebnisseIn der Gruppe der ‚naiven‘ Ratten gibt es eine

CER-Reaktion auf Licht von 0.05, d.h. eine starke Angstreaktion.

In der Gruppe der vorkonditionierten Ratten gibt es einen sehr schwachen Effekt auf den Lichtreiz

nach der Konditionierung von 0.45.

InterpretationEs liegt eine Blockierung vor.

Grundlage: Wenn ein Organismus einen schmerzhaften Reiz erfährt, dann sucht er aktiv

nach Hinweisreizen, die im Gedächtnis abgespeichert werden können.

Der Prozess findet jedoch nur statt, wenn der Reiz unerwartet auftritt.

Naive RattenSchock ist überraschend.

Gedächtnisspur wird zu Ton & Licht gelegt.

Erfahrene RattenSchock ist nicht überraschend.Gedächtnisspur wird nicht zu

Licht gelegt.

VK

K


Blockierung

Kontrollexperiment

Was passiert, wenn der US nicht erwartet ist?

Gruppe 1 Ton - Schock Ton/Licht – Schock

Gruppe 2 Ton – Schock Ton/Licht – Schock…Schock

Erster Training Hauptexperiment

Einführung eines zweiten Schocks (Verzögerung 5s) nach dem ersten SchockAufgrund des zweiten Schocks wird eine Assoziation zum Licht gebildet – und auch die vorkonditionierte Gruppe reagiert auf das Licht.


Blockierung

Implikationen 1:Blockierung ist ein weiterer Einwand gegen die Idee der

Kontiguität.Für die Konditionierung ist wichtig, dass nicht jeder Reiz, der einem US vorhergeht, assoziiert wird.

Konditionierung fokussiert sich auf die Reize, die gute

Prädiktoren sind.

Implikationen 2:Blockierung ist ein Indiz dafür, das kognitive Mechanismen in die

Konditionierung eingeschaltet sind.Gedächtnis und Aufmerksamkeit spielen bei der Konditionierung

eine zentrale Rolle.Konditionierung beschränkt sich auf autonome Reaktionen, nicht

aber auf das autonome Nervensystem!


Modelle zur Klassischen Konditionierung


Rescorla-Wagner-Modell

Was erklärt die Formel? Was sagt diese Formel voraus?

Wieso ist dies die vielleicht wichtigste Formel in der Psychologie?



Ausgangspunkt:

Kontingenz, Prepardness, Blockierung implizieren, dass hinter der Konditionierung mehr als nur die simultane Aktivierung von zwei Hirnzentren steht.

‚Überraschung‘:

Die Kombination aus Ton/Licht + Schock muss nicht zu einer Konditionierung für den Lichtreiz führen.

Der US (Schock) muss nämlich überraschend sein! Nur dann wird eine Suche im Gedächtnis initiiert.



Leo Kamins Botschaft:

Lernen hängt von der Diskrepanz zwischen unserer Erwartung und dem Erleben ab.

Wenn ein erwartetes Ereignis eintritt, lernen wir nicht! Werden wir überrascht, suchen wir nach Kontingenzen.

Modifikation von Rescorla & Wagner:

Der Grad der Überraschung determiniert, wie stark der Konditionierungseffekt ist.

Je unerwarteter der Reiz, desto stärker die Konditionierung.



Lernkurve und der Parameter V:

V = Stärke der Assoziation von CS & US

V nimmt nicht linear über die Zeit zu, sondern folgt einer Sättigungsfunktion

Lernkurve und der Parameter ∆V:

∆V(i) = Veränderung der Stärke über einen fixen Zeitraum i

V(max) = Asymptote, der sich die Funktion annähert (Sättigungswert)



Wie kommt nun der ‚Überraschungswert‘ in diese

Funktion?

Beziehung zwischen V und V(max)

Im frühen Stadium der Konditionierung (1) ist die Differenz hoch. D.h. der Grad der Überraschung ist hoch.

Im späten Stadium der Konditionierung (2) ist die Different geringer. D.h. der Grad der Überraschung ist gering.

Der Grad der Überraschung ist korreliert mit dem Anwachsen der assoziativen Stärke.

V(max)



Wie sagt man nun ∆V(i) vorher:

∆V(i) = V(max) – V(i)

Das Anwachsen der Stärke der Assoziation in einem Trial i wird determiniert aus der Differenz zwischen V(max) und der augenblicklichen Assoziationsstärke V(i).



Problem 1

Manches Konditionieren geht langsam (Speichelfluss), manches Konditionieren geht schnell (Geschmacksaversion).

Wie verändert dies das Modell?

Man muss einen Parameter einfügen:

∆V(i) = c(V(max) – V(i))

V(max) legt das Niveau der Asymptote fest. c legt fest, wie schnell sich die Funktion ändert.



Problem 2

Wie kann ich das Modell evaluieren?

Wie viele Parameter benötige ich zur Schätzung?

sEr = (sHr x D x K x V) - (sIr + Ir) +/- sOr

Lösung:

Die Werte (c, V(max)) werden zufällig festgesetzt. D.h. dass man nur qualitative Aussagen über den Lernverlauf treffen kann, keine quantitativen.

Hull



Evaluation: Simpler Konditionierungsprozess

Typ: Ton / Fleisch – Speichel

V(max) : 1.0 und c=0.3

∆V(i) = c(V(max) – V(i))

Zeitpunkt Ass. Stärke ∆V(i)

1 0.0 0.3 (1-0.0) = 0.3

2 0.3 0.3(1-0.3) = 0.21

3 0.51 0.3(1-0.51)= 0.15

4 0.66 0.3(1-0.66) =0.10



Evaluation: Extinktion

Typ: Ton – Speichel

V(max) : 0 und c=0.3

∆V(i) = c(V(max) – V(i))

Zeitpunkt Ass. Stärke ∆V(i)

5 0.66 0.3 (0-0.66) = -0.198

6 0.46 0.3(0-0.46) = -0.138

7 0.322 0.3(0-0.322)= -0.096



Evaluation: Blockierung

Typ: Ton/Licht – Schock

Implikation: V(CS1, CS2) = V(CS1) + V(CS2)

Und ∆V(US1,i) = ∆V(CS2,i) = c(V(max) – V(CS1, CS2))

CS1 (Ton) in der ersten Phase gegeben. Maximale Ass-Stärke erreicht:

V(CS1) = 1.0

CS1 (Ton) und CS2 (Licht) werden in der zweiten Phase kombiniert:

V(CS1,CS2) = V(CS1) + V(CS2) = 1 + 0 = 1

Was ist hier der Assoziationsanstieg für den CS2 (Licht)?

∆V(CS2,i) = c(V(max) – V(CS1, CS2)) =

0.3 (1.0 – 1.0) = 0 (mit V(max) : 0 und c=0.3)



Evaluation: Kontingenz

= USCSCS CS Kontingenz = hoch

CS Kontingenz = niedrigCS

Erklärung:

Organismus sucht nach einem CS (z.B. Surren des Ventilators)

Und: dieser neue CS ist vermutlich konstant vorhanden

CS CS

CS2 CS2CS2CS2

Konsequenz:

Da CS2 häufiger mit dem US gekoppelt wird, ist dessen assoziative Stärke auch höher.



Problemfälle für das Modell

Licht - Schock Licht…

Licht - Schock Licht…Licht…

Latente Inhibition oder CS Preexposure Effect:

CS wird schwieriger zu konditionieren, weil man wahrscheinlich lernt, ihn zu ignorieren.

Nicht erklärbar mit dem Rescorla-Wagner-Modell!



Problemfälle für das Modell

Licht - Schock Ton+Licht - …

V(Ton) = 0.5 V(Ton+Licht) = 1.0V(Licht) = 0.5

Ton - Schock

Konfigurales Lernen:

Eine Reizzusammensetzung kann schwieriger als CS fungieren. Eine

simple Summation der Reize funktioniert nicht, da das Ereignis

als ‚Stimulus-Compound‘verarbeitet wird.

Nicht erklärbar mit dem Rescorla-Wagner-Modell!

Zeit

CR

Ton+Licht

Ton

Licht



Bewertung

Vorteile

Das Modell kann eine Reihe komplexer Lernvorgänge erklären, wie z.B. die Extinktion oder das ‚Blocking‘.

Probleme

Das Modell fokussiert sich nur auf die Beziehung zwischen CS und US – aber nicht auf die ‚Geschichte‘ des Lernens oder seine Umgebung. Diese können aber die CS-US-Assoziationen modulieren.

Aber:

Alle Modifikationen des Modells implementieren seine Kernannahmen: Das Lernen ist asymptotisch und basiert auf einer Veränderung der Assoziationsstärke zwischen US und CS.


Was lernt man bei der Konditionierung?

Iwan Pawlow

Konditionierung führt zu einer Reiz-Substitution. D.h. der CS ‚ersetzt‘ die Wirkung

des US.

Die Idee: Der US löst normalerweise eine automatische (angeborene) Handlung aus. Der CS bekommt nach einer Reihe von Paarungen

mit dem US die gleiche Kompetenz.

Reaktionen des Hundes auf einen konditionierten Lichtreiz: Hund wird versuchen,

ob die Lampe zu essen ist.

CS wird US !!!



Evidenz für die Reiz-Substitution:

Autoshaping (Jenkins & Moore, 1973)

Lichtreiz wird bei Tauben einmal mit Wasser und einmal mit Körnern konditioniert.

Effekt: CS (Licht-Wasser) wird mit geschlossenem Schnabel und offenen Augen (=Trinken) beantwortet. CS (Licht-Körner)

wird mit offenem Schnabel und geschlossenen Augen (=Nahrung) beantwortet.



Edward Tolman

Konditionierung bildet Erwartungen aus.

CS-US-Paarung führt dazu, dass CS ein Signal für das Auftreten des US wird.

Aber:

Der CS wird nicht der US!!!



Evidenz für die Erwartungs-Idee:

Colwill & Motzkin, 1994

Ratten bekamen zwei Arten von Verstärkung aus einer Box:

CS1 – Zuckerlösung

CS2 – Futter-Pellets

Intervention: Zuckerlösung wird mit Übelkeit gekoppelt

Resultat: Annäherungsverhalten an die Box nur noch, wenn CS2 auftritt.

Interpretation: Differenzielles Annäherungsverhalten drückt eine differenzielle Erwartung aus.



Was stimmt nun?

Vielleicht beides…

Kortikales System für die

Bildung von Erwartungen Subkortikales

System für die Reizsubstitution

Zwei-System-Hypothese



Kortikales System: Evolutionsgeschichtlich jung, Primär in den Ablauf bewusster Informationsverarbeitung eingebettet, arbeitet langsam.

Subkortikales System: Evolutionsgeschichtlich alt,

vermittelt auch unbewusste Prozesse,

läuft schnell ab.



Beispiel ‚Angst‘

Nach der Theorie von LeDouxvermittelt die Amygdala die

schnelle Furchtreaktion, ohne dass eine genaue

Inhaltsanalyse vorgenommen wurde.

Die Inhaltsanalyse wird durch den Neokortex

durchgeführt.



Folge einer Läsion der Amygdala

Obwohl die Handlungskontingenzen klar erkannt werden, wird keine ‚normale‘ emotionale Reaktion gezeigt. (Damasio, 2003)



Folge einer Läsion des Hippokampus

Der Patient kann nicht die Kontingenz zwischen zwei

Ereignissen angeben (Farbe – Stromstoß), zeigt jedoch eine deutliche autonome

Reaktion.



Ist die konditionierte Reaktion (CR) immer identisch mit der unkonditionierten Reaktion (UR)?

Speichelfluss:

Chemische Zusammensetzung des Speichels ändert sich.

Augenblinzler:

Latenz und Dauer des Blinzlerssind nicht identisch.

Verhalten:

Futter – Licht – Konditionierung: Wieso gähnt & keucht der Hund?

Ton – Schock – Konditionierung: Wieso springt die Ratte nicht?

Ton – Futter – Konditionierung: Wieso Zucken die Ratten mit den Köpfen?



Ist die konditionierte Reaktion (CR) immer identisch mit der unkonditionierten Reaktion (UR)?

Behavior – System – Theorie:

Konditionierung hat einen Effekt auf den motivationalen Zustand des Organismus. Der CS löst

eher ein Appetenzverhalten aus, d.h. eine Orientierungsreaktion, die vom eigentlichen UR

differieren kann.

Documents

Beispielbild - Freie Universität · Rescorla-Experiment: Ton + Schock – Konditionierung mit konstanter Kontiguität Kontingenz fehlt Kontingenz niedrig Ergebnis: Die konditionierte