CK ‘99

The machine-mind problemThe machine-mind problem

Christian Kaernbach

Institut für Allgemeine Psychologie

Universität LeipzigIhr redet doch

nicht etwa über mich, oder?

Ursprung des machine-mind problemUrsprung des machine-mind problemVariante des Leib-Seele Problems

Lösungsansätze für das Leib-Seele Problem: Dualismus

• Substanzdualismus (Descartes, Eccles)• psychophysischer Parallelismus (Leibniz)

Monismus• Idealismus (Kant, Fichte)• Materialismus

» radikaler Behaviorismus» eliminativer Materialismus» Funktionalismus

• Identitätslehre (Spinoza, Schelling, Hegel, Fechner)» ...» reduktionistischer Identismus Materialismus» erkenntnistheoretischer Dualismus

Gedankenexperiment: Nachbaubarkeit von Seele (Maschinenseele)Seele: mind, consciousness, intelligence, (soul, animus, psyche) ...

IndustrieroboterIndustrieroboter

Cog: der humanoide RoboterCog: der humanoide RoboterMIT Artificial Intelligence Laboratory

Der Geh-RoboterDer Geh-RoboterHonda

Name: P2. 180 cm, 210 kg, Geschwindigkeit 3 km/h, Batterie für 15 Minuten.

Kismet: ein Mimik-RoboterKismet: ein Mimik-Roboter

• glücklich

• Ärger

• ruhig

• Interesse

• überrascht

• traurig

• müde

• Angst

• Ekel

MIT Artificial Intelligence Laboratory

AIBO™ by Sony, DM 5445,03AIBO™ by Sony, DM 5445,03

Artificial Intelligence roBOt

«Aibo» japan.: Kumpel

AIBO can walk and play, sit and stretch like animals such as dogs and cats. AIBO even has emotions, instincts, and the ability to learn and mature. Communicate, educate, love and nurture AIBO and you will have a one of a kind artificially intelligent pal.

AIBO will tell you when it's happy, sad, angry, or even frightened, ... For example, if AIBO is not in a good mood, it may not pay attention to your orders. On the other hand, if AIBO's feeling happy, it might do a favorite trick for you.

Tamagotchi, DM 40Tamagotchi, DM 40

• Schwache KI– Maschinen bauen, die intelligentes Verhalten zeigen

(die sich verhalten „als ob“)

• Starke KI– Maschinen bauen, die intelligent sind

machines that think

Ansprüche der Künstliche Intelligenz*Ansprüche der Künstliche Intelligenz*

• Indirekte KI– Maschinen bauen, denen Intelligenz zugestanden wird

(die behandelt werden „als ob“)

* Intelligenz, Geist, Bewußtsein, Seele, Erleben, Qualia, Schmerz, ...

Philosophen

Philosophen

IngenieureIngenieure

Psychologen

Psychologen

Argumente gegen schwache KIArgumente gegen schwache KI

• Computer befolgen nur das eingegebene Programm Sie können programmiert sein, zu lernen.

• Computer können nicht ... lachen, lieben, Fehler machen, ... Turing: Mangelnde Erfahrung mit intelligenten Maschinen.

• Computer sind ein formales System (Gödels Theorem) Das Gehirn ist – als physikalisches System – formal.

• GOFAI – God Old-Fashioned AI – Regelbasierte KI Dreyfus, H. (1972). What computers can't do.

New York: Harper and Row. Dreyfus, H. (1992). What computers still can't do.

Cambridge, MA: MIT Press.

Der Turing-Test (Test schwacher KI)Der Turing-Test (Test schwacher KI)

Alan M. Turing. Computing machinery and intelligence. Mind, LIX(236):433-460, October 1950.

Mensch

Terminal

Mensch

Terminal

Computer

Turing: Im Jahr 2000 Irrtumswahrscheinlichkeit 30%. machines that think?Loebner-Preis (seit 1991)

VisionenVisionen

• Alan Turing‘s (1950) Vision: Dialog mit einem Poesieprogramm– In the first line of your sonnet which reads "Shall I compare thee to a summer's day,"

would not "a spring day" do as well or better? It wouldn't scan. How about "a winter's day." That would scan all right. Yes, but nobody wants to be compared to a winter's day. Would you say Mr. Pickwick reminded you of Christmas? In a way. Yet Christmas is a winter's day, and I do not think Mr. Pickwick would mind the comparison. I don't think you're serious. By a winter's day one means a typical winter's day, rather than a special one like Christmas.

machines that think?

• Robert Epstein, Organisator des Loebner-Preises (1992)– Thinking computers will be a new race, a sentient companion to our own. When a

computer finally passes the Turing Test, will we have the right to turn it off? Who should get the prize money - the programmer or the computer? Can we say that such a machine is “self-aware”? Should we give it the right to vote? Should it pay taxes? If you doubt the significance of these issues, consider the possibility that someday soon you will have to argue them with a computer.

VisionenVisionen

• Dietrich Dörner, Professor für Theoretische Psychologie, BambergRowohlt, 1999: Bauplan für eine Seele.

• Thomas Metzinger, Professor für Theoretische Philosophie, MainzSchöningh, 2001: Postbiotisches Bewusstsein -

Wie man ein künstliches Subjekt baut - und warum wir es nicht tun sollten.

– Jede Maschine, die Bewußtsein haben soll, benötigt ein integriertes und dynamisches Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung, virtuelles Gegenwartsfenster), ein transparentes Selbstmodell, mentale Zustände mit intentionalem Gehalt, intentionalen Gehalt zweiter Ordnung (Erste-Person-Perspektive), Ziele...

– Metzinger-Test: Es reicht nicht, daß eine Maschine den Turing-Test besteht,sie muß in die philosophische Debatte zum künstlichen Bewußtsein eingreifen.

RealitätRealitätMitschrift von ALICE, Sieger des Loebner-Preises 2001

MY NAME IS JUDGE02 How are you, Judge02.very well thanks Yikes!are you surprised? A little.why? "A little"? Why?I asked that That is "Why"you are not doing very well What makes you think I am not doing well?well you answers are disjointed. Is that deliberate? How about that. That's good information: Judge02

said I answers are disjointed. That depends.on what? The context.and what is the context? Ask the open directory about it.OK. Can you do arithmetic? I understand. Doing arithmetic is not among

my strongest traits.will you do some for me? Let me think it over. I do nothing but chat all day.

I don't know anything about it.but you just saidthat it was your strongets trait And. I said that? Is that your opinion?no it yours Are you serious? It depends on what the

meaning of the word "it" is.

RealitätRealität

• Small talk: nein• Rechnen: ja• Schach: ja• Mitleid erregen: spielerisch

BUDAPEST (January 30, 1998) - The "tamagotchi" electronic pet craze has taken over Hungary, where a quick-thinking entrepreneur has set up a cemetery for "dead' tamagotchis that has had a rush of clients in its first week.

Another has set up a tamagotchi babysitting service and had so many calls after placing her first ad she had to turn her telephone off.

eine andere Realitäteine andere Realität

• Jede Kröte, die Bewußtsein haben soll, benötigt ein integriertes und dynamisches Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung, virtuelles Gegenwartsfenster), ein transparentes Selbstmodell, mentale Zustände mit intentionalem Gehalt, intentionalen Gehalt zweiter Ordnung (Erste-Person-Perspektive), Ziele...

• Es reicht nicht, daß eine Kröte den Turing-Test besteht,sie muß in die philosophische Debatte zum Bewußtsein eingreifen.

Das chinesische ZimmerDas chinesische Zimmer

• Searle: Ich verstehe kein Chinesisch.• SR: Das gesamte System versteht Chinesisch.• Searle: Ich lerne alles auswendig, dann bin ich das System.• SR: Dann versteht Searle' Chinesisch

ohne cross-over zu seinem englischsprachigen Anteil Searle.

Searle, John. 1980. Minds, Brains, and Programs, Behavioral and Brain Sciences 3, 417-424.

• System Reply

• Robot Reply

• Brain Simulator Reply

2+2= 4

Das algebraische ZimmerDas algebraische Zimmer

• Kann der Rechner rechnen?101000000010010010101000000011010110 100100000

• AZ: Die VP sagt, sie rechne nicht, sie arbeite Tabellen ab.

• SR: Das gesamte System rechnet.

• AZ: Die VP hat alles auswendig gelernt, sie ist das System.

• SR: Die VP leidet an einer Persönlichkeitsspaltung.

• AZ: Dann wollen wir mal sehen, ob wir mit RZ und Fehlerrate an VP ' herankommen.

Ein einfacher RechnerEin einfacher Rechner

3 4

1 2

+

0 =

0 1 2 3 4 0 1 2 3 40 0 0 0 0 01 1 2 3 42 4 1 33 4 24 1

Additions- und Multiplikationstabellen eines finiten algebraischen Körpers

der Mächtigkeit 5

Z modulo 5

+ 0 1 2 3 40 0 1 2 3 41 2 3 4 02 4 0 13 1 24 3

Ein einfacher RechnerEin einfacher Rechner

D F

L J

K :

K L J D F K L J D FK K K K K KL L J D FJ F L DD F JF L

Additions- und Multiplikationstabellen eines finiten algebraischen Körpers

der Mächtigkeit 5

Z modulo 5

K L J D FK K L J D FL J D F KJ F K LD L JF D

MethodikMethodikLD F[D] JF L[D] …

• Bei Gruppe A gibt es eine geheime Übersetzung, es handelt sich um Additions- und Multiplikationstabellen von Z modulo 5.

– Z modulo 5 ist eindeutig!

• [Gruppe B operiert mit Buchstaben ohne Übersetzung, aber mit offensichtlichen Regeln.]

• Die Kontrollgruppe wird mit Zahlen trainiert, lernt dann die Übersetzung.

• Bei Gruppe A gibt es eine geheime Übersetzung, es handelt sich um Additions- und Multiplikationstabellen von Z modulo 5.

– Z modulo 5 ist eindeutig!

• [Gruppe B operiert mit Buchstaben ohne Übersetzung, aber mit offensichtlichen Regeln.]

• Die Kontrollgruppe wird mit Zahlen trainiert, lernt dann die Übersetzung.

• Auswertung:– explizites Wissen: introspektiver Bericht der VP

Einwand: kein cross-over zwischen Persönlichkeitsanteilen– implizites Wissen: RZ / Fehlerraten

• Antwort-Set: 5 Buchstaben ( D F J K L )

• Stimulusmaterial: Paare aus diesen Buchstaben, ohne LD oder mit Klammern [LD]

• Versuchspersonen lernen ZuordnungenLD F [LD] D

zunächst mit Tabelle am linken Bildschirmrand,später auswendig.

Introspektive Berichte Experimentalgruppe A

Introspektive Berichte Experimentalgruppe A

VP-Nr. gerechnet Regeln richtige Zahl Assoziativität Ordnung O-Fehler Gruppe A/Bja/nein assoziiert [1=ja ... 5=nein] [1=A ... 5=B]

A1 nein 0 1 22 34 1 2/4 1<4<3<2<0 7 1A2 nein 0 2 2/2 0<3<4<1<2 4 5 1A3 nein - 1 5/5 1<2<4<0<3 4 4A4 nein - 0 3/4 3<0<2<4<1 5 5A5 nein 0 schneller 0 1/1 0<2<1<4<3 2 2A6 nein 0 2 2/2 4<0<1<3<2 5 4A7A8A9 nein 0 1 22 0 2/2 3<2<4<1<0 8 2

A10A11 nein - 0 3/3 0<1<4<3<2 3 4A12

Mittel nein 0,75 2,69 4,75 3,55 2

-0.5 0 0.5

-0.5

0

0.5

RZ [s] Gruppe A1

RZ

[s]

Gru

ppe

A2

-0.5 0 0.5

-0.5

0

0.5

RZ [s] Gruppe K1

RZ

[s]

Gru

ppe

A2

-0.5 0 0.5

-0.5

0

0.5

RZ [s] Gruppe K1

RZ

[s]

Gru

ppe

K2

RZ als Funktion der Aufgabeloadbereinigt

Subgruppenvergleiche

RZ als Funktion der Aufgabeloadbereinigt

Subgruppenvergleiche

K1 mit K2 A1 mit K2 A1 mit A2

r = 0.78** r = 0.22 r = 0.75**

Fazit: Die VPn der Experimentalgruppe A gehen nachweislichanders mit der Aufgabe um als die VPn der Kontrollgruppe.

r (K1,K2) >** r (A1,K2) r (A1,A2) >** r (A1,K2)

Fragen, die ein Psychologe stellen sollteFragen, die ein Psychologe stellen sollte

richtige Fragen falsche Fragen• Wie verhält sich ein Mensch/ein Tier?

• Was fühlt/will/denkt/... ein Mensch?• Was fühlt/will/denkt/... ein Mensch?

• Was fühlt/will/denkt/... ein Tier?• Was fühlt/will/denkt/... ein Tier?

• Was fühlt/will/denkt/... ein Artefakt?• Wie verhalten sich Menschen – gegenüber Tieren?– gegenüber Artefakten?

ganz falsche Fragen• Wie werden sich Menschen gegenüber

Artefakten in Zukunft verhalten?• Was wird ein Artefakt der Zukunft

fühlen/wollen/denken/...?

???

unbeantwortbare Fragen

GegenwartGegenwart

ZukunftZukunft

Analogieschluß• Was fühle/will/denke/... ich?

Indirekte KIIndirekte KI

Indirekte KIIndirekte KI

Verhalten gegenüber Tieren und ArtefaktenVerhalten gegenüber Tieren und Artefakten

• Gesetzgebung– Tierschutzgesetz

• Gesellschaftliche Aktivitäten– NGOs, Tierschutzvereine,

Tierheime, Tierversuchsgegner

You can fool some of the people all of the time, and all of the people some of the time,

but you cannot fool all of the people all of the time.

Abraham Lincoln

You can fool some of the people all of the time, and all of the people some of the time,

but you cannot fool all of the people all of the time.

Abraham Lincoln

• Verhalten von voll informierten Versuchspersonen in Laborsituationen

– Mindeststandards für AIBO Haltung

– Tamagotchi-Heime, -Schutzvereine

– Indirekte KI: Maschinen bauen, denen Intelligenz zugestanden wird(die trotzdem behandelt werden „als ob“)

Verhalten in LaborsituationenVerhalten in Laborsituationen

Reaktion von Versuchspersonen auf Grausamkeit gegenüber Tieren bzw. Artefakten

• Reales Experiment– nicht verantwortbar, illegal, Ärger mit Tierschutzgruppen

• Vorgetäuschtes reales Experiment– VP glaubt, Situation sei real. Hinterher Aufklärung.

• Umfrage zu vorgestellten Situationen– VP weiß um Irrealität, ahnt Zielstellung.

• Gedankenexperiment

Experiment

Teilnahme:

0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%

Tamagotchi

AIBO

AIBO 2050

Froschmuskel

Heuschrecke

betäubter Hund

ja eventuell eher nicht nein

N=15

DatenDaten

Teilnahme:

0% 20% 40% 60% 80% 100%

AIBO

Maus

ja unsicher nein

N=7

N=10

vorgetäuscht:

vorgestellt:

Auszüge

Versuch einer Antwort auf eine unbeantwortbare Frage

Versuch einer Antwort auf eine unbeantwortbare Frage

• Indirekte KI– Maschinen bauen, denen Intelligenz zugestanden wird

• State of the art: Keinem Computer/Roboter etc. wird ernsthaft Seele zugestanden. Kröten hingegen schon.

• Wird es je Maschinen geben, denen Seele zugestanden wird?(Möglichkeit des Irrtums.)

Indirekte KIIndirekte KI

• Was veranlaßt das Zugestehen von Seele?

Seele wird zugestanden auf Grund von Ähnlichkeit.

• Worin ist uns eine Kröte ähnlicher als ein humanoider, beredter Roboter?

– Biomasse? Gegenargument: spielerisches Zugestehen von Seele zu AIBO etc., Technikgläubigkeit vieler Zeitgenossen.

– Verfolgung von Eigeninteresse (Intentionen)nicht: Intentionalität ("aboutness") als Eigenschaft mentaler Zustände,sondern: Intentionalität im gewöhnlichen Sinn („absichtsvoll handeln“).Erschließen von Intentionalität durch menschliche Versuchspersonen

• durch Verhaltensbeobachtung• zusätzlich durch Analyse der Gesamtsituation

Intelligenz, ... basiert auf IntentionIntelligenz, ... basiert auf Intention• Keine intelligente

Handlung/Vor-richtung ohne Eigeninteresse / Intention

• Was sind die mentalen Zustände eines Thermostats?

• Wessen Intentionen dirigieren das Verhalten des Thermostats?eines Taschenrechners?eines Schachcomputers?von AIBO™?eines chatterbot? (Turings Poesieprogramm)

• Intelligenz ... wird der erzeugenden Intention/Person zugeordnet.„Intelligente Systeme sind informationsverarbeitende Systeme.“ Information für wen? Wer hat ein Interesse an der Information?

Intention dient dem ÜberlebenskampfIntention dient dem Überlebenskampf

• Jede uns bekannte Intention ist gerichtet aufs Überleben:– Fortbestand des Individuums Nahrung, Heilen– Generierung von Nachfolgern Fortpflanzung

Perpetuierung .

– Unterstützung der eigenen Art helfende u.a. Berufe– Überleben einer Idee Kunst, Religion– ...

• Wortspiel: Überlebenskampf = Streben nach Unsterblichkeit

Intelligenz ist eine Funktion des Überlebenskampfes– Intelligenz getrennt von Mechanismen des Überlebenskampfes zu

simulieren verfehlt den Eindruck glaubhafter Eigenintention.– state of the art in Artificial Life:

DNA-Moleküle evolutionieren auf präpariertem Substrat.

VisionenVisionen

• Sony proudly announces: The Turing Talker™Bezieht Informationen selbständig aus Internet, Radio und Fernsehen.

Lieferumfang: Baby-Modul, das erst sprechen lernen muß (ca. 5 Wochen).

Frei gewählte Voreinstellungen (etwa: besondere Interessen, Wichtung von Gedächtnis- und Intelligenzressourcen) sowie die individuelle Lernerfahrung machen Ihren Turing Talker™ zu einen Individuum.

Schulen Sie Ihre Rhetorik mit dem Turing Talker™.

• Sony proudly announces: The Turing Talker™Bezieht Informationen selbständig aus Internet, Radio und Fernsehen.

Lieferumfang: Baby-Modul, das erst sprechen lernen muß (ca. 5 Wochen).

Frei gewählte Voreinstellungen (etwa: besondere Interessen, Wichtung von Gedächtnis- und Intelligenzressourcen) sowie die individuelle Lernerfahrung machen Ihren Turing Talker™ zu einen Individuum.

Schulen Sie Ihre Rhetorik mit dem Turing Talker™.

Der vollautonome Roboter Dust Eater™ (bezieht Solarenergie, war konzipiert für automatisches Staubwischen, kann sich reproduzieren)ist den Labors bei Sony entlaufen und vermehrt sich unkontrolliert auf den Müllhalden von New York. Kammerjäger sind unterwegs,treffen aber auf den Widerstand von artificial life Aktivisten.

Der vollautonome Roboter Dust Eater™ (bezieht Solarenergie, war konzipiert für automatisches Staubwischen, kann sich reproduzieren)ist den Labors bei Sony entlaufen und vermehrt sich unkontrolliert auf den Müllhalden von New York. Kammerjäger sind unterwegs,treffen aber auf den Widerstand von artificial life Aktivisten.

Werbung 2050

Zeitungsmeldung 2450

CK ‘99

DankDank• Lutz Munka (virtuelles Tierquälen)• Sabine Windmann (für die Frage „Kann der Rechner rechnen?“)• Erdmute Sommerfeld (Beratung bei Problemlöseaufgaben)• Ulrich Walther (mathematische Struktur von Z modulo 5)

• Searle im Experiment– Widerlegung der System Reply? … oder

Induzierung einer Persönlichkeitsspaltung?– Ist es möglich, mit experimentalpsycholo-

gischen Methoden in eine philosophische Debatte einzugreifen?

• Indirekte KI:– Bedarf es des vorgetäuschten Experimentes?– Konfundierung mit Gehorsamsvariablen– Alternativen:

• Unterschriften gegen Tamagotchimißbrauch• Geldsammlung für AIBO-Heim• ...

• Schwache und starke KI

• Das chinesische Zimmer

• Visionen und Wirklichkeit

• Beitrag des Psychologen: Indirekte KI

• Experiment– Methode, Daten, Diskussion

– Suche nach Alternativen

• Indirekte KI in der Zukunft

DiskussionDiskussion

Ihr redet doch nicht etwa über

mich, oder?