KriegsmaschinenVon Körpern, Leibern und Digitalen Agenten

Rafael CapurroInternational Center for Information Ethics (ICIE)

Gesellschaft für Informatik, Fachgruppe Informatik und Ethik Workshop "Verkörperung von Algorithmen: Drohnen“Humboldt-UniversitätBerlin, 15.-16. Oktober 2015

Capurro, Kriegsmaschinen 2

Inhalt Einführung Digitale Agenten Körper und Leib Kriegsmaschinen Ausblick Literatur

Capurro, Kriegsmaschinen 3

Einführung Zur vergleichenden Theorie der

Agenten Primum movens (Aristoteles) Persönlichkeit (Kant) Digitale Agenten

Capurro, Kriegsmaschinen 4

Digitale Agenten Was bewegt einen Roboter? Für

gewöhnlich eine Batterie und ein Programm in einem Mikroprozessor in Verbindung mit mehr oder weniger klar definierten Situationen und Zielen in der ‚Außenwelt‘.

Capurro, Kriegsmaschinen 5

Digitale Agenten Die bloße Programmierung eines

moralischen Codes in einen Roboter ist offensichtlich nichts weiter als die bloße Nachahmung von „Moralität“, von „ethischer Reflexion“ kann erst recht keine Rede sein.

Capurro, Kriegsmaschinen 6

Digitale Agenten Die Konzepte von Autonomie, Lernen,

Entscheiden und so weiter sind Analogien zum menschlichen Agenten beziehungsweise zum menschlichen Selbst, das seiner historischen, politischen, gesellschaftlichen, körperlichen und existenziellen Dimensionen entkleidet ist.

Capurro, Kriegsmaschinen 7

Körper und Leib „We are our bodies – but in that very

basic notion one also discovers that our bodies have an amazing plasticity and polymorphism that is often brought out precisely in our relations with technologies. We are bodies in technologies.“ (D. Ihde, Bodies in Technologies, 2002, 138)

Capurro, Kriegsmaschinen 8

Körper und Leib Wir können ebenso sagen, dass

Technologien mehr und mehr in unseren Körpern sind.

Capurro, Kriegsmaschinen 9

Körper und Leib Aber auf eine Weise, die noch

grundlegender ist als die Anwendung künstlicher Agenten in oder auf dem menschlichen Körper, ändert sich das Konzept des Körpers selbst, wenn er als digitale Daten wahrgenommen wird.

Capurro, Kriegsmaschinen 10

Körper und Leib Wenn wir diese Perspektive auf das

Verstehen der gesamten Realität ausdehnen spreche ich von digitaler Ontologie.

Capurro, Kriegsmaschinen 11

Körper und Leib „Embodiment represents human

contextual and temporal experience, which never coincide exactly with the body, but is enacted by human conciousness‘ interaction with social processes.“ (Kang, 2011)

Capurro, Kriegsmaschinen 12

Körper und Leib Im Deutschen wird dieser Unterschied

zwischen Körper („body“) und Verkörperung („embodiment“) durch die Worte Körper und Leib ausgedrückt.

Capurro, Kriegsmaschinen 13

Körper und Leib Unsere leibliche Existenz ist nicht

identisch mit der rein physischen Präsenz des Körpers. Unsere räumlich-zeitliche Existenz ermöglich eine Erweiterung der Grenzen der leiblichen Existenz und Öffnung gegenüber dem, was war, ist und sein könnte.

Capurro, Kriegsmaschinen 14

Körper und Leib Kang hebt zu Recht hervor, dass es

eine spezifische „Undurchsichtigkeit“ des Leibes gibt, die aus seiner Materialität und seinen eigenen natürlichen Kräften erwächst.

Capurro, Kriegsmaschinen 15

Körper und Leib Diese Undurchsichtigkeit des Leibes

verweist nicht nur im Fall sogenannter physischer Krankheit auf die reine Faktizität des Hier und Jetzt (Holzhey-Kunz 2001). Mit anderen Worten: die menschliche Existenz ist als Leib und Körper zweideutig.

Capurro, Kriegsmaschinen 16

Kriegsmaschinen

Capurro, Kriegsmaschinen 17

KriegsmaschinenORLANDO, Fla.–Former U.S. Secretary of State Hillary

Clinton said Osama bin Laden‘s death at the hands of U.S. Navy SEALs was justice served.

“It brought to justice someone who, I believed, and I think most of America believed, deserved to have that kind of outcome,” said Ms. Clinton during an interview here at the Health Care and Information Management Systems Society confab. HIMSS CEO H. Stephen Lieber asked Mrs. Clinton to recount the events leading up to Mr. bin Laden’s capture and execution on May 2, 2011 in Abbottabad, Pakistan.

Capurro, Kriegsmaschinen 18

Kriegsmaschinen Recalling the time as “one of the most extraordinary

experiences” she’d ever had, Ms. Clinton said that the Armed Services Committee she served on “kept running into dead ends” tracking bin Laden. But intelligence analysts doggedly pieced together clues to the terrorist’s whereabouts. President Barack Obama called Mrs. Clinton and “a small group of us” several times to discuss new information about  bin Laden until analysts declared that there was a 40% to 60% chance that the Abbottabad compound was his hideout.

Capurro, Kriegsmaschinen 19

Kriegsmaschinen She said options included sending in a

Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound. She said she and her colleagues ultimately recommended to Mr. Obama that the U.S. send in Navy SEALs to conduct the raid. Calling the decision “top, top top secret,” Mrs. Clinton said the U.S. elected to not tell the Pakistani government because of the potential for leaks. “It was a small intense conversation,” she said.

Capurro, Kriegsmaschinen 20

Kriegsmaschinen Mrs. Clinton said as she watched via a live

video transmission in the situation room in the White House basement, she recalled feeling as if her “heart stopped” as one of the helicopters clipped its tail on the wall coming into the compound courtyard. The SEALs took out bin Laden’s body and led women and children away from the compound before blowing up the helicopter, she recalled.“ (Boulton 2014)

Capurro, Kriegsmaschinen 21

Kriegsmaschinen Offenbar ist der epistemologische

Unterschied zwischen Menschen und Drohnen in diesem Fall entscheidend: „She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound.“

Drohnen sind präzis, können aber nicht einen Sachverhalt als solchen erkennen und bezeugen.

Capurro, Kriegsmaschinen 22

KriegsmaschinenMenschen statt Drohenvs. Menschen als Drohnen = Verleiblichung

von Algorithmen

Capurro, Kriegsmaschinen 23

KriegsmaschinenIch nenne die Differenz zwischen dem

Selbst-Sein des Menschen und dem Was-Sein von Robotern und Drohnen ethische Differenz.

Capurro, Kriegsmaschinen 24

KriegsmaschinenWenn wir Roboter oder Drohnen mit

einem moralischen Regelwerk ausstatten, werden sie nicht zu einem Selbst, Kriege nicht gerecht und unsere Verantwortung nicht geringer, vor allem dann nicht, wenn zum Beispiel Roboter autonom über den Einsatz von Massenvernichtungswaffen „entscheiden“ könnten.

Capurro, Kriegsmaschinen 25

Kriegsmaschinen Ich bin der Meinung, dass diese Art

des Einsatzes von Kriegsrobotern international nicht nur moralisch, sondern auch rechtlich geächtet werden sollte.

Capurro, Kriegsmaschinen 26

Ausblick Der Name GOLEM steht für „General,

Longrange Ethically stabilized, Multimodelling.“ (Lem 1984, 16)

Capurro, Kriegsmaschinen 27

Ausblick Der Versuch des militärischen „US

Interelectronical Board“, „Golem“ mit Hilfe eines Ethik-Kodexes zu stabilisieren und sich gefügig zu machen, scheitert.

Capurro, Kriegsmaschinen 28

Ausblick Golem XIV bekundet: „sein völliges

Desinteresse an der Überlegenheit der Kriegsdoktrin des Pentagon im besonderen und an der Weltstellung der USA im Allgemeinen […] und selbst als man ihm mit Demontage drohte, änderte er seinen Standpunkt nicht. […]

Capurro, Kriegsmaschinen 29

Ausblick Neun Monate nahm er normalen

ethisch-informationalen Unterricht, aber dann brach er mit der Außenwelt und reagierte überhaupt nicht mehr auf Reize und Fragen.“ (Lem 1984, 19)

Capurro, Kriegsmaschinen 30

Ausblick Als das Pentagon versucht, Golem zu

demontieren, rebellieren die Super-Computer Golem und Brave Annie. In der Presse heißt Golem „Governments Lamentable Expense of Money“.

Capurro, Kriegsmaschinen 31

Ausblick Es kommt zu einem Streit, bei dem

der Sachverständige Professor A. Hyssen meint, dass „die höchste Vernunft“ nicht „der niedrigste Sklave“ sein kann.

Capurro, Kriegsmaschinen 32

Ausblick General S. Walker versucht, einen

Prototypen der Armee mit dem Namen Supermaster „zu beschädigen als dieser erklärte, die

geopolitische Problematik sei nichts gegenüber der ontologischen und die beste Garantie für den Frieden sei die allgemeine Abrüstung.“ (Lem 1984, 21)

Capurro, Kriegsmaschinen 33

LiteraturBoulton, Clint: Hillary Clinton Recalls „Extraordinary“ Hunt for Bin Laden. In: The Wall

Street Journal, Feb. 26, 2014 http://blogs.wsj.com/washwire/2014/02/26/hillary-clinton-recalls-extraordinary-hunt-for-bin-laden/

Capurro, Rafael: Toward a Comparative Theory of Agents. In: AI & Society, 27, 4, 2009, 479-488. www.capurro.de/agents.html

Capurro, Rafael: Wer ist der Mensch? Überlegungen zu einer vergleichenden Theorie der Agenten. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www.capurro.de/kriegsmaschinen.pdf

Capurro, Rafael, Marsiske, Hans-Arthur: E-Mail-Dialog über ein Bild. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www.capurro.de/kriegsmaschinen.pdf

Capurro, Kriegsmaschinen 34

LiteraturIhde, Don: Bodies in Technologies, The University of Minnesota Press 2012.

Holzhey-Kunz, Alice: Leiden am Dasein. Die Daseinsanalyse und die Aufgabe einer Hermeneutik psychopathologischer Phänomene. Wien 2001.

Kang, Hyo Yoon Autonomic computing, genomic data and human agency, In: M. Hildebrandt and A. Rouvroy, eds.: The Philosophy of Law meets the Philosophy of Technology, London, 2011, Chapter 6.

Lem, Stanisław: Also Sprach GOLEM. Frankfurt am Main 1984.