Regeln für KI jenseits von Markt und Staat der aktuelle ...¼r-KI... · Regeln für KI jenseits von Markt und Staat – der aktuelle Stand einer internationalen Debatte. IT-Sicherheit

Regeln für KI jenseits von Markt und Staat –der aktuelle Stand einer internationalen Debatte.

IT-Sicherheit am Donaustrand„Braucht die Wirtschaft Leitlinien für KI?“Regensburg, 17.07.2019.

Prof. Dr. phil. habil. Karsten WeberInstitut für Sozialforschung und Technikfolgenabschätzung (IST)Regensburg Center of Health Sciences and Technology (RCHST)Ostbayerische Technische Hochschule (OTH) [email protected]

S. 2

Die Zukunft der Vergangenheit

Karsten Weber, 17.07.2019

Regeln für KI jenseits von Markt und Staat

S. 3

Diskussionsbeginn: Norbert Wiener


Norbert Wiener (1948) ging davon aus, dass bestimmte Steuerungsmechanismen in Lebewesen und Maschinen in gleicher Weise ablaufen.

Wiener (1950) warnte schon sehr früh vor dem Missbrauchspotenzial der Kybernetik.

Wiener, Norbert (1948): Cybernetics or control and communication in the animal and the machine. New York: MIT Press.

Wiener, Norbert (1950): The human use of human beings: Cybernetics and society. Boston: Houghton Mifflin.


S. 4

Diskussionsbeginn: Alan F. Turing


Schon bevor die technischen Möglichkeiten bestanden, KI-Systeme entwickeln zu können, fragt sich Alan Turing (1950), ob Maschinen denken könnten und wie dies zu messen wäre. Darauf geht der Turing-Test zurück.

Turing, Alan (1950): Computing machinery and intelligence. Mind, 59, pp. 433–460.


S. 5

Diskussionsbeginn: Joseph Weizenbaum


Joseph Weizenbaum (1966) entwickelte zunächst selbst KI-Systeme, wandelte sich aber schließlich zu einem scharfen Kritiker des Computereinsatzes im Allgemeinen und von KI-Systemen im Speziellen (Weizenbaum 1976).

Weizenbaum, Joseph (1966): ELIZA – A computer program for the study of natural language communication between man and machine. Communications of the ACM, 9 (1), pp. 36–45.

Weizenbaum, Joseph (1976): Computer Power and Human Reason. From Judgement to Calculation. W. H. Freeman and Company.


S. 6

Debatten-Hype Cycles: Die 1980er Jahre



Stichworte: Fifth generation computing Massively parallel

computing/processing Logic programming (bspw. LISP,

Prolog, …)

Vorangetrieben wurde dies insbesondere durch das japanische Ministry of International Trade and Industry (MITI).

Bild aus: Popular Science, April 1983, p. 78.

S. 7

(KI-)Algorithmen sind (fast) überall drin …

Suchmaschinen.

Soziale Medien (bspw. Facebook Timeline).

Sprachassistenten (Siri, Alexa, Cortana etc.).

Sprachübersetzer (Google Translate, DeepL).

Kreditvergabe (Risikobewertung bei Kreditvergabe).

Mustererkennung (Autonomes Fahren, Post, Qualitätskontrolle, medizinische Diagnostik etc.).

…



Es gibt nicht die eine KI, sondern KI ist ein Sammelbegriff, der vielfältige Algorithmen, Techniken, und Ansätze umfasst.

Viele KI-Algorithmen können erst jetzt effizient genutzt werden, weil die verfügbare Rechenleistung groß genug dafür ist.

S. 8

Eine drohende Gefahr?



http://bit.ly/2GxTRot

S. 9

Regulierung? Was für wen?



Quelle: https://1e9.community/t/dieser-comic-erklaert-kuenstliche-intelligenz-so-dass-jeder-sie-versteht/269

Quelle: http://www.callcenterprofi.de/branchennews/detailseite/callcentercomic-emotionale-intelligenz-20196267/

S. 10

Was gibt es?



(Globale) Politik, OECD: Recommendation of the Council on Artificial Intelligence, https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#_ga=2.75981461.1262937887.1560181483-1360217025.1560181480.

(Europäische) Politik, EU: Ethics guidelines for trustworthy AI, https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.

(Bundes)Politik, Bundesministerium des Innern, für Bau und Heimat (BMI): Empfehlungen der Datenethikkommission für die Strategie Künstliche Intelligenz der Bundesregierung, https://www.bmi.bund.de/SharedDocs/downloads/DE/veroeffentlichungen/themen/it-digitalpolitik/datenethikkommission/empfehlungen-datenethikkommission.pdf?__blob=publicationFile&v=2.

Gewerkschaften, UNI Global Union: Die 10 wichtigsten Grundsätze für ethische künstliche Intelligenz, http://www.thefutureworldofwork.org/media/35484/uni-global-union_-kuenstliche-intelligenz.pdf.

Wissenschaft: The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, https://img1.wsimg.com/blobby/go/3d82daa4-97fe-4096-9c6b-376b92c619de/downloads/1c6q2kc4v_50335.pdf.

Wissenschaft, Future of life Institute: Asilomar AI Principles, https://futureoflife.org/ai-principles/.

Wirtschaft, Microsoft: Künstliche Intelligenz und Ethik: Warum KI ethische Prinzipien braucht, um ein Erfolg zu werden, https://news.microsoft.com/de-de/ethik-prinzipien-kuenstliche-intelligenz/.

Wirtschaft, Deutsche Telekom: Digital ethics guideline on AI, https://www.telekom.com/resource/blob/544508/ca70d6697d35ba60fbcb29aeef4529e8/dl-181008-digitale-ethik-data.pdf. KI-Leitlinien, https://www.telekom.com/resource/blob/532444/87e1e54df08cce6f4483985bd25250b6/dl-180710-ki-leitlinien-data.pdf.

…

S. 11

Ein Beispiel: OECD



Recommendation

1. Inclusive growth, sustainable development and well-being.

2. Human-centred values and fairness.

3. Transparency and explainability.

4. Robustness, security and safety.

5. Accountability.

S. 12

Ein Beispiel: UNI Global Union



Prinzip

1. Forderung, dass KI-Systeme transparent sein müssen.

2. Ausrüstung von KI-Systemen mit einer „Ethik-Black Box“.

3. KI soll in erster Linie den Menschen und dem Planeten dienen.

4. Annahme eines Ansatzes, bei dem der Mensch die Kontrolle hat.

5. Sicherung einer geschlechterneutralen, unvoreingenommenen KI.

6. Teilen der Vorteile von KI-Systemen.

7. Sicherung eines gerechten Übergangs und Unterstützung für grundlegende Freiheiten und Rechte.

8. Einsatz globaler Governance-Mechanismen.

9. Verbot der Übereignung von Verantwortung an Roboter.

10. Verbot eines Wettrüstens mit KI-Waffen.

S. 13

Ein Beispiel: Microsoft



KI-Ethik-Prinzip

1. Diskriminierungsfreiheit: Wir setzen uns dafür ein, dass Künstliche Intelligenz alle Menschen fair behandelt.

2. Zuverlässigkeit: Wir arbeiten daran, dass Künstliche Intelligenz zuverlässig und sicher ist.

3. Schutz der Privatsphäre: Wir wollen Künstliche Intelligenz, die Datenschutz und Datensicherheit gewährleistet.

4. Barrierefreiheit: Wir stehen für Künstliche Intelligenz, die allen Menschen zu Gute kommt.

5. Transparenz: Künstliche Intelligenz muss uns ihre Entscheidungen erklären.

6. Verantwortlichkeit: Künstliche Intelligenz darf nur den Einfluss haben, den wir ihr zugestehen.

S. 14

Übereinstimmungen



Vertrauens-würdige

Künstliche Intelligenz

Transparenz

Erklärbarkeit

Sicherheit und Zuverlässigkeit

Diskriminierungs-freiheit

Human-in-the-loop

Menschenrechte, Freiheit und Fairness

Privatsphäre und Datenschutz

Klare Verantwortungs-zuweisung

S. 15

Warum der Titel dieses Vortrags?



Elinor Ostrom, 1933-20122009 Alfred-Nobel-Gedächtnispreis für Wirtschaftswissenschaften

Elinor Ostrom: Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge, Cambridge University Press 1990.

Elinor Ostrom: Die Verfassung der Allmende: Jenseits von Staat und Markt. Tübingen: Mohr 1999.

Eine Auseinandersetzung mit Gütern, insbesondere Gemeingütern (die Allmende) und Entwicklung bzw. Beschreibung von Regulierungsansätzen „jenseits von Staat und Markt“, also auf Basis sozialer Regeln.

S. 16

Gehen Sie zurück auf Los?!



Elinor Ostrom, 1933-20122009 Alfred-Nobel-Gedächtnispreis für Wirtschaftswissenschaften

Bisher existieren keine verbindlichen, KI-spezifischen „harten“ Regulierungen in Gestalt von Gesetzen oder Verordnungen.

Es gibt zahlreiche Vorschläge vonseiten der Wissenschaft, staatlichen Stellen, Wirtschaft, NGOs und internationalen Organisationen.

Die Einhaltung solcher Vorschläge setzt die Bereitschaft zur Akzeptanz sozialer Normen und die Abkehr von reinem ökonomischen Maximierungsdenken voraus.

Ob das im globalen Maßstab kulturübergreifend und rechtsraumüberschreitend funktionieren kann, bleibt abzuwarten.

S. 17

Daher:



Eine Selbstverpflichtung aufseiten von in Deutschland aktiven Unternehmen, Organisationen und Institutionen, die an oder mit KI arbeiten, eine der vorgenannten Empfehlungen, Regelwerke oder Leitlinien als verbindlich für das eigene Handeln anzusehen, könnte Signalwirkung haben.

Alternativ wäre natürlich möglich, dass geeignete Verbände eigene Regelwerke entwickeln und für ihre Mitglieder als verbindlich erklären.

Entscheidend wäre die Selbstbindung an ein Regelwerk, das eine Orientierung an moralische Grundwerte vorgibt und dessen Verbindlichkeit auch durch Sanktionen hergestellt wird.

S. 18

Und/oder:



Die EU-Mitgliedsstaaten formulieren eine KI-Regulierung analog der DSGVO.

Einen Markt mit über 500 Millionen in der Regel kaufkräftigen Konsumentinnen und Konsumenten kann man auch global nicht einfach ignorieren.

Würde eine europäische KI-Regulierung zudem Bestandteil von Freihandelsabkommen, würde deren Reichweite sich erheblich ausdehnen.

Ein solches Analogon hätte doppelte Wirkung: Sie schützte die Bürgerinnen und Bürger der EU vor Missbrauch und europäische Unternehmen vor unfairem Wettbewerb.

Regeln für KI im Rahmen von Markt und Staat – eine drängende Notwendigkeit.

IT-Sicherheit am Donaustrand„Braucht die Wirtschaft Leitlinien für KI?“Regensburg, 17.07.2019.

Prof. Dr. phil. habil. Karsten WeberInstitut für Sozialforschung und Technikfolgenabschätzung (IST)Regensburg Center of Health Sciences and Technology (RCHST)Ostbayerische Technische Hochschule (OTH) [email protected]

Documents

Regeln für KI jenseits von Markt und Staat der aktuelle ...¼r-KI... · Regeln für KI jenseits von Markt und Staat – der aktuelle Stand einer internationalen Debatte. IT-Sicherheit