Informatik Igki.informatik.uni-freiburg.de/teaching/ws1314/info1/infoI19.pdf · Informatik I Bernhard Nebel Motivation & Überblick Berufsethik: Ethische Leitlinien für Informatiker

Informatik I

BernhardNebel

Motivation& Überblick

Berufsethik:EthischeLeitlinien fürInformatiker

Ethik deswis-senschaftlichenArbeitens

Was darf dieWis-senschaft?

Informatik I19. Berufsethik und Wissenschaftsethik

Bernhard Nebel

Albert-Ludwigs-Universität Freiburg

17. Dezember 2013

1 / 35

Informatik I

BernhardNebel





Motivation & Überblick

2 / 35

Informatik I

BernhardNebel





Motivation

Muss ein Informatiker sich wirklich mit Ethik beschäftigen?

Ist es ethisch geboten, immer die neuesten Technologieneinzusetzen?Ist das Unterschätzen von Projektkosten ein ethischesProblem?Muss man die Wünsche eines Kunden in jedem Fallumsetzen?

Gibt es strikte Regeln, die in der Wissenschaft zu befolgensind?

Vermeidung wissenschaftlichen Fehlverhaltens

Was darf Wissenschaft? Was nicht?

Ethikkommissionen für HumanwissenschaftenBrauchen Universitäten eine Zivilklausel?

3 / 35

Informatik I

BernhardNebel





Motivation

Muss ein Informatiker sich wirklich mit Ethik beschäftigen?Ist es ethisch geboten, immer die neuesten Technologieneinzusetzen?

Ist das Unterschätzen von Projektkosten ein ethischesProblem?Muss man die Wünsche eines Kunden in jedem Fallumsetzen?





3 / 35

Informatik I

BernhardNebel





Motivation

Muss ein Informatiker sich wirklich mit Ethik beschäftigen?Ist es ethisch geboten, immer die neuesten Technologieneinzusetzen?Ist das Unterschätzen von Projektkosten ein ethischesProblem?

Muss man die Wünsche eines Kunden in jedem Fallumsetzen?





3 / 35

Informatik I

BernhardNebel





Motivation

Muss ein Informatiker sich wirklich mit Ethik beschäftigen?Ist es ethisch geboten, immer die neuesten Technologieneinzusetzen?Ist das Unterschätzen von Projektkosten ein ethischesProblem?Muss man die Wünsche eines Kunden in jedem Fallumsetzen?





3 / 35

Informatik I

BernhardNebel





Motivation



Vermeidung wissenschaftlichen FehlverhaltensWas darf Wissenschaft? Was nicht?


3 / 35

Informatik I

BernhardNebel





Motivation






3 / 35

Informatik I

BernhardNebel





Motivation





3 / 35

Informatik I

BernhardNebel





Motivation




Ethikkommissionen für Humanwissenschaften

Brauchen Universitäten eine Zivilklausel?

3 / 35

Informatik I

BernhardNebel





Motivation





3 / 35

Informatik I

BernhardNebel





Ethik

Ethik (eine Disziplin der Philosophie) befasst sich mit demvorbedachten Verhalten von Menschen, die die Folgen ihresVerhaltens für andere Menschen, ihre Mitgeschöpfe und dieUmwelt reflektieren. Was der einzelne Mensch hinsichtlichdieser Handlungsfolgen und der moralischen Bewertung derHandlung selbst bedenken und beeinflussen kann, obliegtseiner individuellen Verantwortung.

Man unterscheidet zwischenIndividualethik: Das „rechte“ Handeln der einzelnenPerson: Ehrlichkeit, Fairness gegenüber Mitmenschen undpersönliche IntegritätBereichsethik, z.B. Berufsethik: betrifft Verhaltensregelninnerhalb eines Bereichs (z.B. Biologie) oder Berufstandes,die über die allgemeinen persönlichen Regeln hinausgehen.Sozialethik: hierbei geht es um die Reflexion der Folgenvon Verhalten in Kollektiven (Organisationen, Gruppen,Wirtschaften und Kulturen).

4 / 35

Informatik I

BernhardNebel





Ethik

Ethik (eine Disziplin der Philosophie) befasst sich mit demvorbedachten Verhalten von Menschen, die die Folgen ihresVerhaltens für andere Menschen, ihre Mitgeschöpfe und dieUmwelt reflektieren. Was der einzelne Mensch hinsichtlichdieser Handlungsfolgen und der moralischen Bewertung derHandlung selbst bedenken und beeinflussen kann, obliegtseiner individuellen Verantwortung.Man unterscheidet zwischen

Individualethik: Das „rechte“ Handeln der einzelnenPerson: Ehrlichkeit, Fairness gegenüber Mitmenschen undpersönliche IntegritätBereichsethik, z.B. Berufsethik: betrifft Verhaltensregelninnerhalb eines Bereichs (z.B. Biologie) oder Berufstandes,die über die allgemeinen persönlichen Regeln hinausgehen.Sozialethik: hierbei geht es um die Reflexion der Folgenvon Verhalten in Kollektiven (Organisationen, Gruppen,Wirtschaften und Kulturen).

4 / 35

Informatik I

BernhardNebel





Ethische Leitlinien . . .

Ethische Leitlinien sind nicht notwendigerweise in Gesetzgegossen – tatsächlich gibt es viele Bereiche, in denenetwas nicht gesetzlich verboten ist aber trotzdem ethischverwerflich (z.B. schlechte Beratung).

Oft gibt es Konflikte zwischen verschiedenen ethischenLeitlinien, z.B. Verschwiegenheitspflicht und Aufdecken vonMissständen – höhere Werte (z.B. Menschenrechte) habenhier Priorität.Oft ist auch gar nicht richtig klar, ob etwas nun ethischbedenklich ist.Wichtig ist aber, sich solcher Leitlinien bewusst zu sein!Solche Leitlinien sind nicht in Stein gemeißelt, müssenjeweils auf die konkrete Situation angewendet werden undmüssen auch weiter entwickelt werden.

5 / 35

Informatik I

BernhardNebel






Ethische Leitlinien sind nicht notwendigerweise in Gesetzgegossen – tatsächlich gibt es viele Bereiche, in denenetwas nicht gesetzlich verboten ist aber trotzdem ethischverwerflich (z.B. schlechte Beratung).Oft gibt es Konflikte zwischen verschiedenen ethischenLeitlinien, z.B. Verschwiegenheitspflicht und Aufdecken vonMissständen – höhere Werte (z.B. Menschenrechte) habenhier Priorität.

Oft ist auch gar nicht richtig klar, ob etwas nun ethischbedenklich ist.Wichtig ist aber, sich solcher Leitlinien bewusst zu sein!Solche Leitlinien sind nicht in Stein gemeißelt, müssenjeweils auf die konkrete Situation angewendet werden undmüssen auch weiter entwickelt werden.

5 / 35

Informatik I

BernhardNebel






Ethische Leitlinien sind nicht notwendigerweise in Gesetzgegossen – tatsächlich gibt es viele Bereiche, in denenetwas nicht gesetzlich verboten ist aber trotzdem ethischverwerflich (z.B. schlechte Beratung).Oft gibt es Konflikte zwischen verschiedenen ethischenLeitlinien, z.B. Verschwiegenheitspflicht und Aufdecken vonMissständen – höhere Werte (z.B. Menschenrechte) habenhier Priorität.Oft ist auch gar nicht richtig klar, ob etwas nun ethischbedenklich ist.

Wichtig ist aber, sich solcher Leitlinien bewusst zu sein!Solche Leitlinien sind nicht in Stein gemeißelt, müssenjeweils auf die konkrete Situation angewendet werden undmüssen auch weiter entwickelt werden.

5 / 35

Informatik I

BernhardNebel






Ethische Leitlinien sind nicht notwendigerweise in Gesetzgegossen – tatsächlich gibt es viele Bereiche, in denenetwas nicht gesetzlich verboten ist aber trotzdem ethischverwerflich (z.B. schlechte Beratung).Oft gibt es Konflikte zwischen verschiedenen ethischenLeitlinien, z.B. Verschwiegenheitspflicht und Aufdecken vonMissständen – höhere Werte (z.B. Menschenrechte) habenhier Priorität.Oft ist auch gar nicht richtig klar, ob etwas nun ethischbedenklich ist.Wichtig ist aber, sich solcher Leitlinien bewusst zu sein!

Solche Leitlinien sind nicht in Stein gemeißelt, müssenjeweils auf die konkrete Situation angewendet werden undmüssen auch weiter entwickelt werden.

5 / 35

Informatik I

BernhardNebel






Ethische Leitlinien sind nicht notwendigerweise in Gesetzgegossen – tatsächlich gibt es viele Bereiche, in denenetwas nicht gesetzlich verboten ist aber trotzdem ethischverwerflich (z.B. schlechte Beratung).Oft gibt es Konflikte zwischen verschiedenen ethischenLeitlinien, z.B. Verschwiegenheitspflicht und Aufdecken vonMissständen – höhere Werte (z.B. Menschenrechte) habenhier Priorität.Oft ist auch gar nicht richtig klar, ob etwas nun ethischbedenklich ist.Wichtig ist aber, sich solcher Leitlinien bewusst zu sein!Solche Leitlinien sind nicht in Stein gemeißelt, müssenjeweils auf die konkrete Situation angewendet werden undmüssen auch weiter entwickelt werden.

5 / 35

Informatik I

BernhardNebel





Übersicht

1 Berufsethik für Informatiker: Welche Regelwerke undRegeln gibt es?

2 Gute wissenschaftliche Praxis: Regeln für die Ausübungvon Wissenschaft

3 Wissenschaftsethik: Was darf Wissenschaft, was nicht?

6 / 35

Informatik I

BernhardNebel


Berufsethik:EthischeLeitlinien fürInformatikerDieGI-LeitlinienDieACM-Regelnfür Software-Ingenieure



Berufsethik: EthischeLeitlinien für Informatiker

7 / 35

Informatik I

BernhardNebel





Ethische Leitlinien und Code of Ethics fürInformatiker

Ethische Grundsätze des Ingenieurberufs (VDI, 2002):http://www.vdi.de/bildung/ethische-grundsaetze/Sehr allgemeine Grundsätze für alle Ingenieure.Ethische Leitlinien der Gesellschaft für Informatik (GI,2004): http://www.gi.de/wir-ueber-uns/unsere-grundsaetze/ethische-leitlinien.htmlLeitlinien für Mitglieder der GI, die schon etwas spezifischersindCode of Ethics and Professional Conduct der ACM, 1992Generelle ethische Grundlagen (ähnlich GI aber mehrDetails)Software Engineering Code of Ethics and ProfessionalPractice der ACM, 1999Hier geht es speziell auch um die Erstellung von Software.

Natürlich überschneiden sich die verschiedenen Leitlinien stark.8 / 35

http://www.vdi.de/bildung/ethische-grundsaetze/

http://www.gi.de/wir-ueber-uns/unsere-grundsaetze/ethische-leitlinien.html

http://www.gi.de/wir-ueber-uns/unsere-grundsaetze/ethische-leitlinien.html

Informatik I

BernhardNebel





Die GI-Leitlinien (in Auszügen)

Die GI-Leitlinien gliedern sich in 4 Bereiche:I Das Mitglied

Fachkompetenz, Sachkompetenz, kommunikativeKompetenz, juristische Kompetenz und Urteilsfähigkeit

II Das Mitglied in einer FührungspositionArbeitsbedingungen, Organisationsstruktur und Beteiligung

III Das Mitglied in Lehre und ForschungLehre / Forschung

IV Die Gesellschaft für InformatikZivilcourage, soziale Verantwortung, Mediation,interdisziplinäre Diskurse

Viele Forderungen sind dabei solche nach Professionalität,denen sich angestellte und selbständige Informatikerinnen undInformatiker gleichermaßen stellen müssen. Kompetenz in derAusübung des Berufs ist zwar selbst noch kein moralischesHandeln, doch ist die bewusste Hinnahme fehlender Fähigkeitenverantwortungslos.

9 / 35

Informatik I

BernhardNebel





GI-Leitlinien: Das Mitglied (1)

1 FachkompetenzVom Mitglied wird erwartet, dass es seine Fachkompetenznach dem Stand von Wissenschaft und Technik ständigverbessert.

„Stand der Wissenschaft und Technik“ ist die höchste von3 Stufen. Sie bedeutet, dass geboten ist, was nachneuesten wissenschaftlichen Erkenntnissen für erforderlichgehalten wird.

10 / 35

Informatik I

BernhardNebel






2 Sachkompetenz und kommunikative KompetenzVom Mitglied wird erwartet, dass es seine Fachkompetenzhin zu einer Sach- und kommunikativen Kompetenzerweitert, so dass es die seine Aufgaben betreffendenAnforderungen an die Datenverarbeitung und ihrefachlichen Zusammenhänge versteht sowie dieAuswirkungen von Informatiksystemen imAnwendungsumfeld beurteilen und geeignete Lösungenvorschlagen kann.

Dazu bedarf es der Bereitschaft, dieRechte und Interessen der verschiedenen Betroffenen zuverstehen und zu berücksichtigen. Dies setzt die Fähigkeitund Bereitschaft voraus, an interdisziplinären Diskussionenmitzuwirken und diese gegebenenfalls aktiv zu gestalten.

Fachkompetenz reicht nicht. Umsetzung undKommunikation sind auch wichtig!Rein technische Lösungen sind nicht ausreichend.Reflektion über Auswirkungen gehört auch dazu.

11 / 35

Informatik I

BernhardNebel






2 Sachkompetenz und kommunikative KompetenzVom Mitglied wird erwartet, dass es seine Fachkompetenzhin zu einer Sach- und kommunikativen Kompetenzerweitert, so dass es die seine Aufgaben betreffendenAnforderungen an die Datenverarbeitung und ihrefachlichen Zusammenhänge versteht sowie dieAuswirkungen von Informatiksystemen imAnwendungsumfeld beurteilen und geeignete Lösungenvorschlagen kann. Dazu bedarf es der Bereitschaft, dieRechte und Interessen der verschiedenen Betroffenen zuverstehen und zu berücksichtigen.

Dies setzt die Fähigkeitund Bereitschaft voraus, an interdisziplinären Diskussionenmitzuwirken und diese gegebenenfalls aktiv zu gestalten.


11 / 35

Informatik I

BernhardNebel






2 Sachkompetenz und kommunikative KompetenzVom Mitglied wird erwartet, dass es seine Fachkompetenzhin zu einer Sach- und kommunikativen Kompetenzerweitert, so dass es die seine Aufgaben betreffendenAnforderungen an die Datenverarbeitung und ihrefachlichen Zusammenhänge versteht sowie dieAuswirkungen von Informatiksystemen imAnwendungsumfeld beurteilen und geeignete Lösungenvorschlagen kann. Dazu bedarf es der Bereitschaft, dieRechte und Interessen der verschiedenen Betroffenen zuverstehen und zu berücksichtigen. Dies setzt die Fähigkeitund Bereitschaft voraus, an interdisziplinären Diskussionenmitzuwirken und diese gegebenenfalls aktiv zu gestalten.


11 / 35

Informatik I

BernhardNebel






2 Sachkompetenz und kommunikative KompetenzVom Mitglied wird erwartet, dass es seine Fachkompetenzhin zu einer Sach- und kommunikativen Kompetenzerweitert, so dass es die seine Aufgaben betreffendenAnforderungen an die Datenverarbeitung und ihrefachlichen Zusammenhänge versteht sowie dieAuswirkungen von Informatiksystemen imAnwendungsumfeld beurteilen und geeignete Lösungenvorschlagen kann. Dazu bedarf es der Bereitschaft, dieRechte und Interessen der verschiedenen Betroffenen zuverstehen und zu berücksichtigen. Dies setzt die Fähigkeitund Bereitschaft voraus, an interdisziplinären Diskussionenmitzuwirken und diese gegebenenfalls aktiv zu gestalten.


11 / 35

Informatik I

BernhardNebel






3 Juristische KompetenzVom Mitglied wird erwartet, dass es die einschlägigenrechtlichen Regelungen kennt, einhält und gegebenenfallsan ihrer Fortschreibung mitwirkt.

Datenschutzrecht: Allgemeiner und bereichsspezifischerDatenschutz, einschließlich Arbeitnehmerdatenschutz;Freedom-of-information-Gesetzgebung(Informationszugangsgesetze, z.B. für den Umweltbereich);Computerstrafrecht;Urheber- und Patentrecht;Markenrecht;Recht zur IT-Sicherheit (SigG, SigV, BSIG);Telekommunikationsrecht;. . .

Die Einhaltung von Normen (DIN, ISO) hilft, abergarantiert nichts.

12 / 35

Informatik I

BernhardNebel






3 Juristische KompetenzVom Mitglied wird erwartet, dass es die einschlägigenrechtlichen Regelungen kennt, einhält und gegebenenfallsan ihrer Fortschreibung mitwirkt.

Datenschutzrecht: Allgemeiner und bereichsspezifischerDatenschutz, einschließlich Arbeitnehmerdatenschutz;Freedom-of-information-Gesetzgebung(Informationszugangsgesetze, z.B. für den Umweltbereich);Computerstrafrecht;Urheber- und Patentrecht;Markenrecht;Recht zur IT-Sicherheit (SigG, SigV, BSIG);Telekommunikationsrecht;. . .

Die Einhaltung von Normen (DIN, ISO) hilft, abergarantiert nichts.

12 / 35

Informatik I

BernhardNebel






4 UrteilsfähigkeitVom Mitglied wird erwartet, dass es seine Urteilsfähigkeitentwickelt, um als Informatikerin oder Informatiker anGestaltungsprozessen in individueller undgemeinschaftlicher Verantwortung mitwirken zu können.

Dies setzt die Bereitschaft voraus, das eigene und dasgemeinschaftliche Handeln in Beziehung zugesellschaftlichen Fragestellungen zu setzen und zubewerten. Es wird erwartet, dass allgemeine moralischeForderungen beachtet werden und in Entscheidungeneinfließen.

13 / 35

Informatik I

BernhardNebel






4 UrteilsfähigkeitVom Mitglied wird erwartet, dass es seine Urteilsfähigkeitentwickelt, um als Informatikerin oder Informatiker anGestaltungsprozessen in individueller undgemeinschaftlicher Verantwortung mitwirken zu können.Dies setzt die Bereitschaft voraus, das eigene und dasgemeinschaftliche Handeln in Beziehung zugesellschaftlichen Fragestellungen zu setzen und zubewerten.

Es wird erwartet, dass allgemeine moralischeForderungen beachtet werden und in Entscheidungeneinfließen.

13 / 35

Informatik I

BernhardNebel






4 UrteilsfähigkeitVom Mitglied wird erwartet, dass es seine Urteilsfähigkeitentwickelt, um als Informatikerin oder Informatiker anGestaltungsprozessen in individueller undgemeinschaftlicher Verantwortung mitwirken zu können.Dies setzt die Bereitschaft voraus, das eigene und dasgemeinschaftliche Handeln in Beziehung zugesellschaftlichen Fragestellungen zu setzen und zubewerten. Es wird erwartet, dass allgemeine moralischeForderungen beachtet werden und in Entscheidungeneinfließen.

13 / 35

Informatik I

BernhardNebel





GI-Leitlinien: Das Mitglied in Führungsposition(2)

7 BeteiligungVom Mitglied in einer Führungsposition wird zusätzlicherwartet, dass es dazu beiträgt, die von der Einführung vonInformatiksystemen Betroffenen an der Gestaltung derSysteme und ihrer Nutzungsbedingungen angemessen zubeteiligen.

Von ihm wird insbesondere erwartet, dass eskeine Kontroll- und Überwachungstechniken ohneUnterrichtung und Beteiligung der Betroffenen zulässt.

Die flächendeckende Überwachung ist also laut dieserRegel nicht vertretbar. Es ist aber unklar, warum dies nurfür Mitglieder in Führungspositionen gilt.Gedacht war allerdings eher an Überwachung undKontrolle im betrieblichen Umfeld.

15 / 35

Informatik I

BernhardNebel






7 BeteiligungVom Mitglied in einer Führungsposition wird zusätzlicherwartet, dass es dazu beiträgt, die von der Einführung vonInformatiksystemen Betroffenen an der Gestaltung derSysteme und ihrer Nutzungsbedingungen angemessen zubeteiligen.

Von ihm wird insbesondere erwartet, dass eskeine Kontroll- und Überwachungstechniken ohneUnterrichtung und Beteiligung der Betroffenen zulässt.


15 / 35

Informatik I

BernhardNebel






7 BeteiligungVom Mitglied in einer Führungsposition wird zusätzlicherwartet, dass es dazu beiträgt, die von der Einführung vonInformatiksystemen Betroffenen an der Gestaltung derSysteme und ihrer Nutzungsbedingungen angemessen zubeteiligen. Von ihm wird insbesondere erwartet, dass eskeine Kontroll- und Überwachungstechniken ohneUnterrichtung und Beteiligung der Betroffenen zulässt.


15 / 35

Informatik I

BernhardNebel







Die flächendeckende Überwachung ist also laut dieserRegel nicht vertretbar. Es ist aber unklar, warum dies nurfür Mitglieder in Führungspositionen gilt.

Gedacht war allerdings eher an Überwachung undKontrolle im betrieblichen Umfeld.

15 / 35

Informatik I

BernhardNebel








15 / 35

Informatik I

BernhardNebel





GI-Leitlinien: Die Gesellschaft für Informatik (1)

10 ZivilcourageDie GI ermutigt ihre Mitglieder in Situationen, in denenihre Pflichten gegenüber Arbeitgebern oderKundenorganisationen in Konflikt mit der Verantwortunggegenüber anderweitig Betroffenen stehen, mit Zivilcouragezu handeln.

11 Soziale VerantwortungDie GI unterstützt den Einsatz von Informatiksystemen zurVerbesserung der lokalen und globalen Lebensbedingungen.Informatikerinnen und Informatiker tragen Verantwortungfür die sozialen und gesellschaftlichen Auswirkungen ihrerArbeit; sie sollen durch ihren Einfluss auf diePositionierung, Vermarktung und Weiterentwicklung vonInformatiksystemen zu ihrer sozial verträglichenVerwendung beitragen.

17 / 35

Informatik I

BernhardNebel





GI-Leitlinien: Die Gesellschaft für Informatik (1)

10 ZivilcourageDie GI ermutigt ihre Mitglieder in Situationen, in denenihre Pflichten gegenüber Arbeitgebern oderKundenorganisationen in Konflikt mit der Verantwortunggegenüber anderweitig Betroffenen stehen, mit Zivilcouragezu handeln.

11 Soziale VerantwortungDie GI unterstützt den Einsatz von Informatiksystemen zurVerbesserung der lokalen und globalen Lebensbedingungen.Informatikerinnen und Informatiker tragen Verantwortungfür die sozialen und gesellschaftlichen Auswirkungen ihrerArbeit; sie sollen durch ihren Einfluss auf diePositionierung, Vermarktung und Weiterentwicklung vonInformatiksystemen zu ihrer sozial verträglichenVerwendung beitragen.

17 / 35

Informatik I

BernhardNebel





ACM: Preamble

Software engineers shall commit themselves to making theanalysis, specification, design, development, testing andmaintenance of software a beneficial and respected profession.In accordance with their commitment to the health, safety andwelfare of the public, software engineers shall adhere to thefollowing Eight Principles:

19 / 35

Informatik I

BernhardNebel





ACM: Public & Client and Employer

1 PUBLIC:Software engineers shall act consistently with the publicinterest.

1.01. Accept full responsibility for their own work.1.02. Moderate the interests of the software engineer, theemployer, the client and the users with the public good.1.03. Approve software only if they have a well-foundedbelief that it is safe, meets specifications, passesappropriate tests, and does not diminish quality of life,diminish privacy or harm the environment. The ultimateeffect of the work should be to the public good.

2 CLIENT AND EMPLOYER:Software engineers shall act in a manner that is in the bestinterests of their client and employer consistent with thepublic interest.

2.01. Provide service in their areas of competence, beinghonest and forthright about any limitations of theirexperience and education.

20 / 35

Informatik I

BernhardNebel





ACM: Public & Client and Employer

1 PUBLIC:Software engineers shall act consistently with the publicinterest.

1.01. Accept full responsibility for their own work.1.02. Moderate the interests of the software engineer, theemployer, the client and the users with the public good.1.03. Approve software only if they have a well-foundedbelief that it is safe, meets specifications, passesappropriate tests, and does not diminish quality of life,diminish privacy or harm the environment. The ultimateeffect of the work should be to the public good.

2 CLIENT AND EMPLOYER:Software engineers shall act in a manner that is in the bestinterests of their client and employer consistent with thepublic interest.

2.01. Provide service in their areas of competence, beinghonest and forthright about any limitations of theirexperience and education. 20 / 35

Informatik I

BernhardNebel





ACM: Product & Judgment

3 PRODUCT:Software engineers shall ensure that their products andrelated modifications meet the highest professionalstandards possible. In particular, software engineers shall,as appropriate:

3.01. Strive for high quality, acceptable cost and areasonable schedule, ensuring significant tradeoffs are clearto and accepted by the employer and the client, and areavailable for consideration by the user and the public.3.02. Ensure proper and achievable goals and objectives forany project on which they work or propose. ...

4 JUDGMENT:Software engineers shall maintain integrity andindependence in their professional judgment.

21 / 35

Informatik I

BernhardNebel





ACM: Product & Judgment

3 PRODUCT:Software engineers shall ensure that their products andrelated modifications meet the highest professionalstandards possible. In particular, software engineers shall,as appropriate:

3.01. Strive for high quality, acceptable cost and areasonable schedule, ensuring significant tradeoffs are clearto and accepted by the employer and the client, and areavailable for consideration by the user and the public.3.02. Ensure proper and achievable goals and objectives forany project on which they work or propose. ...

4 JUDGMENT:Software engineers shall maintain integrity andindependence in their professional judgment.

21 / 35

Informatik I

BernhardNebel





ACM: Management & Profession

5 MANAGEMENT:Software engineering managers and leaders shall subscribeto and promote an ethical approach to the management ofsoftware development and maintenance.

5.05. Ensure realistic quantitative estimates of cost,scheduling, personnel, quality and outcomes on any projecton which they work or propose to work, and provide anuncertainty assessment of these estimates.. . .

6 PROFESSION:Software engineers shall advance the integrity andreputation of the profession consistent with the publicinterest.

22 / 35

Informatik I

BernhardNebel





ACM: Management & Profession

5 MANAGEMENT:Software engineering managers and leaders shall subscribeto and promote an ethical approach to the management ofsoftware development and maintenance.

5.05. Ensure realistic quantitative estimates of cost,scheduling, personnel, quality and outcomes on any projecton which they work or propose to work, and provide anuncertainty assessment of these estimates.. . .

6 PROFESSION:Software engineers shall advance the integrity andreputation of the profession consistent with the publicinterest.

22 / 35

Informatik I

BernhardNebel





ACM: Colleagues & Self

7 COLLEAGUES:Software engineers shall be fair to and supportive of theircolleagues.

8 SELF:Software engineers shall participate in lifelong learningregarding the practice of their profession and shall promotean ethical approach to the practice of the profession.

23 / 35

Informatik I

BernhardNebel





ACM: Colleagues & Self

7 COLLEAGUES:Software engineers shall be fair to and supportive of theircolleagues.

8 SELF:Software engineers shall participate in lifelong learningregarding the practice of their profession and shall promotean ethical approach to the practice of the profession.

23 / 35

Informatik I

BernhardNebel





Antworten

Ist es ethisch geboten, immer die neuesten Technologieneinzusetzen?

→ Nein, es reicht der Stand der Technik aus! Neueste, u.U.unausgereifte Methoden müssen (und dürfen womöglich)nicht eingesetzt werden. Siehe auch ACM-Regel 3: highestprofessional standard

Ist das Unterschätzen von Projektkosten ein ethischesProblem?

→ Nach Art. 4 sollen allgemeine moralische Forderungenbeachtet werden. Nach ACM-Regel 5.05 sind realisticestimates gefordertMuss man die Wünsche eines Kunden in jedem Fallumsetzen?

→ Nein, wenn sie gegen allgemeine moralische Forderungenverstoßen, den Stand der Technik ignorieren oder aber z.B.Kontroll- und Überwachungstechniken ohne Unterrichtungder Betroffenen einführen.

24 / 35

Informatik I

BernhardNebel





Antworten


→ Nein, es reicht der Stand der Technik aus! Neueste, u.U.unausgereifte Methoden müssen (und dürfen womöglich)nicht eingesetzt werden. Siehe auch ACM-Regel 3: highestprofessional standardIst das Unterschätzen von Projektkosten ein ethischesProblem?

→ Nach Art. 4 sollen allgemeine moralische Forderungenbeachtet werden. Nach ACM-Regel 5.05 sind realisticestimates gefordert

Muss man die Wünsche eines Kunden in jedem Fallumsetzen?


24 / 35

Informatik I

BernhardNebel





Antworten


→ Nein, es reicht der Stand der Technik aus! Neueste, u.U.unausgereifte Methoden müssen (und dürfen womöglich)nicht eingesetzt werden. Siehe auch ACM-Regel 3: highestprofessional standardIst das Unterschätzen von Projektkosten ein ethischesProblem?

→ Nach Art. 4 sollen allgemeine moralische Forderungenbeachtet werden. Nach ACM-Regel 5.05 sind realisticestimates gefordertMuss man die Wünsche eines Kunden in jedem Fallumsetzen?


24 / 35

Informatik I

BernhardNebel





Ethik des wissenschaftlichenArbeitens

25 / 35

Informatik I

BernhardNebel





Ethik des wissenschaftlichen Arbeitens

Aus dem DFG-Memorandum zur Sicherung guterwissenschaftlicher Praxis (2013):

Wissenschaft gründet auf Redlichkeit. Dieses ist einesder wesentlichen Prinzipien guter wissenschaftlicherPraxis und damit jeder wissenschaftlichen Arbeit.

Nurredliche Wissenschaft kann letztlich produktiveWissenschaft sein und zu neuem Wissen führen.Unredlichkeit hingegen gefährdet die Wissenschaft.Sie zerstört das Vertrauen der Wissenschaftlerinnenund Wissenschaftler untereinander sowie dasVertrauen der Gesellschaft in die Wissenschaft, ohnedas wissenschaftliche Arbeit ebenfalls nicht denkbarist.

26 / 35

Informatik I

BernhardNebel







Wissenschaft gründet auf Redlichkeit. Dieses ist einesder wesentlichen Prinzipien guter wissenschaftlicherPraxis und damit jeder wissenschaftlichen Arbeit. Nurredliche Wissenschaft kann letztlich produktiveWissenschaft sein und zu neuem Wissen führen.

Unredlichkeit hingegen gefährdet die Wissenschaft.Sie zerstört das Vertrauen der Wissenschaftlerinnenund Wissenschaftler untereinander sowie dasVertrauen der Gesellschaft in die Wissenschaft, ohnedas wissenschaftliche Arbeit ebenfalls nicht denkbarist.

26 / 35

Informatik I

BernhardNebel







Wissenschaft gründet auf Redlichkeit. Dieses ist einesder wesentlichen Prinzipien guter wissenschaftlicherPraxis und damit jeder wissenschaftlichen Arbeit. Nurredliche Wissenschaft kann letztlich produktiveWissenschaft sein und zu neuem Wissen führen.Unredlichkeit hingegen gefährdet die Wissenschaft.

Sie zerstört das Vertrauen der Wissenschaftlerinnenund Wissenschaftler untereinander sowie dasVertrauen der Gesellschaft in die Wissenschaft, ohnedas wissenschaftliche Arbeit ebenfalls nicht denkbarist.

26 / 35

Informatik I

BernhardNebel







Wissenschaft gründet auf Redlichkeit. Dieses ist einesder wesentlichen Prinzipien guter wissenschaftlicherPraxis und damit jeder wissenschaftlichen Arbeit. Nurredliche Wissenschaft kann letztlich produktiveWissenschaft sein und zu neuem Wissen führen.Unredlichkeit hingegen gefährdet die Wissenschaft.Sie zerstört das Vertrauen der Wissenschaftlerinnenund Wissenschaftler untereinander sowie dasVertrauen der Gesellschaft in die Wissenschaft, ohnedas wissenschaftliche Arbeit ebenfalls nicht denkbarist.

26 / 35

Informatik I

BernhardNebel





Wissenschaftliches Fehlverhalten

Laut der Hochschulrektorenkonferenzhttp://www.hrk.de/positionen/gesamtliste-beschluesse/position/convention/zum-umgang-mit-wissenschaftlichem-fehlverhalten-in-den-hochschulen/liegt wissenschaftliches Fehlverhalten u.a. in folgenden Fällenvor:

Wissenschaftliches Fehlverhalten liegt vor, wenn ineinem wissenschaftserheblichen Zusammenhangbewusst oder grob fahrlässig Falschangaben gemachtwerden, geistiges Eigentum anderer verletzt odersonstwie deren Forschungstätigkeit beeinträchtigtwird. Entscheidend sind jeweils die Umstände desEinzelfalles.

27 / 35

http://www.hrk.de/positionen/gesamtliste-beschluesse/position/convention/zum-umgang-mit-wissenschaftlichem-fehlverhalten-in-den-hochschulen/



Informatik I

BernhardNebel





Wissenschaftliches Fehlverhalten: Falschangaben

Kritische Falschangaben sind u.a.:das Erfinden von Daten,das Verfälschen von Daten, z. B.

durch Auswählen und Zurückweisen unerwünschterErgebnisse, ohne dies offenzulegen,durch Manipulation einer Darstellung oder Abbildung;

unrichtige Angaben in einem Bewerbungsschreiben odereinem Förderantrag (einschließlich Falschangaben zumPublikationsorgan und zu in Druck befindlichenVeröffentlichungen).

28 / 35

Informatik I

BernhardNebel





Wissenschaftliches Fehlverhalten: Verletzunggeistigen Eigentums

Verletzung geistigen Eigentums in bezug auf ein von einemanderen geschaffenes urheberrechtlich geschütztes Werk odervon anderen stammende wesentliche wissenschaftlicheErkenntnisse, Hypothesen, Lehren oder Forschungsansätze:

die unbefugte Verwertung unter Anmaßung derAutorschaft (Plagiat),die Ausbeutung von Forschungsansätzen und Ideen,insbesondere als Gutachter (Ideendiebstahl),die Anmaßung oder unbegründete Annahmewissenschaftlicher Autor- oder Mitautorschaft,die Verfälschung des Inhalts,die unbefugte Veröffentlichung und das unbefugteZugänglichmachen gegenüber Dritten, solange das Werk,die Erkenntnis, die Hypothese, die Lehre oder derForschungsansatz noch nicht veröffentlicht sind.

29 / 35

Informatik I

BernhardNebel





Wissenschaftliches Fehlverhalten: Sonstiges

Inanspruchnahme der (Mit-)Autorenschaft eines anderenohne dessen Einverständnis.Sabotage von Forschungstätigkeit (einschließlich demBeschädigen, Zerstören oder Manipulieren vonVersuchsanordnungen, Geräten, Unterlagen, Hardware,Software, Chemikalien oder sonstiger Sachen, die einanderer zur Durchführung eines Experiments benötigt).Beseitigung von Primärdaten, insofern damit gegengesetzliche Bestimmungen oder disziplinbezogenanerkannte Grundsätze wissenschaftlicher Arbeit verstoßenwird.Mitverantwortung für Fehlverhalten kann sich ergeben aus

aktiver Beteiligung am Fehlverhalten anderer,Mitwissen um Fälschungen durch andere,Mitautorschaft an fälschungsbehaftetenVeröffentlichungen,grober Vernachlässigung der Aufsichtspflicht. 30 / 35

Informatik I

BernhardNebel





Wie geht man mit wissenschaftlichem Fehlverhaltenum?

Sollte es keine Möglichkeit geben, die Probleme innerhalbder Arbeitsgruppe zu lösen, gibt es Ombudsmänner an derFakultät und der Universität.Es gibt zudem eine Kommission, die Vorwürfe untersucht,und Maßnahmen beschließt.Dies kann bis zur Entfernung aus dem Dienst,Exmatrikulation, Aberkennung der Promotion, o.ä. führen.Unabhängig von solchen Maßnahmen gibt es auch dieinhärenten „Selbstreinigungskräfte“: Wissenschaft ist auchdie permanente Überprüfung der Resultate anderer.

31 / 35

Informatik I

BernhardNebel





Was darf die Wissenschaft?

32 / 35

Informatik I

BernhardNebel





Was darf die Wissenschaft?

GG Art. 5, Abs. 3, Satz:Kunst und Wissenschaft, Forschung und Lehresind frei.

Und das Nähere wird nicht durch ein Bundesgesetzgeregelt!Die Forschungsfreiheit ist als vorbehaltloses Grundrechtgewährleistet, sie ist aber nicht schrankenlos.Tatsächlich kann es Einschränkungen geben, diese sindaber die Ausnahme: Gentechnik, Embryonenforschung, usw.In den Humanwissenschaften gibt es Ethikkommissionen,die alle Versuche mit Menschen und Tieren auf ihreethische Verträglichkeit beurteilt.

33 / 35

Informatik I

BernhardNebel





Sollte Wissenschaft sich nicht selbst beschränken?

Dürrematt’s PhysikerSollte es nicht so etwas wie eine Zivilklausel für diedeutschen Universitäten geben?Beispiel Universität Bremen (Beschluss, 1986):

Der Akademische Senat lehnt jede Beteiligung anWissenschaft und Forschung mit militärischerNutzung bzw. Zielsetzung ab und fordert dieMitglieder der Universität auf, Forschungsthemenund -mittel abzulehnen, die Rüstungszweckendienen können.

Beispiel Universität Münster:Forschung, Lehre und Studium an der UniversitätMünster sind auf zivile und friedliche Zweckeausgerichtet.

34 / 35

Informatik I

BernhardNebel





Die Dual-Use-Problematik

Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.

Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten?

35 / 35

Informatik I

BernhardNebel






Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.

Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten?

35 / 35

Informatik I

BernhardNebel






Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.

Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten?

35 / 35

Informatik I

BernhardNebel






Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.

In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten?

35 / 35

Informatik I

BernhardNebel






Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).

Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten?

35 / 35

Informatik I

BernhardNebel






Schaut man sich die Informatik heute an, so werden alle(praktischen) Methoden der Informatik in der einen oderanderen Weise in Militärgüter integriert.Speziell die Formulierung „Rüstungszwecken dienenkönnen“ ist deshalb problematisch.Natürlich kann man auf den Drittmittel-Geldgeber schauenund darauf basierend sein Urteil fällen.Aber auch hier: Wir kooperieren mit Astrium, d.h.demnächst mit EADS.In den USA wird die Dual-Use-Problematik auch andersherum gesehen. Dort kommt ein Großteil derForschungsgelder von der DARPA . . . und finanziert damitauch die Grundlagenforschung für zivile Anwendungen(Beispiel: Internet, autonome Autos).Und schließlich: Sollte man auch die Arbeit anMinenräumrobotern u.ä. verbieten? 35 / 35

Documents

Informatik Igki.informatik.uni-freiburg.de/teaching/ws1314/info1/infoI19.pdf · Informatik I Bernhard Nebel Motivation & Überblick Berufsethik: Ethische Leitlinien für Informatiker