Quelle: https://nwm2.net-schulbuch.de/index.phpDruckversion vom 29.04.2024 17:40 Uhr
Startseite Qualifikationsphase Informatik Mensch und Gesellschaft Ethik und IT
Ethik und IT
Im Jahre 2015 wurde öffentlich bekannt, dass ein deutscher Autobauer eine illegale Abschalteinrichtung in die Motorsteuerung seiner Dieselfahrzeuge benutzt. Die US-amerikanischen Abgasnormen wurden nur auf dem Prüfstand eingehalten, im normalen Fahrbetrieb wurde ein Teil der Abgasreinigungsanlage abgeschaltet. Diese Software war weltweit in etwa elf Millionen Fahrzeugen eingebaut worden.
Die im Folgenden dargestellten Fakten sind frei erfunden. Die für die Abschaltungssoftware wurde von einem Softwareentwicklungsteam entwickelt. Einige Teammitglieder haben bei der Entwicklung der Software unbehagen. Sie diskutieren die Frage, ob sie diesen Auftrag ohne weiteres erfüllen sollen.
Die Gesellschaft für Informatik GI setzt sich mit Fragestellungen dieser Art auseinander, welches Arbeitsverhalten angemessen ist. Der Präsident der GI schreibt zu dieser Problematik:
Wie soll ich arbeiten? Was soll ich tun?
Hätten Informatikerinnen und Informatiker gern etwas mit dem Eid des Hippokrates Vergleichbares? Wenngleich eine mehr als 2000 Jahre alte ärztliche Ethik keinerlei direkte Rechtswirkung entfaltet, so gehen aus ihr heute rechtlich gültige Prinzipien wie etwa die ärztliche Schweigepflicht und das ausschließliche Handeln zum Wohle des Patienten hervor.
Gesundheits-Apps können inzwischen recht zuverlässig Diagnosen zu weit verbreiteten Symptomen stellen. Sie nutzen Massendaten, die (auch) in den Händen von Nichtmedizinern sind. Während das Arzt-Patienten-Verhältnis geschützt ist, gilt dies nicht für das Patienten-Gesundheits-App-Programmierer-Verhältnis. Für Informatikerinnen und Informatiker stellen sich mehr und mehr Fragen nach dem richtigen Handeln diesseits und jenseits der rechtlich festgeschriebenen Regeln: „Was schützt einen Patienten vor dem Missbrauch seiner Daten durch den Gesundheits-App-Programmierer?“ Wenn ich als Patient meine Symptome verheimliche, wird eine Gesundheits-App wohl kaum eine Diagnose stellen können. Naja, wer weiß . . . Unsere Smartphones verfolgen uns ja praktisch in jeder Lebenslage. Big Data, Data Science und KI-Forscher lassen uns wissen, dass Daten Gold wert sind. Ein junger Informatiker und Berufseinsteiger könnte sich fragen: „Soll ich diese Funktion zur Überwachung der Nutzer wirklich so in die Software einbauen? Eigentlich müsste darüber in der Datenschutzerklärung informiert werden, aber das scheint hier niemand zu wissen oder zu wollen.“ Oder: „Ist eine solche Abschalteinrichtung alleine deshalb vertretbar, weil es doch fast alle so machen?“
Nicht selten stellt sich den Systementwicklern auch die Frage des Dual-Use: „Dieses Bildverarbeitungsmodul zur Steuerung eines autonomen Systems kann Menschenleben retten. Kann ich es – und ggf. wie – so gestalten, dass es nur für zivile Einsatzzwecke geeignet ist?“ Die Digitalisierung rückt die Verantwortung unseres Berufstandes bei der Gestaltung von Technik und Gesellschaft mehr und mehr in den Mittelpunkt
(Hannes Federrath, Präsident der GI, Universität Hamburg, Informatik Spektrum 1/2019, Seite 1)
Die Gesellschaft für Informatik beschäftigt sich seit über 25 Jahren mit ethischen Leitlinien, 2018 wurde die aktuelle Fassung verabschiedet.
(Informatik Spektrum 1/2019 https://link.springer.com/article/10.1007%2Fs00287-019-01150-9 (03.01.2020))
Einige Informationen zur Begriffsbildung
Quiz: Kennzeichnen Sie wahre Aussagen!
Die Leitlinien dienen der Informatikerin oder dem Informatiker zur Orientierung bei der täglichen Arbeit.
Die Leitlinien gelten nicht, wenn der Vorgesetze eine andere Anweisung gibt.
Die Leitlinien sind vom EU-Parlament verabschiedet. Wer sich nicht daran hält, muss mit einer Geldstrafe rechnen.
In den Leitlinien werden auch Aussagen über Schülerinnen und Schüler, die Informatikunterricht haben, gemacht.
Die Leitlinien gelten nur für CIOs (Chief Information Officer) in Großunternehmen.
Aufgabe
(a) Stellen Sie dar, worin die ethische Problematik bei dem Beispiel der Abschaltsoftware besteht.
(b) Stellen Sie exemplarisch an drei Beispielen dar und begründen Sie, welche der Artikel der Leitlinien betroffen sein könnten.
(c) Entwickeln und stellen Sie dar, welche Handlungsmöglichkeiten die Softwareentwickler haben, um ihr Problem zu lösen.
Lösung zu a)(Art. 2 - Sachkompetenz) es geht um die Kompetenz zur Beurteilung der Auswirkungen im Anwendungsfeld
(Art. 4 - Urteilsfähigkeit) es geht um die Bereitschaft eigenes und gemeinschaftliches Handeln kritisch zu hinterfragen
(Art. 9 – Zivilcourage) es geht um die Pflichten gegenüber Auftraggebern im Konflikt mit der Verantwortung gegenüber anderweitig Betroffenen
Gewissenbits
In der Zeitschrift „Informatik Spektrum“ gibt es die Rubrik „Gewissenbits“, in der Fallbeispiele zu dem Themenbereich Informatik und Ethik dargestellt werden.
Sie haben die Möglichkeit, diese im Informatikunterricht anzusprechen und gemeinsam mit Mitschülerinnen und Mitschülern die Situationen zu analysieren, zu beschreiben und mit anderen zu diskutieren, um diese zu bewerten. Außerdem besteht die Möglichkeit, online Stellungnahmen zu den Fallbeispielen abzugeben.
https://gewissensbits.gi.de (03.01.2020)
Neuland – Der HPI- Wissenspodcast
Podcast Neuland (HPI - 12.11.2019): Ethik in der digitalen Welt – Gespräch mit Prof. Dr. Christiane Woopen und Prof. Dr. Christoph Meinel
https://podcast.hpi.de (04.10.2020)