13. Oct 2021
Nerds und Ethik
Am Freitag, den 01.10.2021, hatten wir unsere interne Accso-Konferenz zum Thema „Digitale Ethik – Verantwortung und Nachhaltigkeit in der IT“.
Komplett remote trafen sich alle Accsomitarbeitende online, um an vier spannenden Vorträgen von externen Sprechern zu dem diversen Thema teilzunehmen. Dazwischen gab es eine geplante Diskussionrunde, um sich mit vier Unterthemen zu der Frage „Was bedeutet digitale Ethik für Accso?“ auseinander zu setzen. Was wir genau in den Vorträgen gehört und gelernt haben? Wir haben für euch die Vorträge nochmal Revue passieren lassen und zusammengefasst.
Was ist das Richtige zu tun? Und warum?
Abgastests, Flugzeuge und UIs
Im dritten Vortrag des Tages konfrontiert Prof. Dr.-Ing. Holger Hermann von der Uni Saarbrücken am Center for Perspicuous Computing die Zuhörerschaft mit den großen philosophischen Fragen. Die Ethik, eine der großen Fragen der Philosophie, nämlich „Was soll ich tun?“ betrifft natürlich auch Techniker, Ingenieure und Nerds. Die meisten meiner Kollegen können sich sicher mit dem Begriff identifizieren. In immer mehr Debatten kam das Thema auch bei Accso heran, wenn es darum ging, Algorithmen für Assistenzsysteme zu entwerfen oder Auswirkungen der entwickelten Software einzuschätzen. Intern kam es hierzu zum Teil zu kontroversen Debatten. Ein Zeichen, dass IT sich keinesfalls von gesellschaftlichen Fragen und Entwicklungen loslösen kann und ein gutes Zeichen, dass Austausch gepflegt wird, statt blind zu „hacken“.
Prof. Hermann kam also gerade recht, nachdem wir in den vorherigen Vorträgen über Umweltauswirkungen (Steffen Lange) und Ansätze von Technikfolgen und wildgewordenen Machine-Learning-Algorithmen (Tobias Krafft) gehört hatten. Die Einleitung über Motivation von philosophischen Fragen in der IT spannt einen Bogen von den Flugzeugabstürzen der Boing 737 MAX-Reihe, den Abgastests vieler Autohersteller und der Dual-Use-Problematik im Rahmen von Weltraumprogrammen. Ein zu beachtender Aspekt ist, dass Assistenzsysteme von Tachometern bis Warnleuchten in Flugzeugcockpits absichtlich nicht die Realität – wenn man davon überhaupt philosophisch sprechen kann – abbilden. Aus der Wechselwirkung aus Realität, digitalem Abbild, menschlicher Interpretation und Rückkopplung in der Aktion des Menschen können Konflikte entstehen: „Bin ich zu schnell gefahren?“, „Habe ich die Kontrolle über mein Flugzeug, oder hat es der Computer?“.
Egal, ob es um Machine-Learning-Ansätze oder klassische Software geht, kommt man mit der philosophischen Brille immer wieder auf den Anspruch der Nachvollziehbarkeit zurück. In den drei Phasen der Entwicklung, Benutzung und Fehleranalyse im Lebenszyklus einer Software sind Entwickler/Techniker, Nutzer und Forensiker/Analytiker eingebunden, um Systeme, Situationen und Fehlerfälle zu verstehen, plausibilisieren und zu rechtfertigen. Diese Aspekte machen den Anspruch des Centers aus, an dem Prof. Hermann forscht und lehrt: Perspicuous Computing (verständliche/nachvollziehbare Computer-Systeme).
Ethics for Nerds
Im Hauptteil des Vortrags stellt Prof. Hermann eine Vorlesung der Uni Saarbrücken vor, die er in Zusammenarbeit mit zwei Kolleg:innen entworfen hat und durchführt. Ethische Theorien über menschliche Aktionen, die Konsequenzen haben, beschäftigen sich mit der Frage, ob Aktionen und ihre Konsequenzen richtig sind und warum sie es sind. Den Studenten der angewandten Ingenieurswissenschaften wird herangetragen, Argumentationsketten zu erarbeiten und Gedanken zu strukturieren, Informationen sauber auszuwerten und sich klar auszudrücken.
Prof. Hermann zeigt im weiteren Verlauf stringent auf, wie Systeme für „Automatic Decision Making“, von ihm gerne „Black-Box“ genannt, in Anwendungskontexte eingebettet sind. Beispielsweise kann nicht nur der Nutzer dem System vertrauen, sondern auch das System dem Nutzer – oder auch nicht. Prozesse müssen gerade hier transparent, erklärbar und interpretierbar sein.
Daten sind nicht das neue Öl – Feedback Loops
Auf Basis der Metapher, dass Daten spätestens im 21. Jahrhundert eine wünschenswerterweise niemals versiegende Quelle von Wertschöpfung seien, entwickelt er einen guten Widerspruch. Aus der realen Welt werden bspw. mithilfe von Big-Data-Technologien Daten extrahiert, in Machine-Learning-Algorithmen gespeist und daraus neue Black-Box-Produkte entwickelt. Wo man sich bei Öl – im Rahmen der Metapher – wünschen würde, dass es sich regeneriert, stellt es sich bei Daten dar, dass diese wirklich regenerativ und unerschöpflich sind. Das Problem besteht jedoch hier darin, dass ein Feedback-Loop zwischen Welt, Daten, Algorithmen und Produkten, die wieder in der Welt sind, entsteht. Dadurch können Rückkopplungen und Verunreinigungen entstehen, die weder entdeckt noch einfach behoben werden können.
Hier fasst Prof. Hermann seine Mission über Nachvollziehbarkeit in der digitalen Realität mithilfe von technischer, normativer und psychologischer Perspektive noch einmal kurz und bündig zusammen:
„Es geht im Kern darum, die Entmündigung des Bürgers durch Kaskaden Software-basierter automatisierter Entscheidungen zu verhindern.“Prof. Dr.-Ing. Holger HermannUni Saarbrücken