Ethische KI-Richtlinien zuhauf – und jetzt?
Anna Jobin hat zusammen mit Forschenden vom Health Ethics and Policy Lab untersucht, welche ethischen Richtlinien für künstliche Intelligenz bereits bestehen und stellt fest: ethische KI ist längst nicht nur eine technische Frage.
Künstliche Intelligenz – kurz KI genannt – ist zwar noch nicht lange in aller Munde, aber als einzelnes Schlagwort schon wieder veraltet. Neuerdings dreht sich alles um «ethische KI» - die unterschiedlichsten Organisationen haben inzwischen Ethik-Leitlinien und Stellungnahmen herausgegeben. Den Überblick über all diese Publikationen zu behalten ist inzwischen schwierig geworden und es stellt sich die Frage: Was sagen diese Dokumente überhaupt aus? Wird da nun jedes Mal das Rad neu erfunden? Welches Verständnis von Ethik steht hinter solchen Empfehlungen zu ethischer KI? Und wer legt dieses fest? Da im Monatstakt neue Richtlinien erscheinen, scheint mir eine Bestandsaufnahme unabkömmlich.
Kein einziges gemeinsames ethisches Prinzip
Kürzlich wurden die Ergebnisse unserer umfassenden Studie dazu in der Fachzeitschrift «Nature Machine Intelligence» veröffentlicht. Die erste Überraschung: In den 84 analysierten Dokumenten zu ethischer KI findet sich kein einziges gemeinsames ethisches Prinzip. Fünf davon werden immerhin in mehr als der Hälfte der Dokumente zumindest erwähnt. Es handelt sich dabei um: Transparenz, Gerechtigkeit & Fairness, das Verhindern von Schaden, Verantwortung, sowie Datenschutz & Privatsphäre. Wir haben insgesamt elf vorkommende Prinzipien identifiziert.
Und die zweite Überraschung – oder wohl eher Ernüchterung: Nachhaltigkeit wird nur gerade in einem Sechstel der Richtlinien und Empfehlungen erwähnt; Menschenwürde und Solidarität kommen noch seltener vor. Das erstaunt insbesondere deshalb, weil zwei grosse Herausforderungen rund um die KI genau diese Prinzipien betreffen: Energiekonsum und Klimawandel einerseits, sowie ein umstrukturierter Arbeitsmarkt und befürchtete Jobverluste andererseits. Vom ethischen Standpunkt her ist diese Marginalisierung von Nachhaltigkeit, Menschenwürde und Solidarität daher höchst bedenklich. Aus meiner Sicht dürfen ethische Richtlinien die drängenden Fragen der Menschen nicht ignorieren, sondern müssen sich mit ihnen auseinandersetzen.
Gleicher Begriff, unterschiedliche Interpretation
Auch auf einem konkreteren Niveau herrscht wenig Einigkeit darüber, was "ethische KI" überhaupt bedeutet: Die genannten ethischen Prinzipien werden unterschiedlich – ja manchmal sogar widersprüchlich – interpretiert und fördern andere Handlungsempfehlungen zu Tage. So unterstreichen zum Beispiel einige Richtlinien, dass Vertrauen in Künstliche Intelligenz gefördert werden sollte, während anderswo im Gegenteil vor der Gefahr gewarnt wird, KI-Systemen zu sehr zu vertrauen.
«Ethische Künstliche Intelligenz ist nicht nur eine technische Frage, sondern die Ethik muss auch bei der Governance von KI ihren Platz haben.»Anna Jobin
Dass nicht alle Prinzipien genau gleich interpretiert werden ist noch nicht per se problematisch: KI ist ein Sammelbegriff für verschiedene Techniken, und es leuchtet sofort ein, dass verschiedene Organisationen und Sektoren andere Schwerpunkte setzen möchten. Doch unbestimmte, schwammige Stellungnahmen zu ethischer KI wecken bei mir den Verdacht, dass es sich eher um eine PR-Aktion – Stichwort: "ethics-washing" – handelt, als um eine ernsthafte Auseinandersetzung mit den ethischen Fragen.
Gold für den Zukunftsblog
Unser Blog wurde zum externe Seite Wissenschafts-Blog des Jahres 2019 gewählt. Das Redaktionsteam bedankt sich bei allen Leserinnen und Unterstützern.
Inklusive Governance
Seit kurzem hat nun auch die Schweiz eine Initiative, die externe Seite Swiss Digital Initiative (SDI), deren erklärtes Ziel es ist, ethische Standards in einer digitalen Welt zu implementieren. Aufgrund unserer Studie drängt sich sofort die Frage auf: Welche Standards sind damit gemeint? Ein erstes Entwurfspapier der SDI benennt als Inspiration die Schlüsselprinzipien des UNO-Reports für Digitale Kooperation, die gemeinschaftlich ausgearbeiteten «Ethically Aligned Design» (EAD) Standards, sowie allgemein «bestehende Gesetze und Weisungen».
Das Bestehende zur Kenntnis zu nehmen, ist ein guter Anfang. Es steht jedoch noch viel Arbeit an. So unterstreicht gerade das externe Seite EAD Dokument mehrmals, wie wichtig der Einbezug aller Interessensgruppen sei. Das ist natürlich keine technische Problematik, sondern es geht um gesellschaftliche und politische Strukturen und Prozesse. Und darauf läuft es meiner Meinung nach hinaus: Ethische Künstliche Intelligenz ist durchaus nicht nur eine technische Frage, sondern die Ethik muss auch bei der Governance von KI ihren Platz haben. Dazu gehört ein externe Seite partizipativer Ansatz, der Interessensgruppen und die Zivilgesellschaft miteinbezieht. Denn KI betrifft inzwischen viele Bereiche unserer Gesellschaft – daher sollte die Gesellschaft auch mitreden dürfen, wenn es um die Frage geht, welche Werte für die KI gelten sollen, und wie diese umgesetzt werden sollen.
Dieser Text erscheint auch als Meinungsbeitrag in der externe Seite Neuen Zürcher Zeitung.
Referenz
Jobin A, Ienca M, Vayena E: The global landscape of AI ethics guidelines. externe Seite Nature Machine Intelligence , vol. 1, pages 389–399 (2019).