Ethische KI-Richtlinien zuhauf – und jetzt?

Anna Jobin hat zusammen mit Forschenden vom Health Ethics and Policy Lab untersucht, welche ethischen Richtlinien für künstliche Intelligenz bereits bestehen und stellt fest: ethische KI ist längst nicht nur eine technische Frage.

Anna Jobin

Künstliche Intelligenz – kurz KI genannt – ist zwar noch nicht lange in aller Munde, aber als einzelnes Schlagwort schon wieder veraltet. Neuerdings dreht sich alles um «ethische KI» - die unterschiedlichsten Organisationen haben inzwischen Ethik-Leitlinien und Stellungnahmen herausgegeben. Den Überblick über all diese Publikationen zu behalten ist inzwischen schwierig geworden und es stellt sich die Frage: Was sagen diese Dokumente überhaupt aus? Wird da nun jedes Mal das Rad neu erfunden? Welches Verständnis von Ethik steht hinter solchen Empfehlungen zu ethischer KI? Und wer legt dieses fest? Da im Monatstakt neue Richtlinien erscheinen, scheint mir eine Bestandsaufnahme unabkömmlich.

Kein einziges gemeinsames ethisches Prinzip

Kürzlich wurden die Ergebnisse unserer umfassenden Studie dazu in der Fachzeitschrift «Nature Machine Intelligence» veröffentlicht. Die erste Überraschung: In den 84 analysierten Dokumenten zu ethischer KI findet sich kein einziges gemeinsames ethisches Prinzip. Fünf davon werden immerhin in mehr als der Hälfte der Dokumente zumindest erwähnt. Es handelt sich dabei um: Transparenz, Gerechtigkeit & Fairness, das Verhindern von Schaden, Verantwortung, sowie Datenschutz & Privatsphäre. Wir haben insgesamt elf vorkommende Prinzipien identifiziert.

KI betrifft die ganze Gesellschaft – deshalb sollte der Mensch im Zentrum stehen, wenn es um ethische Fragen geht.  (Bild: Colourbox)
KI betrifft die ganze Gesellschaft – deshalb sollte der Mensch im Zentrum stehen, wenn es um ethische Fragen geht. (Bild: Colourbox)

Und die zweite Überraschung – oder wohl eher Ernüchterung: Nachhaltigkeit wird nur gerade in einem Sechstel der Richtlinien und Empfehlungen erwähnt; Menschenwürde und Solidarität kommen noch seltener vor. Das erstaunt insbesondere deshalb, weil zwei grosse Herausforderungen rund um die KI genau diese Prinzipien betreffen: Energiekonsum und Klimawandel einerseits, sowie ein umstrukturierter Arbeitsmarkt und befürchtete Jobverluste andererseits. Vom ethischen Standpunkt her ist diese Marginalisierung von Nachhaltigkeit, Menschenwürde und Solidarität daher höchst bedenklich. Aus meiner Sicht dürfen ethische Richtlinien die drängenden Fragen der Menschen nicht ignorieren, sondern müssen sich mit ihnen auseinandersetzen.

Gleicher Begriff, unterschiedliche Interpretation

Auch auf einem konkreteren Niveau herrscht wenig Einigkeit darüber, was "ethische KI" überhaupt bedeutet: Die genannten ethischen Prinzipien werden unterschiedlich – ja manchmal sogar widersprüchlich – interpretiert und fördern andere Handlungsempfehlungen zu Tage. So unterstreichen zum Beispiel einige Richtlinien, dass Vertrauen in Künstliche Intelligenz gefördert werden sollte, während anderswo im Gegenteil vor der Gefahr gewarnt wird, KI-Systemen zu sehr zu vertrauen.

«Ethische Künstliche Intelligenz ist nicht nur eine technische Frage, sondern die Ethik muss auch bei der Governance von KI ihren Platz haben.»Anna Jobin

Dass nicht alle Prinzipien genau gleich interpretiert werden ist noch nicht per se problematisch: KI ist ein Sammelbegriff für verschiedene Techniken, und es leuchtet sofort ein, dass verschiedene Organisationen und Sektoren andere Schwerpunkte setzen möchten. Doch unbestimmte, schwammige Stellungnahmen zu ethischer KI wecken bei mir den Verdacht, dass es sich eher um eine PR-Aktion – Stichwort: "ethics-washing" – handelt, als um eine ernsthafte Auseinandersetzung mit den ethischen Fragen.

Gold für den Zukunftsblog

Wissenschafts-Blog des Jahres 2019

Unser Blog wurde zum externe Seite Wissenschafts-Blog des Jahres 2019 gewählt. Das Redaktionsteam bedankt sich bei allen Leserinnen und Unterstützern.

Inklusive Governance

Seit kurzem hat nun auch die Schweiz eine Initiative, die externe Seite Swiss Digital Initiative (SDI), deren erklärtes Ziel es ist, ethische Standards in einer digitalen Welt zu implementieren. Aufgrund unserer Studie drängt sich sofort die Frage auf: Welche Standards sind damit gemeint? Ein erstes Entwurfspapier der SDI benennt als Inspiration die Schlüsselprinzipien des UNO-Reports für Digitale Kooperation, die gemeinschaftlich ausgearbeiteten «Ethically Aligned Design» (EAD) Standards, sowie allgemein «bestehende Gesetze und Weisungen».

Das Bestehende zur Kenntnis zu nehmen, ist ein guter Anfang. Es steht jedoch noch viel Arbeit an. So unterstreicht gerade das externe Seite EAD Dokument mehrmals, wie wichtig der Einbezug aller Interessensgruppen sei. Das ist natürlich keine technische Problematik, sondern es geht um gesellschaftliche und politische Strukturen und Prozesse. Und darauf läuft es meiner Meinung nach hinaus: Ethische Künstliche Intelligenz ist durchaus nicht nur eine technische Frage, sondern die Ethik muss auch bei der Governance von KI ihren Platz haben. Dazu gehört ein externe Seite partizipativer Ansatz, der Interessensgruppen und die Zivilgesellschaft miteinbezieht. Denn KI betrifft inzwischen viele Bereiche unserer Gesellschaft – daher sollte die Gesellschaft auch mitreden dürfen, wenn es um die Frage geht, welche Werte für die KI gelten sollen, und wie diese umgesetzt werden sollen.

Dieser Text erscheint auch als Meinungsbeitrag in der externe Seite Neuen Zürcher Zeitung.

Referenz

Jobin A, Ienca M, Vayena E: The global landscape of AI ethics guidelines. externe Seite Nature Machine Intelligence , vol. 1, pages 389–399 (2019).

Kommentare

Kommentar schreiben

Kommentar schreiben

Wir freuen uns, wenn Sie an dieser Stelle Artikel aus den ETH-Newskanälen kommentieren, Fragen stellen oder auch auf Kommentare anderer Leserinnen und Leser reagieren. Bitte beachten Sie dabei unsere Kommentarregeln.

2 Kommentare

Es sind zusätzliche Kommentare in der englischen Fassung dieses Beitrags verfügbar. Alle Kommentare anzeigen

  • Barbara Zesiger09.12.2022 11:38

    Wo stehen wir heute? Gibt es ein Update zu diesem Text?

     
       
    • Martin Holzherr20.01.2020 15:41

      Beim heutigen Stand der künstlichen Intelligenz scheint mir die wichtigste ethische Frage die Machtfrage zu sein. Denn die KI mit der jeder Einzelne heute konfrontiert ist, ist die KI der Unternehmen, die sie für ihren Unternehmenszweck einsetzen und die mit dem Wissen über die Kundenprofile, Kundenwünsche, Kundeneinkäufe und der politisch/weltanschaulichen Haltungen ihr Geschäft treiben. Auch zum Wohle der Kunden, sicher, aber letztlich um einen Informationsvorsprung zu gewinnen, mit dem sie sehr vieles bewegen können. Viel zu häufig nimmt sich die KI-Ethik dieses Problems gar nicht an, sondern sie beschäftigt sich mit hypothetischen zukünftigen Bedrohungen durch eine viel mächtigere KI als wir sie heute kennen. Doch bereits die heutigen KI-Technologien ermöglichen das chinesische Social Credit System, welches alle Chinesen einen Vertrauenskredit zuordnet mit Konsequenzen wie dem, dass letztes Jahr 20 Millionen Chinesen entweder Flugzeug oder Hochgeschwindigkeitszug nicht benutzen konnten, weil ihr Score zu niedrig ist (Zitat Wikipedia: As of June 2019, according to the National Development and Reform Commission of China, 26.82 million air tickets as well as 5.96 million high-speed rail tickets have been denied to people whom were deemed "untrustworthy ). Auch Firmen, die in China geschäften sind dieser Bewertung unterworfen.