ETH-Weiterbildung setzt auf Ethik in der KI

Was ist Philosophie?  Was ist Ethik im Zeitalter von künstlicher Intelligenz (KI)? Diese Fragen diskutieren zwanzig Studierende in kleinen Gruppen. Es sind Teilnehmende des CAS ETH Machine Learning in Finance and Insurance. Eine Premiere – das Weiterbildungsangebot findet zum ersten Mal statt. Angesiedelt ist der neue Kurs am FinsureTech Hub der ETH Zürich bei den Professuren von Josef Teichmann und Patrick Cheridito am Departement Mathematik.

Für Studienleiter Bastian Bergmann war von Anfang an klar, dass der verantwortungsvolle Umgang mit der KI-Technologie einen wichtigen Stellenwert einnehmen muss, wenn es in einer Weiterbildung um maschinelles Lernen geht. «Ethik ist für mich genauso wichtig wie die Technologie selbst. Wie wird die Technologie in den Kontext implementiert und welche Herausforderungen ergeben sich daraus? Das sind wichtige Fragen, die uns im Kurs beschäftigen», sagt Bergmann, der selbst Finanzmathematiker und Philosoph ist.

Das sieht auch Andrea Ferrario, ebenfalls Dozent in diesem Kurs, so: «Ethik ist nicht erst dann relevant, wenn eine KI-basierte Anwendung in der Gesellschaft ankommt. Ethik muss schon beim Programmieren ein Thema sein. Von Anfang an, bei jedem einzelnen Schritt.» Der Physiker hat an der ETH in Mathematik promoviert und forscht heute an der Universität Zürich im Bereich der biomedizinischen Ethik und der Philosophie der KI.

Eigener Standpunkt als Neuland

Den beiden Dozierenden geht es vor allem darum, dass die CAS-Teilnehmenden, die alle in der Schweizer Finanz- oder Versicherungsbranche arbeiten, in ihren Unternehmen Brücken bauen können zwischen den Datenwissenschaftlern, Software-Ingenieurinnen, Business-Experten, und den Kolleginnen der Compliance-Abteilung, die sich um gesetzliche Vorschriften von KI-basierenden Dienstleistungen und Produkten kümmern. Deshalb ist den beiden der interdisziplinäre Diskurs ein besonderes Anliegen. «Die Zusammenarbeit der verschiedenen Berufsgruppen mit unterschiedlichen Ansätzen, Meinungen und Zielen ist in der Praxis nicht immer einfach», sagt Ferrario. Für ihn ist der Kurs ein wertvolles Übungsfeld, um ethische Fragen in der Finanz- und Versicherungsbranche zu diskutieren.

Bergmann hat im Lauf des Kurses immer wieder festgestellt, dass das Thema Ethik für die meisten Teilnehmenden Neuland ist: «Sie sind es sich eher gewohnt, in ihrem Berufsalltag nach einem vordefinierten Regelwerk Ausschau zu halten. Im Ethik-Teil des CAS mussten sie ihren eigenen Standpunkt entwickeln. Was bedeutet moralisch für mich, für mein Unternehmen?»

KI-Halluzinationen und Reputationsrisiken

Dass Diskussionen über ethische Themen für die Teilnehmenden grösstenteils Neuland sind, bemerkten auch die beiden externen Dozierenden Christiane Hoppe-Oehl, Head of Artificial Intelligence Unit bei der Finma, und Luca Baldassarre, AI Governance Director bei Swiss Re. Beide begrüssen, dass die ETH dem ethischen Aspekt so viel Bedeutung beimisst.

«Meine Hauptbotschaft an die Studierenden war, dass Unternehmen ohne einen verantwortungsvollen Ansatz bei der Planung, Entwicklung und Überwachung von KI-Systemen sowohl geschäftlichen als auch Compliance- und Reputationsrisiken ausgesetzt sind», sagt Baldassarre. Hoppe-Oehl ergänzt: «KI hat das Potenzial, unsere Gesellschaft voranzubringen, aber wenn die Risiken nicht erkannt und behandelt werden, laufen wir Gefahr, die Kontrolle zu verlieren.» Als Beispiel nennt sie KI-Halluzinationen, die fundierte Entscheidungen erschweren können, weil Fakten und Unwahrheiten immer schwerer zu unterscheiden sind.

Die ethische Dimension des CAS war für die Teilnehmerin Xenia Tao mit ein Grund, sich an der ETH im Bereich KI weiterzubilden. «Die Art und Weise, wie der Kurs die ethische Dimension mit praktischen Anwendungen verknüpft hat, finde ich für meine Arbeit besonders wertvoll», sagt die Managing Director bei einer Schweizer Bank.  Auch für ihre Studienkollegin Arantzazu Garcia macht die Mischung aus technischen Grundlagen, Ethik und Praxisbezug den Reiz des CAS aus. «Durch die Arbeit an einem eigenen Projekt konnte ich die erlernten Konzepte direkt anwenden», sagt die Global Operational Excellence Lead bei Hitachi Energy.

Lehrreicher Praxisteil zum Abschluss

Im Praxis-Teil der Weiterbildung standen Projekte und Workshops mit Industriepartnern im Mittelpunkt. Anhand konkreter Beispiele setzten sich die Teilnehmenden mit der Umsetzung von KI-Anwendungen in der Finanz- und Versicherungsbranche auseinander. Nun arbeiten die Teilnehmenden an ihren eigenen Projekten. Damit findet der CAS seinen Abschluss. Bergmann ist bisher mit der ersten Durchführung zufrieden. Es hat sich bewährt, mit den technischen Grundlagen des maschinellen Lernens zu beginnen und über die Ethik in der Praxis anzukommen. Also alles wie gehabt im nächsten Jahr? «Fast», sagt der Studienleiter. «Das Ethik-Modul wollen wir noch etwas ausbauen.»