La formation continue de l'ETH mise sur l'éthique dans l'IA

Qu'est-ce que la philosophie ? Qu'est-ce que l'éthique à l'ère de l'intelligence artificielle (IA) ? Ces questions sont discutées par une vingtaine d'étudiants en petits groupes. Ce sont des participants au CAS ETH Machine Learning in Finance and Insurance. C'est une première - l'offre de formation continue a lieu pour la première fois. Le nouveau cours se déroule au FinsureTech Hub de l'ETH Zurich, auprès des chaires de Josef Teichmann et Patrick Cheridito au Département de mathématiques.

Pour Bastian Bergmann, responsable de l'étude, il était clair dès le départ que l'utilisation responsable de la technologie IA devait occuper une place importante lorsqu'il s'agit d'apprentissage automatique dans une formation continue. "Pour moi, l'éthique est aussi importante que la technologie elle-même. Comment la technologie est-elle mise en œuvre dans le contexte et quels sont les défis qui en découlent ? Ce sont des questions importantes qui nous occupent dans le cours", explique Bergmann, qui est lui-même mathématicien financier et philosophe.

Andrea Ferrario, également enseignant dans ce cours, est du même avis : "L'éthique n'est pas seulement pertinente lorsqu'une application basée sur l'IA arrive dans la société. L'éthique doit être un thème dès la programmation. Dès le début, à chaque étape". Ce physicien a obtenu un doctorat en mathématiques à l'ETH et mène aujourd'hui des recherches à l'Université de Zurich dans le domaine de l'éthique biomédicale et de la philosophie de l'IA.

Un point de vue personnel comme terrain vierge

Pour les deux enseignants, il s'agit avant tout de faire en sorte que les participants au CAS, qui travaillent tous dans le secteur suisse de la finance ou de l'assurance, puissent construire des ponts dans leur entreprise entre les scientifiques des données, les ingénieurs en logiciels, les experts en affaires, et leurs collègues du département administratif qui s'occupent des prescriptions légales des services et produits basés sur l'IA. C'est pourquoi le discours multidisciplinaire leur tient particulièrement à cœur. "Dans la pratique, il n'est pas toujours facile de faire travailler ensemble des groupes professionnels aux approches, aux opinions et aux objectifs différents", explique Ferrario. Pour lui, le cours est un précieux terrain d'exercice pour discuter des questions éthiques dans le secteur de la finance et de l'assurance.

Au cours du cours, Bergmann a constaté à plusieurs reprises que le thème de l'éthique était un terrain inconnu pour la plupart des participants : "Ils sont plutôt habitués à chercher un ensemble de règles prédéfinies dans leur quotidien professionnel. Dans la partie éthique du CAS, ils ont dû développer leur propre point de vue. Que signifie moralement pour moi, pour mon entreprise ?"

Hallucinations de l'IA et risques de réputation

Les deux chargés de cours externes, Christiane Hoppe-Oehl, Head of Artificial Intelligence Unit à la Finma, et Luca Baldassarre, AI Governance Director chez Swiss Re, ont également remarqué que les discussions sur des thèmes éthiques étaient en grande partie un terrain inconnu pour les participants. Tous deux se félicitent que l'ETH accorde autant d'importance à l'aspect éthique.

"Mon principal message aux étudiants était que sans une approche responsable de la planification, du développement et de la surveillance des systèmes d'IA, les entreprises s'exposent à des risques tant commerciaux que de conformité et de réputation", explique Baldassarre. Hoppe-Oehl ajoute : "L'IA a le potentiel de faire progresser notre société, mais si les risques ne sont pas identifiés et traités, nous risquons de perdre le contrôle". Elle cite comme exemple les hallucinations de l'IA, qui peuvent rendre difficile la prise de décisions éclairées, car il est de plus en plus difficile de distinguer les faits des contre-vérités.

La dimension éthique du CAS a été l'une des raisons pour lesquelles Xenia Tao, qui y a participé, a décidé de suivre une formation continue dans le domaine de l'IA à l'ETH. "Je trouve que la manière dont le cours a lié la dimension éthique aux applications pratiques est particulièrement précieuse pour mon travail", explique la directrice générale d'une banque suisse. Pour sa collègue d'études Arantzazu Garcia, c'est également le mélange de bases techniques, d'éthique et de pratique qui fait l'attrait du CAS. "En travaillant sur un projet personnel, j'ai pu appliquer directement les concepts appris", explique la Global Operational Excellence Lead chez Hitachi Energy.

Une partie pratique riche en enseignement pour terminer

Dans la partie pratique de la formation continue, l'accent a été mis sur des projets et des ateliers avec des partenaires industriels. A l'aide d'exemples concrets, les participants se sont penchés sur la mise en œuvre d'applications d'IA dans les secteurs de la finance et de l'assurance. Les participants travaillent maintenant sur leurs propres projets. Le CAS arrive ainsi à son terme. Bergmann est jusqu'à présent satisfait de la première édition. Commencer par les bases techniques de l'apprentissage automatique et arriver à la pratique en passant par l'éthique a fait ses preuves. Tout sera donc comme avant l'année prochaine ? "Presque", répond le directeur des études. "Nous voulons encore développer un peu le module d'éthique".