Un spin-off reçoit 2,8 millions de dollars américains pour une IA de confiance
Les chercheurs de l'ETH derrière LatticeFlow veulent rendre possible une nouvelle génération d'intelligence artificielle (IA) digne de confiance grâce à cet investissement.
![Équipe fondatrice de LatticeFlow](/de/news-und-veranstaltungen/eth-news/news/2021/01/spin-off-erhaelt-us-dollar-fuer-vertrauenswuerdige-ki/_jcr_content/news_content/fullwidthimage/image.imageformat.930.858013975.png)
Environ six mois après sa création, le spin-off de l'ETH LatticeFlow reçoit 2,8 millions de dollars américains de deux investisseurs en capital-risque. L'objectif est de faire avancer la vision ambitieuse de rendre l'IA fiable et digne de confiance, écrit le spin-off dans son communiqué de presse. Une solution à ce défi stratégique permettrait d'utiliser la technologie de l'IA en toute sécurité.
Le développement de l'intelligence artificielle a fait de grands progrès au cours de la dernière décennie. Mais dans l'utilisation productive en dehors de l'environnement de recherche sécurisé, les conditions réelles dépassent encore souvent les modèles d'IA. Des erreurs et des comportements indésirables des applications peuvent ainsi survenir. Un exemple est un système d'assistance à la conduite qui ne reconnaît pas un panneau de stop en raison d'une situation d'éclairage difficile, par exemple lorsque le soleil éblouit la caméra ou parce que le panneau de stop comporte différentes inscriptions.
![Deux panneaux stop différents comme exemple de mauvaise reconnaissance des systèmes d'assistance à la conduite](/de/news-und-veranstaltungen/eth-news/news/2021/01/spin-off-erhaelt-us-dollar-fuer-vertrauenswuerdige-ki/_jcr_content/news_content/fullwidthimage_563296243/image.imageformat.930.1941704650.png)
Un spin-off améliore les modèles d'IA
"Notre mission est de combler cette lacune et de permettre aux entreprises de développer et d'utiliser une IA digne de confiance", explique le CEO et cofondateur Petar Tsankov. C'est pourquoi le spin-off développe un produit qui permet d'évaluer la robustesse et la fiabilité des modèles d'IA, de fournir des informations pour les améliorer et de garantir la sécurité. "La première étape pour améliorer la fiabilité des modèles d'IA est d'être capable d'évaluer les modèles de manière exhaustive pendant le développement et le déploiement", explique le cofondateur et directeur technique Pavol Bielik.
Les professeurs d'informatique Martin Vechev et Andreas Krause ont cofondé l'entreprise et s'occupent, au sein de l'ETH AI Center, de la recherche et du développement des bases des technologies d'IA fiables. Le système ERAN, par exemple, développé par le professeur Vechev et son équipe, a remporté l'année dernière un concours sur la certification de la sécurité de l'intelligence artificielle, surpassant des équipes du MIT, d'Oxford, de l'Imperial College London, de l'UIUC et d'autres. "Avec ce spin-off, nous voulons permettre le transfert de la technologie développée à l'ETH vers l'industrie", explique Krause, directeur de l'ETH AI Center.
Des clients de renom se montrent intéressés
Diverses institutions telles que les CFF, l'armée américaine et l'office fédéral allemand de la sécurité des technologies de l'information (BSI) travaillent déjà avec LatticeFlow. Ilir Fetai et Andre Roger, responsables du centre de compétences en perception automatique des CFF, commentent : "L'apprentissage automatique (ML) est un thème central pour les CFF, car nous voyons un grand potentiel dans son utilisation pour une surveillance améliorée, intelligente et automatisée de notre infrastructure ferroviaire. Le projet sur le thème de l'IA robuste et fiable avec LatticeFlow, ETH, et Siemens joue à cet égard un rôle important dans la mise en œuvre réussie des avantages du ML". Avec les nouveaux moyens financiers apportés, LatticeFlow veut maintenant faire avancer le développement de son produit.