Spin-off erhält 2,8 Mio. US-Dollar für vertrauenswürdige KI

Rund ein halbes Jahr nach seiner Gründung erhält das ETH-Spin-off LatticeFlow 2,8 Millionen US-Dollar von zwei Risikokapitalgebern. Damit wolle man die ambitionierte Vision vorantreiben, KI verlässlich und vertrauenswürdig zu machen, schreibt das Spin-off in seiner Medienmitteilung. Eine Lösung dieser strategischen Herausforderung ermögliche den sicheren Einsatz von KI Technologie. 

Die Entwicklung künstlicher Intelligenz hat im vergangenen Jahrzehnt grosse Fortschritte gemacht. Doch im produktiven Einsatz ausserhalb der sicheren Forschungsumgebung überfordern die realen Bedingungen die KI-Modelle häufig noch. So kann es zu Fehlern und unerwünschtem Verhalten der Anwendungen kommen. Ein Beispiel ist ein Fahrassistenzsystem, das ein Stoppschild wegen einer schwierigen Lichtsituation nicht erkennt, etwa wenn die Sonne die Kamera blendet oder weil das Stoppschild mit verschiedenen Beschriftungen versehen ist.

Spin-off verbessert KI-Modelle

«Unsere Mission ist es, diese Lücke zu schliessen und es Unternehmen zu erlauben, vertrauenswürdige KI zu entwickeln und einzusetzen», sagt CEO und Co-Gründer Petar Tsankov. Deshalb entwickelt das Spin-off ein Produkt, mit dem die Robustheit und Zuverlässigkeit von KI-Modellen bewertet, Informationen zu deren Verbesserung bereitgestellt und Sicherheit gewährleistet werden können. «Der erste Schritt zur Verbesserung der Verlässlichkeit von KI-Modellen ist die Fähigkeit, Modelle während der Entwicklung und dem Einsatz umfassend zu beurteilen», sagt Co-Gründer und CTO Pavol Bielik. 

Die Informatik-Professoren Martin Vechev und Andreas Krause haben das Unternehmen mitgegründet und befassen sich am ETH AI Center mit der Erforschung und Entwicklung der Grundlagen vertrauenswürdiger KI-Technologien. Das von Professor Vechev und seinem Team entwickelte ERAN System zum Beispiel hat im vergangenen Jahr einen Wettbewerb zum Thema Zertifizierung der Sicherheit künstlicher Intelligenz gewonnen, und dabei Teams von MIT, Oxford, Imperial College London, UIUC und anderen übertroffen. «Mit dem Spin-off wollen wir den Transfer der an der ETH entwickelten Technologie in die Industrie ermöglichen», erklärt Krause, Vorsteher des ETH AI Centers.

Namhafte Kunden zeigen sich interessiert

Verschiedene Institutionen wie etwa die SBB, die US-Armee und das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) arbeiten bereits mit LatticeFlow. Ilir Fetai and Andre Roger, Leiter des Kompetenzzentrums für Machine Perception der SBB kommentieren: «Maschinelles Lernen (ML) ist ein zentrales Thema für die SBB, da wir ein grosses Potenzial in dessen Einsatz zur verbesserten, intelligenten und automatisierten Überwachung unserer Bahn-Infrastruktur sehen. Das Projekt zum Thema robuste und zuverlässige KI mit LatticeFlow, ETH, und Siemens spielt dabei eine wichtige Rolle darin, die Vorteile von ML erfolgreich zu realisieren.» Mit den neu eingebrachten finanziellen Mitteln will LatticeFlow nun die Entwicklung seines Produktes vorantreiben.