Digi, Nano, Bio, Neuro – oder warum uns konvergierende Technologien kümmern sollten
Dirk Helbing rechnet damit, dass digitale Technologien künftig auch den menschlichen Körper immer tiefer durchdringen werden. Für die Risiken sieht er die Gesellschaft jedoch schlecht gewappnet. Um unsere intimsten Daten vor Missbrauch zu schützen, schlägt er einen neuen Rechtsrahmen vor.
- Vorlesen
- Anzahl der Kommentare
In meiner Forschung beschäftige ich mich mit den Folgen der Digitalisierung für Mensch, Gesellschaft und Demokratie. Dabei muss man auch die Konvergenz in den Computer- und Biowissenschaften im Blick haben – also das, was möglich wird, wenn digitale Technologien immer mehr mit Biotechnologie, Neuro- und Nanotechnologie zusammenwachsen.
Konvergierende Technologien gelten als Nährboden für tiefgreifende Innovationen. Doch sie lassen die Grenzen zwischen der physischen, biologischen und digitalen Welt zunehmend verschwinden. Herkömmliche fachspezifische Regulierungen werden dadurch unwirksam.
In einer gemeinsamen externe Seite Studie haben mein Co-Autor Marcello Ienca und ich kürzlich die Risiken und gesellschaftlichen Herausforderungen der technologischen Konvergenz untersucht – und kommen zu dem Schluss, dass die Auswirkungen für Individuen und die Gesellschaft einschneidend sind.
Es ist uns ein Anliegen, auf diese Herausforderungen und Risiken konvergierender Technologien hinzuweisen und zu erklären, warum wir es für notwendig erachten, die technologischen Entwicklungen international mit einer starken Regulierung zu begleiten.
Was die Folgen sind, wenn man den technologischen Wandel unkontrolliert den Marktkräften überlässt, können wir seit einigen Jahre bei der Digitalisierung gut beobachten.
Falschinformation und Manipulation im Web
2015, vor fast 10 Jahren, erschien das Digital-Manifest.1 Einer von uns sowie acht weitere europäische Expert:innen warnten damals eindringlich vor Scoring, also der Bewertung von Menschen, sowie vor Big Nudging2, einer subtilen Form der digitalen Manipulation. Letztere beruht auf Persönlichkeitsprofilen, die mithilfe von Cookies und anderen Überwachungsdaten erstellt werden. Wenig später führte der Cambridge-Analytica-Skandal der Welt vor Augen, wie die Datenanalyse-Firma mittels personalisierter Anzeigen (Microtargeting) versuchte, das Stimmverhalten bei demokratischen Wahlen zu beeinflussen.
Inzwischen stehen Demokratien weltweit unter Druck. Propaganda, Fake News und Hassrede polarisieren und säen Zweifel, während die Privatsphäre schwindet. Wir befinden uns in einer Art Informationskrieg um unsere Köpfe, in dem Werbefirmen, Techkonzerne, Geheimdienste und Militärs um Einfluss auf unser Denken und Verhalten ringen. Indessen versucht der gerade beschlossene AI Act der Europäischen Union die zuvor genannten Gefahren zu bändigen.
Doch digitale Technologien entwickeln sich rasant weiter, und es zeichnen sich bereits neue Manipulationsmöglichkeiten ab. Denn wenn digitale und Nanotechnologie mit der modernen Bio- und Neurotechnologie zusammenwachsen, werden revolutionäre Anwendungen möglich, die zuvor kaum vorstellbar waren.
Mikroroboter für die Präzisionsmedizin
Etwa in der personalisierten Medizin: Die fortschreitende Miniaturisierung der Elektronik erlaubt es zusehends, lebende Organismen und den Menschen mit vernetzten Sensoren und Rechenleistung zu erschliessen. Das WEF rief bereits 2020 das «Internet der Körper» aus. 3, 4
Ein Beispiel sind digitale Pillen, die herkömmliche Medikamente mit einer Überwachungsfunktion kombinieren. Diese könnten die Medikation kontrollieren und physiologische Daten der Patient:innen aufzeichnen (siehe diesen Blogbeitrag).
Fachleute erwarten, dass Sensortechnologie früher oder später auch die Nanoskala erreicht. Magnetische Nanopartikel oder nanoelektronische Komponenten von bis zu 100 Nanometern Durchmesser würden es erlauben, Wirkstoffe zu transportieren, mit Zellen zu interagieren und grosse Datenmengen über Körperfunktionen zu erfassen. So könnte man Krankheiten bereits im Frühstadium erkennen und personalisiert behandeln, hofft man. Man spricht auch oft von Präzisionsmedizin (High Precision Medicine).
Nano-Elektroden erfassen Hirnfunktion
Miniaturisierte Elektroden, die gleichzeitig die Aktivität von tausenden Neuronen messen und manipulieren können, sowie immer bessere KI-Werkzeuge für die Analyse von Hirnsignalen sind zwei Ansätze, die aktuell zu viel diskutierten Fortschritten an der Gehirn-Computer-Schnittstelle führen. Dank Nano-Neurotechnologie, so die Idee, liessen sich vielleicht schon bald das Smartphone und andere KI-Anwendungen direkt mit Gedanken steuern.
«Lange bevor Präzisionsmedizin und Neurotechnologie zuverlässig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.»Dirk Helbling
Davon dürften auch die Grossprojekte zur Kartierung des menschlichen Gehirns profitieren.5 Künftig könnte Brain Activity Mapping im Prinzip unsere Gedanken und Gefühle auslesen, aber auch extern beeinflussen – letzteres wahrscheinlich deutlich effektiver als bisherige Manipulationsmethoden wie Big Nudging.
Für eine dauerhafte Verbindung zwischen Zellen und Elektronik sind klassische Elektroden allerdings nicht geeignet – dazu braucht es langlebige und biokompatible Schnittstellen. Ein Vorschlag ist daher, Signale optogenetisch zu übertragen, das heisst mit Lichtimpulsen Gene in speziellen Zellen zu steuern.6 So liessen sich erstaunliche Schaltkreise implementieren (siehe ETH-News «Mit Gedanken Gene steuern»).
Die Kehrseite der Konvergenz
Zugegeben: Die genannten Anwendungen mögen futuristisch klingen. Noch sind es überwiegend Visionen oder sie befinden sich in frühen Entwicklungsstadien. Doch weltweit wird daran mit Hochdruck geforscht. Auch militärische Kreise sind interessiert, konvergierende Technologien für ihre Zwecke zu nutzen.7, 8
Die Kehrseite der Konvergenz sind erhebliche Risiken, etwa dass staatliche oder private Akteure an hochsensible Daten gelangen und diese missbräuchlich verwenden, um Menschen zu überwachen und zu beeinflussen. Je vernetzter unsere Körper, desto anfälliger werden wir auch für Cyberkriminalität und Hacking. Ferner ist nicht auszuschliessen, dass bereits militärische Anwendungen existieren.7 Sicher ist jedoch: Lange bevor Präzisionsmedizin und Neurotechnologie zuverlässig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.
«Es braucht echte informationelle Selbstbestimmung – wir müssten die Kontrolle über unsere persönlichen Daten zurückgewinnen.»Dirk Helbling
Das Problem: Die bisherigen fachspezifischen Regelwerke reichen nicht aus, um die technologische Konvergenz im Zaum zu halten. Wie sollen wir die Kontrolle über unser Leben behalten, wenn es zunehmend möglich wird, unser Denken, Fühlen und Entscheiden mit digitalen Mitteln zu beeinflussen?
Konvergenz erfordert konvergierende Kontrolle
In unserem kürzlich erschienenen Paper kommen wir zum Schluss, dass konvergierende Technologien eine ebenso konvergierende internationale Regulierung erfordern. Wir skizzieren einen neuen globalen Rechtsrahmen und schlagen zehn Governance-Prinzipien vor, um die drohende Regulierungslücke zu schliessen.9
Unser Rahmen betont die Notwendigkeit von Schutzmassnahmen, um die Körper- und Geistesfunktionen vor unbefugten Eingriffen zu bewahren und die persönliche Integrität und Privatsphäre zu gewährleisten, etwa durch Neurorechte.
Um Risiken zu mindern und Missbrauch vorzubeugen, sollten künftige Regulierungen inklusiv, transparent und vertrauenswürdig sein. Zentral ist das Prinzip der partizipativen Governance, welche alle relevanten Gruppen einbezieht und sicherstellt, dass auch die Anliegen betroffener Minderheiten in Entscheidungsprozesse einfliessen.
Schliesslich braucht es echte informationelle Selbstbestimmung – wir müssten die Kontrolle über unsere persönlichen Daten zurückgewinnen. Das gilt auch für die digitalen Zwillinge unseres Körpers und unserer Persönlichkeit. Denn damit lässt sich unsere Gesundheit und unser Denken hacken – im Guten wie im Bösen.10
Mit unserem Beitrag möchten wir eine öffentliche Diskussion über konvergierende Technologien anstossen. Denn trotz der grossen Relevanz wird das Thema unserer Ansicht nach zu wenig beachtet. Ein kontinuierlicher Diskurs über Nutzen, Risiken und sinnvolle Regeln kann helfen, die technologische Konvergenz so zu lenken, dass sie den Menschen dient, nicht schadet.
Dirk Helbing verfasste diesen Beitrag zusammen mit externe Seite Marcello Ienca, der an der ETH Zürich und der EPFL arbeitete und nun Assistenzprofessor für Ethik der KI und Neurowissenschaften an der Technischen Universität München ist.
1 Digital-Manifest: externe Seite Digitale Demokratie statt Datendiktatur (2015) Spektrum der Wissenschaft
2 externe Seite Sie sind das Ziel! (2024) Schweizer Monat
3 externe Seite The Internet of Bodies Is Here: Tackling new challenges of technology governance (2020) World Economic Forum
4 externe Seite Tracking how our bodies work could change our lives (2020) World Economic Forum
5 externe Seite Nanotools for Neuroscience and Brain Activity Mapping (2013) ACS Nano
6 externe Seite Innovationspotenziale der Mensch-Maschine-Interaktion (2016) Deutsche Akademie der Technikwissenschaften
7 externe Seite Human Augmentation – The Dawn of a New Paradigm. A strategic implications project (2021) UK Ministry of Defence
8 externe Seite Behavioural change as the core of warfighting (2017) Militaire Spectator
9 Helbing D, Ienca M: externe Seite Why converging technologies need converging international regulation (2024) Ethics and Information Technology
10 externe Seite Who is Messing with Your Digital Twin? Body, Mind, and Soul for Sale? Dirk Helbing TEDx Talk (2023)