Digi, Nano, Bio, Neuro – oder warum uns konvergierende Technologien kümmern sollten

Was die Folgen sind, wenn man den technologischen Wandel unkontrolliert den Marktkr?ften ¨¹berl?sst, k?nnen wir seit einigen Jahre bei der Digitalisierung gut beobachten.

Falschinformation und Manipulation im Web

2015, vor fast 10 Jahren, erschien das Digital-Manifest.¹ Einer von uns sowie acht weitere europ?ische Expert:innen warnten damals eindringlich vor Scoring, also der Bewertung von Menschen, sowie vor Big Nudging², einer subtilen Form der digitalen Manipulation. Letztere beruht auf Pers?nlichkeitsprofilen, die mithilfe von Cookies und anderen ?berwachungsdaten erstellt werden. Wenig sp?ter f¨¹hrte der Cambridge-Analytica-Skandal der Welt vor Augen, wie die Datenanalyse-Firma mittels personalisierter Anzeigen (Microtargeting) versuchte, das Stimmverhalten bei demokratischen Wahlen zu beeinflussen.

Inzwischen stehen Demokratien weltweit unter Druck. Propaganda, Fake News und Hassrede polarisieren und s?en Zweifel, w?hrend die Privatsph?re schwindet. Wir befinden uns in einer Art Informationskrieg um unsere K?pfe, in dem Werbefirmen, Techkonzerne, Geheimdienste und Milit?rs um Einfluss auf unser Denken und Verhalten ringen. Indessen versucht der gerade beschlossene AI Act der Europ?ischen Union die zuvor genannten Gefahren zu b?ndigen.

Doch digitale Technologien entwickeln sich rasant weiter, und es zeichnen sich bereits neue Manipulationsm?glichkeiten ab. Denn wenn digitale und Nanotechnologie mit der modernen Bio- und Neurotechnologie zusammenwachsen, werden revolution?re Anwendungen m?glich, die zuvor kaum vorstellbar waren.

Mikroroboter f¨¹r die Pr?zisionsmedizin

Etwa in der personalisierten Medizin: Die fortschreitende Miniaturisierung der Elektronik erlaubt es zusehends, lebende Organismen und den Menschen mit vernetzten Sensoren und Rechenleistung zu erschliessen. Das WEF rief bereits 2020 das ?Internet der K?rper? aus. ^{3, 4}

Ein Beispiel sind digitale Pillen, die herk?mmliche Medikamente mit einer ?berwachungsfunktion kombinieren. Diese k?nnten die Medikation kontrollieren und physiologische Daten der Patient:innen aufzeichnen (siehe diesen Blogbeitrag).

Fachleute erwarten, dass Sensortechnologie fr¨¹her oder sp?ter auch die Nanoskala erreicht. Magnetische Nanopartikel oder nanoelektronische Komponenten von bis zu 100 Nanometern Durchmesser w¨¹rden es erlauben, Wirkstoffe zu transportieren, mit Zellen zu interagieren und grosse Datenmengen ¨¹ber K?rperfunktionen zu erfassen. So k?nnte man Krankheiten bereits im Fr¨¹hstadium erkennen und personalisiert behandeln, hofft man. Man spricht auch oft von Pr?zisionsmedizin (High Precision Medicine).

Nano-Elektroden erfassen Hirnfunktion

Miniaturisierte Elektroden, die gleichzeitig die Aktivit?t von tausenden Neuronen messen und manipulieren k?nnen, sowie immer bessere KI-Werkzeuge f¨¹r die Analyse von Hirnsignalen sind zwei Ans?tze, die aktuell zu viel diskutierten Fortschritten an der Gehirn-Computer-Schnittstelle f¨¹hren. Dank Nano-Neurotechnologie, so die Idee, liessen sich vielleicht schon bald das Smartphone und andere KI-Anwendungen direkt mit Gedanken steuern.

Davon d¨¹rften auch die Grossprojekte zur Kartierung des menschlichen Gehirns profitieren.⁵ K¨¹nftig k?nnte Brain Activity Mapping im Prinzip unsere Gedanken und Gef¨¹hle auslesen, aber auch extern beeinflussen ¨C letzteres wahrscheinlich deutlich effektiver als bisherige Manipulationsmethoden wie Big Nudging.

F¨¹r eine dauerhafte Verbindung zwischen Zellen und Elektronik sind klassische Elektroden allerdings nicht geeignet ¨C dazu braucht es langlebige und biokompatible Schnittstellen. Ein Vorschlag ist daher, Signale optogenetisch zu ¨¹bertragen, das heisst mit Lichtimpulsen Gene in speziellen Zellen zu steuern.⁶  So liessen sich erstaunliche Schaltkreise implementieren (siehe ETH-News ?Mit Gedanken Gene steuern?).

Die Kehrseite der Konvergenz

Zugegeben: Die genannten Anwendungen m?gen futuristisch klingen. Noch sind es ¨¹berwiegend Visionen oder sie befinden sich in fr¨¹hen Entwicklungsstadien. Doch weltweit wird daran mit Hochdruck geforscht. Auch milit?rische Kreise sind interessiert, konvergierende Technologien f¨¹r ihre Zwecke zu nutzen.^{7, 8}

Die Kehrseite der Konvergenz sind erhebliche Risiken, etwa dass staatliche oder private Akteure an hochsensible Daten gelangen und diese missbr?uchlich verwenden, um Menschen zu ¨¹berwachen und zu beeinflussen. Je vernetzter unsere K?rper, desto anf?lliger werden wir auch f¨¹r Cyberkriminalit?t und Hacking. Ferner ist nicht auszuschliessen, dass bereits milit?rische Anwendungen existieren.⁷ Sicher ist jedoch: Lange bevor Pr?zisionsmedizin und Neurotechnologie zuverl?ssig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.

Das Problem: Die bisherigen fachspezifischen Regelwerke reichen nicht aus, um die technologische Konvergenz im Zaum zu halten. Wie sollen wir die Kontrolle ¨¹ber unser Leben behalten, wenn es zunehmend m?glich wird, unser Denken, F¨¹hlen und Entscheiden mit digitalen Mitteln zu beeinflussen?

Konvergenz erfordert konvergierende Kontrolle

In unserem k¨¹rzlich erschienenen Paper kommen wir zum Schluss, dass konvergierende Technologien eine ebenso konvergierende internationale Regulierung erfordern. Wir skizzieren einen neuen globalen Rechtsrahmen und schlagen zehn Governance-Prinzipien vor, um die drohende Regulierungsl¨¹cke zu schliessen.⁹

Unser Rahmen betont die Notwendigkeit von Schutzmassnahmen, um die K?rper- und Geistesfunktionen vor unbefugten Eingriffen zu bewahren und die pers?nliche Integrit?t und Privatsph?re zu gew?hrleisten, etwa durch Neurorechte.

Um Risiken zu mindern und Missbrauch vorzubeugen, sollten k¨¹nftige Regulierungen inklusiv, transparent und vertrauensw¨¹rdig sein. Zentral ist das Prinzip der partizipativen Governance, welche alle relevanten Gruppen einbezieht und sicherstellt, dass auch die Anliegen betroffener Minderheiten in Entscheidungsprozesse einfliessen.

Schliesslich braucht es echte informationelle Selbstbestimmung ¨C wir m¨¹ssten die Kontrolle ¨¹ber unsere pers?nlichen Daten zur¨¹ckgewinnen. Das gilt auch f¨¹r die digitalen Zwillinge unseres K?rpers und unserer Pers?nlichkeit. Denn damit l?sst sich unsere Gesundheit und unser Denken hacken ¨C im Guten wie im B?sen.¹⁰

Mit unserem Beitrag m?chten wir eine ?ffentliche Diskussion ¨¹ber konvergierende Technologien anstossen. Denn trotz der grossen Relevanz wird das Thema unserer Ansicht nach zu wenig beachtet. Ein kontinuierlicher Diskurs ¨¹ber Nutzen, Risiken und sinnvolle Regeln kann helfen, die technologische Konvergenz so zu lenken, dass sie den Menschen dient, nicht schadet.

Dirk Helbing verfasste diesen Beitrag zusammen mit externe Seite Marcello Ienca, der an der ETH Z¨¹rich und der EPFL arbeitete und nun Assistenzprofessor f¨¹r Ethik der KI und Neurowissenschaften an der Technischen Universit?t M¨¹nchen ist.