Digital Health vor dem Absturz bewahren

Parallelen zwischen Luftfahrt und Medizin zu ziehen, ist nicht neu: An?sthesisten, die einen Patienten sicher durch eine Operation ?steuern?, wurden schon oft mit Linienpiloten verglichen. Auch ist die Surgical Safety Checklist der WHO¹ direkt von den Kontrollchecks der Piloten vor dem Start und nach der Landung inspiriert. Eines unserer Forschungsprojekte schliesslich, in dem wir gemeinsam mit dem Unispital Z¨¹rich mit datenwissenschaftlichen Methoden das Patientenmonitoring in Intensivstationen (engl. ICU) verbessern m?chten, heisst nicht ohne Grund ICU-Cockpit^{2, 3}.

Der Fall Boeing 737 Max veranschaulicht jedoch zwei neue Parallelen zwischen diesen Bereichen: einerseits die zunehmende Digitalisierung und Automatisierung und andererseits, weit weniger ehrenhaft, die Gewinnmaximierung von Unternehmen. Dass diese im Fall von Boeing eine massgebliche Rolle spielte, legt ein Artikel nahe, der k¨¹rzlich in der New York Times erschienenen ist⁴.

Zusammenfassend gesagt: Boeing stand unter grossem Wettbewerbsdruck. Anstatt in die teure und zeitaufw?ndige Entwicklung eines neuen modernen Flugzeugs zu investieren, hat die Firma ein ¨¹ber 40 Jahre altes Flugzeugmodell ¨¹berarbeitet. Um Marketinganforderungen wie tiefe Betriebskosten zu erf¨¹llen, verwendete sie neue, aber f¨¹r das alte Flugzeug ungeeignete Technologie. Um aerodynamische M?ngel auszugleichen, entwickelte sie eine Software, die entgegen aller Best Practice der Branche eingreift, ohne dass der Pilot es merkt. In aller Eile vergass Boeing, die ?nderungen im Flugzeug-Handbuch zu vermerken und Fluggesellschaften und Piloten ¨¹ber diese Mechanismen zu informieren. Ausserdem ¨¹bersah die Firma, dass grundlegende Sicherheitsfunktionen bloss Teil eines kostspieligen Add-ons sind, welches die meisten kostenbewussten Fluggesellschaften gar nicht kauften. Und die Flugzeugingenieure von Boeing ignorierten ¨C wahrscheinlich aufgrund eines sp?ten Systemwechsels ¨C das Grundprinzip der Redundanz, mit welcher ein Sensorausfall h?tte kompensiert werden k?nnen. Selbst als diese Fehler nach dem ersten Unfall bekannt wurden, vers?umte es das Unternehmen, die Beteiligten schnell und im Detail zu informieren, um so einen weiteren Unfall zu verhindern.

Wir sind nicht vor solchen Fehlern gefeit

In meiner Arbeit befasse ich mich mit der Entwicklung einer Reihe von Medizinalger?ten und Software, welche Diagnosen stellen oder sogar Interventionen durchf¨¹hren k?nnen. Zu Forschungszwecken werden diese Ger?te derzeit in Kliniken getestet. Fehlfunktionen k?nnen da recht schnell fatale Folgen haben.

Auch in unserem Bereich stehen Mitarbeiter unter Druck, im Fall von Doktorierenden etwa, wenn sie ihre Doktorarbeit m?glichst schnell abzuschliessen gedenken oder wenn die befristete Finanzierung endet. Da ist die Versuchung gross, sich nicht immer an Best Practices zu halten. Jedenfalls ist auch der Medizinbereich nicht vor Fehlern gefeit, wie sie Boeing unterliefen. In unserer Branche k?nnten Fehler sogar zu noch gr?sseren Verlusten von Menschenleben f¨¹hren. Leider w?ren diese F?lle aber wahrscheinlich schwieriger zu erkennen, da sie weltweit auf viele Spit?ler verteilt auftreten w¨¹rden.

Nicht gen¨¹gend Sicherheitsforschung

Im Gesundheitssystem der Schweiz und anderer L?nder ist der Kostendruck und die schrittweise Kommerzialisierung offensichtlich. Spit?ler und Hersteller von Medizinalprodukten sp¨¹ren den Druck von Politik und Aktion?ren, Kosten zu senken und Leistungen zu erh?hen.

Digitale Gesundheit und die Erhebung von Gesundheitsdaten aus der Ferne mit Wearables ist Teil fast jeder neuen Gesundheitsinitiative; Automatisierung und k¨¹nstliche Intelligenz sind die grossen Schlagworte. Es scheint so, als ob die Beh?rden immer noch ¨¹berw?ltigt sind von den neuen M?glichkeiten. Jedenfalls sind sie sp?t dran mit einer dringend ben?tigten, eindeutigen Regulierung. Sowohl in der Luftfahrt als auch in der Medizintechnik setzen die Beh?rden weitgehend auf Herstellerverantwortung und Selbstdeklaration, auch bei branchenfremden Herstellern, die neu in diesem Bereich t?tig sind.

Wenn ich die Forschungsprojekte in meinem Gebiet anschaue, scheint mir, dass sich nur wenige davon mit Fragen der Sicherheit, Redundanz, Risikobewertung und Benutzerfreundlichkeit befassen. M?glicherweise werden diese ingenieurwissenschaftlichen Themen deswegen oberfl?chlich behandelt, weil sie als teilweise bereits gut erforscht gelten und einen zu angewandten Charakter haben. Dennoch haben wir jeden Anlass, diese entscheidenden Fragen auch im Bereich Digital Health zu untersuchen.

Verantwortungsvoller handeln

Aber bereiten wir unsere Studenten darauf vor? Oder ermutigen wir sie ausschliesslich, Risiken einzugehen und blind in die n?chste Startup-Blase zu springen, bringen ihnen die neusten Data-Crunching-Methoden bei, um den Anforderungen des Arbeitsmarktes zu entsprechen, und trimmen wir unsere Doktoranden einzig darauf, Forschung zu betreiben, welche sich in hochrangigen Fachzeitschriften ver?ffentlichen l?sst?

Nach dem Vorbild des Hippokratischen Eides in der Medizin haben Ingenieure vor einigen Jahren den Eid des Archimedes⁵ vorgeschlagen. Kurz gesagt geht es darum, f¨¹r sein Handeln verantwortlich zu sein, keinen Schaden anzurichten und seine F?higkeiten f¨¹r das soziale Wohl einzusetzen. Ich glaube, es ist Zeit, diesen Eid des Archimedes wieder aufleben zu lassen. Nicht nur als Schriftst¨¹ck, das einem mit dem Master-Diplom ausgeh?ndigt wird, sondern als zentraler Teil der Ausbildungs- und Forschungsprogramme an der ETH. Es braucht mehr gut ausgebildete Ingenieure, die stets verantwortungsvoll handeln, und es ist an der Zeit, ihnen in Technologieunternehmen auch f¨¹r Produktentscheidungen wieder ein gr?sseres Mitspracherecht zu geben.