Responsibility Gaps in Human Machine Interaction (ReGInA)

Zusammenfassung

Unser Konsortium untersucht die potenziellen Risiken eines überm??igen Vertrauens in Maschinen. Wir konzentrieren uns auf die Interaktion zwischen ?rzt*innen und KI-basierten Empfehlungsdiensten bei der Interpretation medizinischer Bilder für die Diagnose. Wir evaluieren das angemessene Ma? an Vertrauen, das menschliche Entscheidungstr?ger*innen ben?tigen, um von der Nutzung von KI-Systemen zu profitieren und gut informierte professionelle Entscheidungen zu treffen. Wir untersuchen ferner die kausalen Auswirkungen von institutionellen, situativen, individuellen und technologischen Parametern auf dieses Vertrauensniveau. Die Aussagekraft unserer Ergebnisse wird für eine Vielzahl von KI-Anwendungen in anderen Bereichen von Bedeutung sein und der ?ffentlichen Debatte über KI-Empfehlungsdienste eine neue Ebene hinzufügen. Im Einklang mit den Anforderungen human-zentrierter Gestaltungsprinzipien stellen wir die ?rzt*innen selbst sowie die Arzt-Patienten-Beziehung in den Mittelpunkt unserer Forschung und erforschen Designparadigmen für KI-basierte Empfehlungsdienste, die eine Kalibrierung des Vertrauens erlauben. W?hrend Strukturen und Prozesse im medizinischen Bereich zunehmend an Maschinen angepasst werden, konzentrieren wir uns stattdessen auf die Frage, inwieweit sich Empfehlungsdienste in die bestehende Struktur der Verantwortlichkeit und Rechenschaft in der ?rztlichen Praxis integrieren lassen. Dabei erg?nzen wir unseren Ansatz um die Perspektive der Organisationsethik. Damit erweitern wir die wissenschaftliche Debatte über den Einsatz von Empfehlungsdiensten im medizinischen Bereich.

Projektpartner

Prof. Dr. Alexis Fritz, Katholische Universit?t Eichst?tt-Ingolstadt

Assoziierte Projektpartner

Dr. Hendrik Hanssen, Klinikum Ingolstadt

Dr. Christof Bertram, PhD, Veterin?rmedizinische Universit?t Wien