Projektübersicht

Klinische Entscheidungsfindung durch Künstliche Intelligenz. Ethische, rechtliche und gesellschaftliche Herausforderungen

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind Anwendungen von KI im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. Es untersucht, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst und verschoben werden—sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Eine der Hypothesen von vALID ist dabei: Die Grundbegriffe unseres normativen und bioethischen Instrumentariums sind von Bedeutungsverschiebungen betroffen. Und zwar: Je nach Einbettung der in Entscheidungsprozesse werden die Interaktionsmodi der beteiligten Akteure unterschiedlich verändert. vALID untersucht deswegen folgende Problemstellungen: Welche Akteure sind an der klinischen Entscheidungsfindung wie beteiligt, wenn KI als Drittes neben ÄrztIn und PatientIn hinzutritt? Wer ist für Fehler verantwortlich? Was würde es heißen, die Black Box KI in der Klinik für AnwenderInnen und Betroffene transparent zu machen? Wie könnte in diesen Kontexten dem Ideal der vertrauenswürdigen KI in der Klinik entsprochen werden?

Die Analyse basiert auf einer empirischen Fallstudie, welche anhand von Mock-up-Simulationen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch die Einstellung von Ärzten und Patienten zu einer Bandbreite von Designs und Implementierungen erfasst. Ziel ist schließlich die Erarbeitung von interdisziplinären Handlungsempfehlungen für Systemdesign, Regulierung und Implementierung KI-gestützer klinischer Systeme, die Prozesse nicht nur optimieren, sondern ÄrztInnen- und PatientInnensouveränität beim Einsatz dieser Technologie in den Mittelpunkt rücken.