IV Empirisches Teilprojekt

Die AG Digitale Nephrologie der Charité entwickelt und pflegt seit 3 Jahrzehnten eine elektronische Patientenakte aller in Berlin nierentransplantierter Patient*innen. Auf Basis dieser hochwertigen Daten ist zur Verbesserung der Versorgung mittelfristig eine Integration von Clinical Decision Support Systemen (CDSS) auf Basis von Machine Learning Algorithmen in die bestehende Informations- und Dokumentationsoberfläche geplant. Während bereits erste Studien zur Performance vom KI-Systemen im Vergleich zu Ärzt*innen in der Vorhersage klinisch relevanter Endpunkte beginnen, sind systematische Untersuchungen bezüglich der Akzeptanz solcher Systeme auf Seiten von Ärzt*innen und Patient*innen, aber auch ethischer und rechtlicher Implikationen rar. Im Rahmen von vALID werden in Zusammenarbeit mit dem DFKI verschiedene Szenarien entwickelt, welche CDSS zunehmenden Autonomiegrades und mit unterschiedlich differenzierten Erklärungsmodellen des KI-Algorithmus simulieren. Im Rahmen einer Studie mit Ärzt*innen der Transplantationsambulanz der Charité werden anhand dieser Szenarien Daten über die Chancen und Risiken, sowie zu technisch-praktischen, ethischen und juristischen Fragestellungen, die sich in dieser besonderen Mensch-KI-Interaktion ergeben, gesammelt, welche als Grundlage für eine datenbasierte, interdisziplinäre Diskussion über KI in der Medizin dienen sollen.