vALID: AI-Driven Decision-Making in the Clinic

Neue Publikation: „Evaluation of a clinical decision support system for detection of patients at risk after kidney transplantation“

25. Oktober 2022

In Frontiers in Public Health ist ein neuer vALID-Artikel erschienen: In „Evaluation of a clinical decision support system for detection of patients at risk after kidney transplantation“ präsentieren und diskutieren Roland Roller et al. die empirische Studie in vALID. In der Studie wurde ein auf KI-basiertes Unterstützungssystem getestet, das bei der Risikobewertung von Patienten nach einer Nierentransplantation eingesetzt werden kann. Die Ergebnisse der internen Validierung waren vielversprechend. Zum Vergleich der Leistung von Nephrologen mit und ohne dem System, wurde eine weitere Studie durchgeführt: Die Ärzte wurden gebeten das Risiko einer Abstoßung und eines Transplantatverlusts vorherzusagen, zunächst ohne und in einem zweiten Teil mit den Empfehlungen des KI-Systems. Die Studie zeigt zunächst, dass die Vorhersagen der Ärzte mit denen des Systems übereinstimmen. Die Leistung verbessert sich jedoch nicht.

 

Beginn der empirischen Studien in vALID

21. Januar 2021

Die vALID-Teilprojekte am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und der Charité Berlin haben mit den empirischen Untersuchungen in vALID begonnen. Im Zuge dieser Studien werden KlinikerInnen und PatientInnen mit Mock-up-Simulationen KI-gesteuerter klinischer Entscheidungsunterstützungssysteme konfrontiert. Das vALID-Team freut sich sehr auf die nun kommende Phase der Datenerhebung und Auswertung.

 

Neue Publikation: „Just Data? Solidarity and justice in data-driven medicine“

25. August 2020

In Life Sciences, Society and Policy ist ein neuer vALID-Artikel erschienen: In „Just Data? Solidarity and justice in data-driven medicine“ argumentieren Patrik Hummel und Matthias Braun, dass daten- und algorithmengetriebene Medizin auf Formen von Solidarität aufsetzt, gleichzeitig jedoch Ungerechtigkeiten für Individuen und Populationen erzeugen, verfestigen oder verstärken kann. Angesichts dieses Spannungsfeld schlagen die Autoren vor, Datensubjekte zu mehr Kontrolle über ihre Daten zu befähigen, und in der Governance die Effekte solcher Technologien auf individuelle Freiheitsvollzüge zu fokussieren.

 

Neue Publikation: „Contact-tracing apps: contested answers to ethical questions“

16. Juli 2020

In Nature ist eine Korrespondenz von Matthias Braun und Patrik Hummel erschienen: „Contact-tracing apps: contested answers to ethical questions“ weist auf ethische Abwägungs- und Aushandlungsprozesse rund um Tracing-Apps hin. Der Kommentar befasst sich somit nicht direkt mit KI, entfaltet jedoch Überlegungen, die sich auf eine Vielzahl von Digital-Health-Anwendungen und weitere Technologien übertragen lassen, und daher in vALID weiter berücksichtigt und vertieft werden.

 

Neue Publikation: „Own Data? Ethical Reflections on Data Ownership“

15. Juni 2020

In Philosophy & Technology ist eine neue Publikation aus vALID erschienen. In „Own Data? Ethical Reflections on Data Ownership“ gehen Patrik Hummel, Matthias Braun und Peter Dabrock der Frage nach, was die Forderung nach einem Dateneigentum bedeuten könnte, die sich unter anderem bei datengetriebenen Anwendungen in der Klinik stellt. Die Autoren weisen auf eine ganze Reihe verschiedener Anliegen hin, die unter dem Schlagwort „Dateneigentum“ verhandelt werden. Neben einer Systematisierung verschiedener Konnotationen und Verständnisse erarbeiten sie einen Interpretationsvorschlag: Forderungen nach einem Dateneigentum scheinen erstens auf die Umverteilung materieller Ressourcen und zweitens auf die Anerkennung von Datensubjekten abzuzielen.

 

Neue Publikation: „Primer on an Ethics of AI-based Decision Support Systems in the Clinic“

3. April 2020

Im Journal of Medical Ethics ist eine erste Publikation aus vALID erschienen. In ihr beschreiben Matthias Braun, Patrik Hummel, Susanne Beck und Peter Dabrock ethische und rechtliche Herausforderungen klinischer, KI-gestützter Entscheidungsfindung. Ebenso formulieren sie erste Vorschläge, wie die Leitidee einer „meaningful human control“ in solchen Kontexten verstanden werden könnte. Neben dem Artikel haben die Autoren einen Eintrag im Blog des Journal of Medical Ethics veröffentlicht. Sowohl der Artikel als auch der Blog-Post sind frei zugänglich.

 

vALID Kickoff-Meeting, Berlin

11. März 2020

Das Kickoff-Meeting von vALID fand am 11. März in Berlin statt. Im Mittelpunkt des Treffens standen neben organisatorischen Punkten bereits erste inhaltliche Fragen, die das Projektteam im Laufe der kommenden drei Jahre beleuchten wird: Welche Akteure sind an der klinischen Entscheidungsfindung wie beteiligt, wenn KI als Drittes neben ÄrztIn und PatientIn hinzutritt? Wer ist für Fehler verantwortlich? Was würde es heißen, die Black Box KI in der Klinik für AnwenderInnen und Betroffene transparent zu machen? Wie könnte in diesen Kontexten dem Ideal der vertrauenswürdigen KI in der Klinik entsprochen werden? Um diesen Fragen nachzugehen, wurden erste Hypothesen und Arbeitsschritte definiert. Das Projektteam freut sich darauf, Sie auf diesen Seiten über Entwicklungen in vALID auf dem Laufenden zu halten.

 

Pressemitteilung zum Projekt vALID

6. November 2019

Die Friedrich-Alexander-Universität Erlangen-Nürnberg informiert in einer Pressemitteilung über das neue interdisziplinäre Forschungsprojekt vALID, das ethische und rechtliche Herausforderungen beim Einsatz von künstlicher Intelligenz in der klinischen Entscheidungsfindung untersucht.