Forschung Einfach

Datensouveränität in klinischen Big-Data-Regimes. Ethische, rechtliche und Governance-Herausforderungen (DABIGO)

(Drittmittelfinanzierte Gruppenförderung – Gesamtprojekt)

Projektleitung: Peter Dabrock, Matthias Braun, Peter Fasching
Projektstart: 1. Oktober 2017
Projektende: 30. April 2020
Akronym: DABIGO
Mittelgeber: Bundesministerium für Gesundheit (BMG)

Abstract:

DABIGO adressiert die Frage, wie der Umgang mit individuellen (Gesundheits-)Daten in Zeiten von Big-Data verantwortlich gestaltet werden kann. Ziel ist es, ethische und rechtliche Orientierungsmarker für die Entwicklung eines multidimensionalen Konzepts von Datensouveränität in klinischer Forschung und Versorgung zu entwickeln. Methodologisch wird der Konnex zu diesem Anwendungsbereich, dem Ansatz einer konkreten Ethik folgend, durch Verknüpfung der ethischen und rechtlichen Fragestellungen mit einem international führenden klinischen Case gewährleistet. Im Rahmen des PRAEGNANT-Netzwerks werden an der Frauenklinik des Universitätsklinikums Erlangen hochvolumige Datenströme zusammengebracht, mit dem Ziel, die Krebsprädiktion, -diagnose und -therapie signifikant zu verbessern.  Die Datenströme bestehen dabei sowohl aus Whole-Genome-Sequenzierungsdaten von Tumor und Keimbahn, mit einer Größe von 250-500 GB und ca. 6 Milliarden Variablen pro Patientin, als auch Lifestyle-Daten der Patientinnen und schließlich klinischen sowie epidemiologischen Daten. Die nicht-genomischen Daten beinhalten ca. 500-600 Variablen.

Genutzt wird Big-Data in dem skizzierten klinischen Case erstens, um herauszufinden, welche klinischen Studien für welche Patientin am besten geeignet sein könnten. Während dies noch mit einfachen Datenbankabfragen geschehen kann, geht es zweitens darum, die Informationen zu nutzen, um Therapieentscheidungen im klinischen Alltag zu unterstützen. Drittens konnte durch sog. deep-learning-Prozesse bereits gezeigt werden, dass gewisse Indikationsstellungen mit einer relativ hohen Zuverlässigkeit auf der Basis vorhandener Informationen durch Computeralgorithmen gestellt werden können. 

Eine der wesentlichen Governance-Herausforderungen im Umgang mit den Big-Data-getriebenen Veränderungen im Gesundheitswesen besteht darin, dass sich durch die zunehmende Komplexität und Selbsttätigkeit der Big-Data-Anwendungen die Zugriffs- und Steuerungsmöglichkeiten sowohl für die Datenspender als auch die Datennutzer im Gesundheitsbereich massiv verändern. Wie aber müssen ethische Kriterien in welchem rechtlichen Rahmen aussehen, um sowohl eine verantwortliche Nutzung der Daten zu ermöglichen als auch die möglichen Herausforderungen für die klinische Big-Data-Nutzung gleichermaßen mit Blick auf die Datenspender wie Datennutzer nachhaltig adressieren zu können?

Publikationen:

• Hummel P., Braun M., Dabrock P.:
  Data Donations As Exercises Of Sovereignty
  In: Jenny Krutzinna, Luciano Floridi (Hrsg.): The Ethics of Medical Data Donation, Cham: Springer, 2019, S. 23-54 (Philosophical Studies Series, Bd.137)
  DOI: 10.1007/978-3-030-04363-6_3
• Hummel P., Braun M., Augsberg S., Dabrock P.:
  Sovereignty and Data Sharing
  In: ITU Journal: ICT Discoveries 2 (2018)
  ISSN: 2616-8375
  Open Access: https://www.itu.int/en/journal/002/Pages/11.aspx
  URL: https://www.itu.int/en/journal/002/Documents/ITU2018-11.pdf
• Hummel P., Braun M., Dabrock P.:
  Das Gute und das Gerechte als Pole einer Ethik der daten- und algorithmengetriebenen Forschung
  In: Mathwig, F., Meireis, T., Werren, M. (Hrsg.): Zwischen Ungleichheit und Gerechtigkeit. Grundlagen und Konkretionen im Gesundheitswesen, Zürich: TVZ, 2019, S. 57-76
  ISBN: 978-3-290-18213-7
• Hummel P., Braun M., Dabrock P.:
  Own Data? Ethical Reflections on Data Ownership
  In: Philosophy & Technology (2020)
  ISSN: 2210-5433
  DOI: 10.1007/s13347-020-00404-9
  URL: https://link.springer.com/article/10.1007/s13347-020-00404-9
• Hummel P., Braun M., Tretter M., Dabrock P.:
  Data sovereignty: A review
  In: Big Data & Society (2021)
  ISSN: 2053-9517
  DOI: 10.1177/2053951720982012

Smarte Sensorik in der Schwangerschaft - Ein integratives Konzept zur digitalen, präventiven Versorgung schwangerer Frauen

(Drittmittelfinanzierte Einzelförderung)

Projektleitung: Björn Eskofier
Projektbeteiligte: Peter Fasching, Matthias Braun, Peter Dabrock, Johannes Kornhuber, Oliver Schöffski, Hanna Hübner, Dietlinde-Sara Kellner, Matthias Rübner, Stefan Gradl, Alexander Hein, Hannah Bleher, Kristina Kast, Katharina Jäger, Michael Nissen, Heike Leutheuser
Projektstart: 1. März 2020
Projektende: 31. August 2022
Laufzeitverlängerung bis: 31. Januar 2024
Akronym: SMART Start
Mittelgeber: Bundesministerium für Gesundheit (BMG)

Abstract:

Sensorische Anwendungen finden heutzutage durch moderne Technologien (v.a. Smartphone/Smart-Watch vermittelt) vielfach Einzug in den Alltag. In diesem Zuge stellt sich die Frage, inwieweit auch sensorische Messungen der regulären Schwangeren-Vorsorge (Herzfrequenz, Blutdruck, Sonografie und Kardiotokografie), die dem Standard nach in der Hand des Arztes oder der Ärztin liegen, in den Smart-Home Bereich transferiert werden und valide Ergebnisse liefern, sowie zukünftig die Klinik-besuche schwangerer Frauen reduzieren bzw. spezifizieren können. Im Fokus der Fragestellung dieses Projekts steht die klinische Usability, die gesellschaftliche Akzeptanz, die Compliance durch die betroffenen Akteure und die Weiterentwicklung dieser sensorischen Techniken im häuslichen Bereich sowie damit assoziierte ethisch/medizinrechtliche Themen.

Ziel des Projektes ist, die Vorsorge für schwangere Frauen zu optimieren und zu vereinfachen, indem sowohl bewährte als auch innovative Sensorik in die Heim-Versorgung überführt und mit künstlicher Intelligenz und maschinellem Lernen analysiert wird. In diesem Projekt werden direkte Anwendungsmöglichkeiten zur Implementierung der Smart-Sensorik geschaffen, welche die optimierte Gesundheitsbetreuung durch die Ärztin oder den Arzt, aber auch die eigene Kontrolle und Optimierung der metabolischen Aktivität durch die schwangeren Frauen ermöglicht. Als Zielgruppe sind schwangere Frauen und deren Partner/innen angesprochen, die offen sind für die gesundheitsbezogene Anwendung moderner, digitaler Medien (Smartphone, Smart-Watch etc.).

Publikationen:

• Bleher H., Hille EM.:
  Different Methods & Approaches of AI Ethics: Navigating AI Ethics to Practice
  Summer School "Artificial Intelligence, Ethics & Human Rights" (Madrid, 20. Juni 2022 - 24. Juni 2022)
  URL: https://eelisa.eu/wp-content/uploads/2022/05/220422_Summer-School-Madrid_Webauftritt_2.pdf
• Braun M., Bleher H., Hummel P.:
  A Leap of Faith: Is There a Formula for “Trustworthy” AI?
  In: Hastings Center Report 51 (2021), S. 1-6
  ISSN: 0093-0334
  DOI: 10.1002/hast.1207
  URL: https://onlinelibrary.wiley.com/doi/10.1002/hast.1207
• Bossung V., Kast K.:
  Smart Sensorik in der Schwangerschaft: Narratives Review über die Verlagerung der Schwangerschaftsvorsorge in den Smart Home Bereich

  Smart sensors in pregnancy: Narrative review on the use of smart home technology in routine prenatal care
  In: Zeitschrift für Evidenz, Fortbildung und Qualitat im Gesundheitswesen 164 (2021), S. 35-43
  ISSN: 1865-9217
  DOI: 10.1016/j.zefq.2021.05.004

• Dörflinger L., Nissen M., Jäger K., Wirth M., Titzmann A., Pontones C., Fasching P., Beckmann M., Gradl S., Eskofier B.:
  Digital Maternity Records: Motivation, Acceptance, Requirements, Usability and Prototype Evaluation of an Interface for Physicians and Midwives
  MuC '21: Mensch und Computer 2021 (Ingolstadt, 5. September 2021 - 8. September 2021)
  In: Mensch und Computer 2021 2021
  DOI: 10.1145/3473856.3473994
• Bleher H., Braun M.:
  Diffused responsibility: attributions of responsibility in the use of AI-driven clinical decision support systems
  In: AI and Ethics (2022)
  ISSN: 2730-5961
  DOI: 10.1007/s43681-022-00135-x
  URL: https://link.springer.com/content/pdf/10.1007/s43681-022-00135-x.pdf

vALID: KI-basierte Entscheidungsunterstützungssysteme in der Klinik. Ethische, rechtliche und gesellschaftliche Herausforderungen

(Drittmittelfinanzierte Gruppenförderung – Gesamtprojekt)

Projektleitung: Peter Dabrock
Projektbeteiligte: Matthias Braun, Patrik Hummel
Projektstart: 1. November 2019
Projektende: 31. Oktober 2022
Akronym: vALID
Mittelgeber: BMBF / Verbundprojekt

Abstract:

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind Anwendungen von KI im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können.

vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von ÄrtzInnen und PatientInnen umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen und internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst und verschoben werden—sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen.

Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt werden anhand dieser Mock-Ups sowie mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven und Argumentationsmuster von Patientinnen und ÄrztInnen zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst.

Während dieses Prozesses sind die Teilprojekte fortwährend methodologisch verzahnt: Die normwissenschaftlichen Teilprojekte erarbeiten einerseits den konzeptionellen Rahmen für die empirischen Untersuchungen, und nehmen andererseits deren Zwischenergebnisse in die Argumentationsgänge auf.

Auf Basis dieser Arbeiten werden die vier vALID-Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision-making erarbeiten.

Publikationen:

• Hummel P., Braun M., Dabrock P.:
  Own Data? Ethical Reflections on Data Ownership
  In: Philosophy & Technology (2020)
  ISSN: 2210-5433
  DOI: 10.1007/s13347-020-00404-9
  URL: https://link.springer.com/article/10.1007/s13347-020-00404-9
• Braun M., Hummel P.:
  Contact-tracing apps: contested answers to ethical questions
  In: Nature 583 (2020), S. 360
  ISSN: 0028-0836
  DOI: 10.1038/d41586-020-02084-z
  URL: https://www.nature.com/articles/d41586-020-02084-z