Doctolib will unsere Gesundheitsdaten für KI-Forschung nutzen – Verbände sind empört

Wären Sie bereit, einer künstlichen Intelligenz die Auswertung Ihrer sensiblen Gesundheitsdaten zu überlassen? Genau das plant Doctolib ab August – also praktisch schon morgen.

Die Plattform will sämtliche Daten ihrer 60 Millionen Nutzerinnen und Nutzer auswerten lassen: Termine, Verordnungen, Laborergebnisse, Medikamente – alle Informationen zu Ihrer Gesundheit sollen einer KI für Analysen bereitgestellt werden. Die Arbeiten sollen gemeinsam von Wissenschaftlerinnen und Wissenschaftlern des Inria, des Inserm, der Université Paris Cité und Doctolib durchgeführt werden. Damit soll die medizinische Forschung vorangebracht und zugleich Gesundheitsrisiken sowie Notfallsituationen früher erkannt werden.

Doctolib, Gesundheitsdaten und KI-Forschung

Über das Vorhaben wurden die Nutzerinnen und Nutzer Anfang Juli per E-Mail informiert. Die etwas vage formulierte Nachricht trug den Titel „Doctolib engagiert sich in der Forschung, um die Gesundheit zu verbessern“. Ein Versand während der Ferienzeit, wenn E-Mail-Postfächer häufig weniger aufmerksam geprüft werden, wirkt zumindest bemerkenswert:

„Ab August 2026 arbeiten wir mit einem Forschungsteam zusammen, das drei führenden französischen Wissenschaftseinrichtungen angehört (Inria, Inserm und Université Paris Cité), und zwar im Rahmen des Forschungsprojekts „Versorgungspfade mithilfe künstlicher Intelligenz verbessern“. Termine, die sich häufen, mehrere Ärztinnen und Ärzte, die koordiniert werden müssen … Für zu viele Patientinnen und Patienten gleicht eine Behandlung manchmal einem Hindernislauf. Das wollen wir ändern, indem wir bestimmte Gesundheitsrisiken früher erkennen und die Versorgung der Patientinnen und Patienten verbessern.“

Verbände laufen Sturm

Zwar versichert Doctolib, dass alle Daten anonymisiert würden, doch dieses Vorgehen wirft zahlreiche Fragen auf. Eine davon betrifft die Speicherung und Nutzung dieser Daten. Nach Angaben der Plattform sollen sie höchstens fünf Jahre aufbewahrt sowie verschlüsselt und geschützt werden. Doch wo und unter welchen Bedingungen geschieht das? Genau das zählt zu den Sorgen der LDH, die sich in einer Mitteilung deutlich gegen das Projekt wendet. Der Verband weist darauf hin, dass Doctolib Kunde von Amazon ist, einem US-Unternehmen, das den Gesetzen seines Heimatlands unterliegt:

„Die LDH erinnert daran, dass die frühere Kritik und die Rechtsmittel gegen die Nutzung von Servern im Eigentum von Amazon Web Services durch Doctolib, die weiterhin dem Cloud Act unterliegen (einem Gesetz, das US-Behörden erlaubt, amerikanische Anbieter digitaler Dienste zur Herausgabe von Daten zu verpflichten), die Verdachtsmomente einer Zusammenarbeit mit US-Unternehmen und der Kontext eines autoritären Abdriftens in den USA weiterhin aktuell sind.“

Auch die grundsätzliche Datensicherheit bereitet dem Verband Sorgen, gerade weil immer mehr Institutionen Opfer von Hackerangriffen werden:

„Die Zunahme von Cyberangriffen und Datendiebstählen (insbesondere die 33 Millionen Französinnen und Franzosen, die vom Hack der Zusatzversicherungen Viamedis und Almerys betroffen waren) kann die Befürchtungen nur verstärken.“

Darüber hinaus zweifelt die LDH an der Wirksamkeit der Anonymisierung und befürchtet Folgen, die diese Forschung im Alltag von Patientinnen und Patienten haben könnte:

„Die LDH unterstreicht, dass Gesundheitsdaten sensible Daten darstellen und die tiefste Privatsphäre eines Menschen berühren. Da sie diagnostische Elemente, medizinische Behandlungen und Gesundheitsverläufe erfassen, bergen sie ein nicht unerhebliches Risiko von Stigmatisierung, Diskriminierung und missbräuchlichem Profiling.“

Wie lassen sich medizinische Daten schützen?

Für seine KI-Forschung hat Doctolib ein „Opt-out“-Verfahren gewählt. Das bedeutet: Grundsätzlich gelten alle Nutzerinnen und Nutzer als einverstanden, ihre Informationen bereitzustellen – auch dann, wenn sie davon nichts wissen. Wer nicht in der Datenbank erscheinen möchte, muss ausdrücklich widersprechen. Problematisch ist dabei, dass dieser Hinweis ganz am Ende der vor einigen Wochen versendeten E-Mail steht.

Wer seine Daten keiner KI zur Verfügung stellen möchte, findet bei Doctolib ein dafür vorgesehenes Formular. Eine Anmeldung im eigenen Konto ist nicht erforderlich: Es genügt, Vorname, Nachname und Geburtsdatum anzugeben. Auch nachträglich kann die Löschung der Daten aus dem Programm beantragt werden, indem eine E-Mail an [email protected] geschickt wird.

Doctolibs Stellungnahme zum KI-Programm

Dass Doctolib dieses KI-Programm mitten im Sommer einführt, ohne die ausdrückliche Zustimmung der Nutzerinnen und Nutzer einzuholen, und dabei mit einer recht unklaren E-Mail informiert, macht es nicht gerade leicht, dem Unternehmen die eigenen Daten vertrauensvoll zu überlassen.

Nach unserem Artikel reagierte Doctolib:

Diese Arbeiten fallen unter Forschung im öffentlichen Interesse – genau jene Forschung, die die Methodik MR-004 der CNIL regeln und fördern soll: die Versorgung, Prävention und den Zugang zur Gesundheitsversorgung zum Nutzen der Patientinnen und Patienten sowie der Allgemeinheit voranzubringen. Dieser Zweck des Allgemeininteresses bildet die Grundlage des Rahmens, in dem wir tätig sind.

Diese Forschung ist keineswegs neu: Das öffentliche Verzeichnis des Health Data Hub führt mehr als 10.000 unterschiedliche Projekte auf, die im Rahmen der Methodik MR-004 registriert wurden; das erste stammt vom 16. Juli 2018. Dieser Rahmen wird täglich von Krankenhäusern und großen öffentlichen Forschungskohorten in Frankreich angewendet. Es gibt eine Herausforderung, zu der wir uneingeschränkt stehen: Die Medizin von morgen wird auf KI-Modellen im Gesundheitsbereich beruhen, und diese Modelle werden heute überwiegend außerhalb Europas entwickelt – auf Daten, die nicht unsere eigenen sind. Indem wir diese Forschung in Frankreich mit öffentlichen und akademischen französischen Partnern durchführen, innerhalb eines von der CNIL festgelegten Rahmens, der zu den strengsten in Europa zählt, tragen wir dazu bei, dass unser Land über eigene Werkzeuge verfügt. Diese sollen zu seiner Bevölkerung und seinem Gesundheitssystem passen, statt dass es von anderen abhängig ist. Es geht dabei ebenso um die Qualität der Versorgung wie um Souveränität.