KI ist im ärztlichen Alltag angekommen. Wenn Ärztinnen bzw. Ärzte eine klinische Recherche durchführen, einen Befundtext strukturieren oder ein Patientengespräch vorbereiten wollen, können sie dabei heute auf eine Vielzahl von KI-Tools zur Unterstützung zurückgreifen. Sie können Zeit sparen und medizinisches Wissen schneller zugänglich machen. Sobald jedoch Angaben zu einem konkreten Fall in den Prompt oder einen Datei-Upload gelangen, stellt sich die Frage: Was geschieht mit diesen Informationen – und ist ihre Verarbeitung mit dem ärztlichen Berufsgeheimnis vereinbar?
Gastbeitrag von Dr. med. Wafa Enayati, Kardiologe, Co-CEO und Mitgründer von FOMF – Forum für medizinische Fortbildung
Die Ergebnisse einer aktuellen Umfrage von FOMF – Forum für medizinische Fortbildung unter 462 Medizinerinnen und Medizinern aus Deutschland, Österreich und der Schweiz zur KI-Nutzung im ärztlichen Alltag offenbarte eine Diskrepanz zwischen Anspruch und Realität bei der Nutzung von KI-Tools: Für 50 Prozent der Befragten waren evidenzbasierte Antworten das wichtigste Kriterium; 62 Prozent wünschten sich vor allem evidenzbasierte Unterstützung bei Diagnostik und Therapie. Demgegenüber steht die mehrheitliche Nutzung frei verfügbarer allgemeiner KI-Anwendungen: Unter den Befragten, die ein konkretes Tool nannten, entfielen 36 von 76 Nennungen auf ChatGPT. Diese Nutzung außerhalb institutionell geprüfter Prozesse wird häufig als „Schatten-KI“ bezeichnet. Sie ist nicht automatisch ein Rechtsverstoß. Sie wird aber zum Risiko, wenn patientenbezogene Daten in nicht freigegebene Systeme gelangen oder Antworten ungeprüft übernommen werden.
Wo im KI-Prozess Risiken entstehen
Das Risiko beginnt bei Eingabe und Übermittlung. Zu prüfen ist: Welche Informationen werden als Prompt, Befund, Bild oder Datei übertragen? Werden sie an Anbieter, externe Sprachmodelle oder weitere Dienstleister weitergegeben, gespeichert, protokolliert oder zum Training verwendet? Wer kann zugreifen und welche Löschfristen gelten?
Auch das bloße Weglassen des Namens macht einen Patientenfall nicht automatisch anonym. Alter, Erkrankung, Behandlungszeitpunkt, Einrichtung und Krankheitsverlauf können in Kombination eine Person identifizierbar machen. Das gilt ebenso für Bilder, Dokumente und Gesprächstranskripte.
Die ärztliche Schweigepflicht: Gesetzlich geregelt
Im Strafgesetzbuch (StGB) schützt § 203 (Verletzung von Privatgeheimnissen) das Vertrauensverhältnis zwischen ärztlichen Berufsgeheimnisträgern und ihren Patientinnen und Patienten vor „unbefugter Offenbarung anvertrauter oder bekanntgewordener Geheimnisse“. Das bedeutet konkret: Geschützt sind alle Informationen, die Ärztinnen und Ärzten im Zusammenhang mit ihrer Tätigkeit anvertraut oder bekannt werden. Dazu gehören patientenbezogene Gesundheitsdaten wie Anamnese, Befunde, Laborwerte und Medikation ebenso wie die Tatsache eines Behandlungsverhältnisses selbst. Das Berufsgeheimnis endet daher nicht am Sprechzimmer und auch nicht am Praxisserver.
Wann droht ein Verstoß? Tathandlung „Offenbaren“
Ein Verstoß gegen § 203 StGB liegt also vor, wenn Geheimnisse bzw. Informationen, die im Rahmen der ärztlichen Tätigkeit bekannt geworden sind, „offenbart“ werden. Wichtig zu wissen: Aus juristischer Sicht ist ein Offenbaren bereits dann gegeben, wenn Dritten die Möglichkeit der Kenntnisnahme verschafft wird. Dabei kommt es nicht darauf an, ob tatsächlich Kenntnis genommen wird, es genügt die bloße theoretische Zugriffsmöglichkeit. Bei der Übermittlung an einen Cloud- oder KI-Anbieter kann deshalb der theoretische Zugriff von Beschäftigten oder weiteren Dienstleistern genügen, um der Tathandlung „Offenbaren“ zu entsprechen.
Nicht jede Nutzung eines externen KI-Dienstes ist deshalb unzulässig. § 203 Abs. 3 Satz 2 StGB kann die Einbindung sonstiger mitwirkender Personen rechtfertigen, wenn ihre Unterstützung für die berufliche Tätigkeit erforderlich ist. Dazu können Cloud- oder KI-Dienste gehören. Übermittelt werden dürfen nur die Daten, die für die konkrete Leistung benötigt werden.
Die gesamte Verarbeitungskette muss zur Verschwiegenheit verpflichtet sein. Nach § 203 Abs. 4 Satz 2 Nr. 1 StGB muss der Berufsgeheimnisträger dafür Sorge tragen. Bei mehrstufigen Dienstleistern ist daher eine lückenlose Vertraulichkeitskette erforderlich. Ein geeigneter Auftragsverarbeitungsvertrag kann diese Pflicht erfüllen, ersetzt aber nicht die Prüfung des konkreten Dienstes.
Medizinische KI-Systeme, die die Anforderungen an § 203 StGB erfüllen
Aktuell steht Ärztinnen und Ärzten eine Vielzahl von KI-Systemen für klinische Dokumentation, Entscheidungsunterstützung oder Wissensrecherche zur Verfügung. Während einige davon zwar speziell für die medizinische Nutzung konzipiert wurden, ist deren Eignung im Sinne des ärztlichen Berufsgeheimnisses gemäß § 203 StGB dennoch individuell zu prüfen. Entscheidend ist, ob die konkrete Ausgestaltung Erforderlichkeit, Vertraulichkeit, Datenflüsse und Zugriffsschutz erfüllt. Das KI-basierte Informationssystem für die klinische Wissensrecherche Eviplex wurde mit dem Fokus entwickelt, den Anforderungen des § 203 StGB für ärztliche Berufsgeheimnisträger zu entsprechen. Durch Zero Data Retention, eine lückenlose Verschwiegenheitskette und weitere Maßnahmen in Zusammenarbeit mit den KI-Modell-Anbietern wird nach § 203 StGB das Berufsgeheimnis bestmöglich geschützt und dessen Einhaltung regelmäßig dokumentiert und auditiert. Zudem erfolgen Datenspeicherung und -verarbeitung ausschließlich auf zertifizierten deutschen bzw. EU-Servern. Die Nutzung von Eviplex ersetzt weder die institutionelle Prüfung noch das ärztliche Urteil.
Prüfliste vor dem Einsatz von KI-Tools in Klinik oder Praxis
Vor Freigabe bzw. Einsatz eines KI-Tools für Fragestellungen im medizinischen Kontext sollten folgende Fragen gestellt werden:
- Welchem Zweck dient die Anwendung? Recherche, Dokumentation, Administration oder patientenbezogene Fragestellung?
- Welche Daten sind erforderlich? Reichen weniger oder anonymisierte Angaben?
- Wer verarbeitet die Daten und wo? Sind Anbieter, Unterauftragnehmer, Serverstandorte und Drittlandtransfers bekannt?
- Was geschieht mit den Eingaben? Werden sie gespeichert, protokolliert, zum Training verwendet oder weitergegeben?
- Sind Verarbeitung und Vertraulichkeit abgesichert? Dazu gehören Datenschutzvereinbarungen, Geheimhaltung und eine lückenlose Verpflichtungskette.
- Ist das Tool organisatorisch freigegeben? Nötig sind Zuständigkeiten, Zugriffsschutz, Schulungen und dokumentierte Prüfung.
- Wie wird die Antwort kontrolliert? Quellen, Aktualität und Plausibilität sind zu prüfen. Die Verantwortung bleibt beim ärztlichen Personal.
- Sind die Nutzerinnen und Nutzer für den Einsatz des KI-Tools ausreichend geschult? Ärztinnen und Ärzte sollten über eine ausreichende KI-Kompetenz verfügen, die Grenzen und Fehlermöglichkeiten beim Einsatz von KI kennen und sich ihrer menschlichen Prüfpflicht bewusst sein.
Ärztinnen und Ärzte brauchen geprüfte Anwendungen und klare Regeln. Entscheidend ist, welche Information für welchen Zweck und unter welchen Bedingungen verarbeitet werden darf. Um nicht gegen den § 203 StGB zu verstoßen, lautet die Grundregel: Keine identifizierbaren Patientendaten in offene, nicht freigegebene KI-Dienste eingeben und keine KI-Antwort ungeprüft in die Versorgung übernehmen.
Forum für medizinische Fortbildung (FOMF) ►
