Privacy Gateway: Wie Praxen ChatGPT DSGVO-konform nutzen können

Viele Praxen nutzen ChatGPT längst im Alltag – für Arztbriefe, für die Zusammenfassung langer Befunde, für Formulierungshilfen bei Patientenkorrespondenz. Das ist praktisch, spart Zeit und ist rechtlich hochriskant, sobald dabei auch nur ansatzweise personenbezogene oder gesundheitsbezogene Daten in die Eingabe rutschen. Genau an diesem Punkt setzt ein neuer Forschungsansatz an, der kürzlich vorgestellt wurde: das sogenannte Privacy Gateway.

Das Problem ist nicht neu, aber es wird unterschätzt

Laut einer repräsentativen Bitkom-Umfrage nutzt rund ein Drittel der Menschen in Deutschland KI-Tools wie ChatGPT mindestens einmal pro Woche – häufig, um Zeit zu sparen. Pascal Tippe, Doktorand an der Fernuniversität Hagen, weist in seiner Forschung auf ein zentrales Problem hin: Schon scheinbar harmlose Angaben können in Kombination Rückschlüsse auf die Identität einer Person zulassen. Für den medizinischen Kontext ist das keine abstrakte Gefahr, sondern Alltagsrisiko. Ein Prompt wie "Patientin, 58, aus [Kleinstadt], mit seltener Diagnose X, arbeitet als [Beruf], berichtet über..." kann in Summe re-identifizierbar sein, selbst wenn kein Name genannt wird.

Tippe beschreibt zudem, dass aus vielen einzelnen Eingaben über Zeit persönliche Profile entstehen können. Gelangen diese Daten in falsche Hände – etwa durch einen Hackerangriff auf die KI-Systeme – drohen Missbrauchsszenarien. Hinzu kommt: Eingaben dienen häufig dem weiteren Training der Modelle. Wer sensible Informationen eingibt, muss laut Tippe damit rechnen, dass sie später in anderer Form an andere Nutzer ausgegeben werden. Für Praxen, die mit besonderen Kategorien personenbezogener Daten nach Art. 9 DSGVO arbeiten, ist das ein Szenario, das man sich schlicht nicht leisten kann.

Was das Privacy Gateway technisch anders macht

Zusammen mit Masterstudent Michael Maximilian Grötzner hat Tippe einen Prototyp entwickelt, der sensible Inhalte automatisch erkennt und entfernt, bevor sie an ein KI-Sprachmodell übermittelt werden. Das Gateway fungiert dabei als Vermittler zwischen Nutzer und Sprachmodell und bewertet nicht nur einzelne Begriffe, sondern den gesamten Kontext einer Anfrage.

Der entscheidende Unterschied zu klassischen Anonymisierungstools: Es geht nicht um simples Schwärzen von Namen oder Zahlenfolgen. Die Forscher haben laut eigener Aussage ein "Codebook" erstellt, das die rechtlichen Definitionen aus Art. 4 und Art. 9 DSGVO sowie das deutsche Geschäftsgeheimnisgesetz in eine Menge an Anweisungen übersetzt. Das System kann dadurch nicht nur erkennen, sondern auch begründen, warum eine Information geschützt werden muss. Für die Praxis bedeutet das: Der Filter arbeitet nicht auf Basis starrer Muster, sondern versteht semantisch, wann eine Angabe im Zusammenspiel mit anderen Details schützenswert wird – etwa eine Kombination aus Alter, Wohnort und seltener Diagnose.

Grenzen, die man kennen sollte

Wichtig für die Einordnung: Der Prototyp ist nicht fehlerfrei. In der zugrunde liegenden Studie, bei der die Forscher die Zuverlässigkeit der Anonymisierung sowie deren Einfluss auf die Antwortqualität mit einem umfangreichen Alltagsszenarien-Datensatz untersucht haben, zeigte sich: Bei Prompts mit extrem vielen personenbezogenen Daten – etwa umfangreichen Fallbeschreibungen, wie sie im medizinischen Alltag typisch sind – lassen sich sensible Informationen nicht immer entfernen, ohne dass die Qualität der KI-Antwort leidet. Gerade komplexe Anamnesen oder differenzialdiagnostische Fragestellungen enthalten oft so viele interdependente Details, dass eine vollständige Anonymisierung die klinische Aussagekraft der Anfrage beeinträchtigen kann.

Praktische Konsequenzen für Ihre Praxis

Auch wenn das Privacy Gateway aktuell ein Forschungsprototyp ist und kein fertiges Produkt für den Praxiseinsatz: Der Ansatz zeigt eine Richtung auf, die Sie schon jetzt in Ihre internen Prozesse übernehmen sollten.

Kein Ersatz für Awareness: Auch mit künftigen Filterlösungen bleibt die Grundregel bestehen – Patientendaten gehören grundsätzlich nicht in Standard-Chatbots ohne vertragliche Absicherung (AV-Vertrag, EU-Hosting, keine Trainingsnutzung).
Pseudonymisierung vor Eingabe: Ersetzen Sie identifizierende Merkmale (Ort, Alter, Beruf, seltene Diagnosekombinationen) manuell, bevor Sie eine Anfrage formulieren – besonders bei Fällen mit geringer Fallzahl, bei denen Re-Identifikation wahrscheinlicher ist.
Technologie beobachten: Kontextbasierte Filter, die DSGVO-Kategorien tatsächlich verstehen statt nur Muster zu erkennen, sind ein vielversprechender Baustein für zukünftige, praxistaugliche KI-Dokumentationswerkzeuge. Es lohnt sich, die Entwicklung solcher Tools im Blick zu behalten, bevor man sie im Praxisalltag einsetzt.

Die Forschung von Tippe und Grötzner macht deutlich: Ein pauschales KI-Verbot ist nach ihrer eigenen Einschätzung der falsche Weg, da es erhebliche Produktivitätseinbußen nach sich ziehen würde – Menschen nutzen KI ohnehin, unabhängig davon, ob es erlaubt ist. Für Praxen heißt das im Umkehrschluss: Statt KI-Nutzung zu verbieten, sollten klare interne Leitlinien und – sobald verfügbar – geprüfte technische Schutzmechanismen etabliert werden.

Quelle: Privacy Gateway: Sensible Daten vor ChatGPT schützen – heise online