Föderiertes Lernen für Sprachmodelle: Ein Weg zu DSGVO-konformer KI-Zusammenarbeit zwischen Kliniken
Ein neues Framework namens Fed-MedLoRA zeigt, wie Kliniken Sprachmodelle gemeinsam trainieren können, ohne Patientendaten den eigenen Standort verlassen zu lassen.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
Wer in einer Klinik oder einem Trägerverbund über den Einsatz großer Sprachmodelle nachdenkt, stößt fast immer auf dasselbe Problem: Ein Modell, das nur mit Daten eines einzigen Hauses trainiert wurde, generalisiert schlecht auf andere Standorte – unterschiedliche Dokumentationsgewohnheiten, Patientenkollektive und Diagnosespektren sorgen dafür, dass die Performance außerhalb der Trainingsumgebung einbricht. Der naheliegende Ausweg, Daten mehrerer Häuser zusammenzuführen, scheitert in der Praxis meist an Datenschutzrecht, Governance-Strukturen und schlicht am Aufwand entsprechender Verträge. Eine aktuelle Arbeit aus Yale, der Nanyang Technological University und weiteren Institutionen adressiert genau diese Lücke mit einem föderierten, parameter-effizienten Trainingsansatz für medizinische Sprachmodelle (Nature/npj Digital Medicine).
Das Grundprinzip: Trainieren ohne Datenaustausch
Föderiertes Lernen ist kein neues Konzept – die Grundidee, dass Modelle lokal an den Daten eines Standorts trainiert werden und nur die daraus resultierenden Modell-Updates zwischen den Standorten ausgetauscht werden, existiert bereits seit Jahren. Neu an dem vorgestellten Framework Fed-MedLoRA ist die Anwendung auf große Sprachmodelle unter Nutzung sogenannter Low-Rank-Adapter (LoRA). Statt die vollständigen, oft milliardenschweren Modellgewichte zwischen den teilnehmenden Kliniken zu übertragen, tauscht das System nur kompakte Adapter-Parameter aus. Das reduziert den Kommunikationsaufwand erheblich – ein praktisch relevanter Punkt, wenn mehrere Krankenhäuser über reguläre Netzwerkverbindungen und nicht über dedizierte Hochleistungsinfrastruktur kooperieren.
Für Situationen, in denen selbst die Adapter-Updates ein Restrisiko für Rückschlüsse auf einzelne Patientendaten darstellen könnten, untersuchen die Autoren zusätzlich eine Variante mit Gaußschem Rauschen auf den übertragenen Updates – ein Ansatz aus dem Bereich Differential Privacy, der die Nachvollziehbarkeit einzelner Trainingsbeispiele weiter erschwert.
Eine Weiterentwicklung, Fed-MedLoRA+, ergänzt das Verfahren um eine adaptive Aggregationslogik. Sie soll der Tatsache Rechnung tragen, dass Kliniken sich nicht nur in Patientenpopulationen unterscheiden, sondern auch in Annotationspraxis und Krankheitsverteilung – Faktoren, die bei naiver Mittelung der Modell-Updates zu einem verwässerten, für keinen Standort optimalen Gesamtmodell führen können.
Was die Evaluation zeigt
Getestet wurde der Ansatz an der klinischen Informationsextraktion – also der Aufgabe, aus unstrukturiertem Freitext strukturierte Entitäten (z. B. Diagnosen, Medikamente) und Relationen zwischen ihnen zu extrahieren. Die Datenbasis umfasste fünf unabhängige Patientenkohorten mit insgesamt 42.198 Entitäten und 41.570 Relationen. Verglichen wurde Fed-MedLoRA mit Zero-Shot- und feingetunten Sprachmodellen, domänenspezifischen BERT-Modellen sowie anderen föderierten Baseline-Verfahren. In allen getesteten Konfigurationen verbesserte der neue Ansatz die Extraktionsgüte und generalisierte besser auf heterogene Kohorten als die Vergleichsmethoden.
Bemerkenswert ist ein Praxistest mit klinischen Notizen des Yale New Haven Health System: Hier zeigte das Framework auch unter Bedingungen eines neu hinzukommenden Standorts mit begrenzten eigenen Trainingsdaten eine robuste Leistung – ein Szenario, das dem Alltag vieler kleinerer Häuser in einem Klinikverbund entspricht, die selbst nicht über große annotierte Datensätze verfügen.
Einordnung für die Praxis
Für Kliniken in Deutschland ist der Ansatz vor allem konzeptionell relevant: Er zeigt einen technischen Weg auf, wie sich institutionsübergreifende Modellverbesserung mit dem Grundsatz der Datenminimierung nach DSGVO vereinbaren lässt, da Rohdaten den jeweiligen Standort nicht verlassen. Das ersetzt jedoch keine datenschutzrechtliche Prüfung im Einzelfall – auch Modell-Updates können unter bestimmten Bedingungen Rückschlüsse auf Trainingsdaten zulassen, weshalb die im Paper diskutierte Rausch-Variante datenschutzrechtlich relevant bleibt und im Zweifel mit der Datenschutzaufsicht abzustimmen ist.
Wer in einem Trägerverbund über gemeinsame KI-Projekte nachdenkt, sollte den Ansatz als Argumentationsgrundlage für technisch-organisatorische Maßnahmen im Sinne von Art. 32 DSGVO verstehen: Föderiertes, parameter-effizientes Training reduziert die Angriffsfläche gegenüber einer zentralen Datensammlung deutlich, macht eine Datenschutz-Folgenabschätzung aber nicht überflüssig. Bevor Häuser hier in eigene Pilotprojekte investieren, lohnt sich der Blick auf die technische Infrastruktur: Föderiertes Lernen setzt eine gewisse IT-Reife an jedem teilnehmenden Standort voraus, inklusive lokaler Rechenkapazität für das Training der Adapter und eines abgestimmten Datenmodells über alle Beteiligten hinweg.
Insgesamt handelt es sich um Grundlagenforschung mit vielversprechenden, aber noch nicht in deutschen Versorgungsstrukturen erprobten Ergebnissen. Für Praxis-Manager und IT-Verantwortliche in Kliniken ist das Thema dennoch ein guter Anlass, die eigene Datenstrategie im Hinblick auf künftige KI-Kooperationen zu überprüfen – bevor der regulatorische und technische Rahmen anderswo gesetzt wird.