Claude in der Klinikdokumentation: Wie zuverlässig ist die KI-Kennzeichnung wirklich?
Anthropics Wasserzeichen für Claude-Texte soll die EU-Kennzeichnungspflicht erfüllen – funktioniert aber laut eigener Aussage nur „vielleicht, manchmal“. Was das für Praxen und Kliniken bedeutet, die Claude für Dokumentation oder Publikationen nutzen.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
Seit rund zwei Wochen gilt in der EU die Kennzeichnungspflicht für KI-generierte Inhalte. Anthropic hat darauf reagiert und ein Wasserzeichen für Claude-Texte eingeführt – mit erheblicher Verspätung, wie heise online kritisch anmerkt. Bemerkenswerter als die Verspätung ist aber, was Anthropic selbst über die Zuverlässigkeit des eigenen Verfahrens schreibt. In den FAQ beantwortet das Unternehmen die Frage „Was belegt ein Wasserzeichen eigentlich?“ so: Es kann nur feststellen, dass Claude „wahrscheinlich an irgendeinem Punkt mit dem Inhalt zu tun hatte“ – nicht aber, ob Claude den Text geschrieben oder nur bearbeitet hat.
Noch problematischer: Ein Tool, mit dem sich das Wasserzeichen überhaupt nachweisen ließe, existiert bislang nicht. Laut Anthropic soll „bald“ eine API zur Erkennung bereitstehen, ob sie öffentlich zugänglich sein wird, ist offen. Ein Wasserzeichen, das niemand prüfen kann, ist für jeden Nachweiszweck faktisch wertlos – das gilt für Marketingtexte genauso wie für medizinische Dokumentation.
Was das für die Praxis bedeutet – und was nicht
Bevor Sie jetzt Ihre gesamte Dokumentationssoftware infrage stellen: Nicht jede Nutzung von Claude in der Praxis oder Klinik fällt automatisch unter die EU-Kennzeichnungspflicht. Die Regelung zielt in erster Linie auf Inhalte, die veröffentlicht oder Dritten gegenüber offengelegt werden – etwa Patienteninformationen auf der Praxis-Website, öffentliche Kommunikation oder Inhalte, bei denen Nutzer im Unklaren gelassen würden, ob sie mit einem Menschen oder einer KI interagieren. Rein interne Arbeitsschritte, etwa ein KI-gestützter Entwurf eines Arztbriefs, der anschließend von Ihnen redigiert und verantwortet wird, liegen regulatorisch in einer anderen Kategorie als ein unverändert veröffentlichter KI-Text.
Genau diese Unterscheidung ist aber der Kern des Problems: Wenn selbst Anthropic zugibt, dass sein eigenes Wasserzeichen nicht zwischen „komplett KI-generiert“ und „KI-unterstützt bearbeitet“ unterscheiden kann, hilft Ihnen das Werkzeug in der Praxis nicht dabei, diese Grenze sauber zu ziehen. Sie können sich also nicht darauf verlassen, dass ein Claude-Wasserzeichen im Zweifelsfall belegt, wie ein Text entstanden ist – weder gegenüber Aufsichtsbehörden noch gegenüber Fachzeitschriften, bei denen Sie publizieren.
Wo tatsächlich Handlungsbedarf besteht
Für drei Anwendungsfälle in Praxis und Klinik ist die Frage nach verlässlicher KI-Kennzeichnung konkret relevant:
Wissenschaftliche Publikationen: Viele medizinische Fachzeitschriften verlangen inzwischen eine explizite Offenlegung, wenn KI-Tools an Manuskripten beteiligt waren. Diese Pflicht ergibt sich aus den Richtlinien der Verlage, nicht aus einem Wasserzeichen im Text – Sie müssen das selbst dokumentieren und angeben, unabhängig davon, ob Claude im Hintergrund ein technisches Signal hinterlässt oder nicht.
Patientenkommunikation und öffentliche Inhalte: Wenn Sie KI-generierte Texte für Patienteninformationen, Website-Inhalte oder Aufklärungsmaterial nutzen und veröffentlichen, sollten Sie die Nutzung selbst kennzeichnen – warten Sie nicht darauf, dass ein Anbieter-Wasserzeichen diese Aufgabe für Sie übernimmt.
Interne Qualitätssicherung und Nachweisführung: Wenn Sie im Rahmen von Datenschutz-Folgenabschätzungen oder internen Compliance-Prozessen dokumentieren müssen, welche Textbausteine KI-unterstützt entstanden sind, brauchen Sie ein eigenes, prüfbares Verfahren – etwa Protokollierung in Ihrer Praxissoftware oder klare Prozessvorgaben, wer welchen KI-Entwurf wie überarbeitet. Ein unsichtbares und derzeit nicht verifizierbares Wasserzeichen ersetzt das nicht.
Praktische Empfehlung
Klären Sie für Ihre konkreten Anwendungsfälle mit Ihrer Datenschutzbeauftragten oder Ihrem Datenschutzbeauftragten, ob und wo die EU-Kennzeichnungspflicht tatsächlich greift – pauschal „KI ausweisen“ ist meist nicht nötig, gezielt schon. Verlassen Sie sich dabei nicht auf technische Wasserzeichen einzelner Anbieter, solange diese – wie im Fall von Claude – nicht überprüfbar sind. Bauen Sie stattdessen eigene, nachvollziehbare Prozesse auf: Wer nutzt welches KI-Tool wofür, wie wird der Output redigiert und verantwortet, und wo wird das dokumentiert? Diese Eigenverantwortung ist ohnehin der zuverlässigere Weg – unabhängig davon, ob und wann Anthropic ein funktionierendes Prüf-Tool nachliefert.