Schatten KI im Healthcare-Bereich: Das unsichtbare Risiko
Künstliche Intelligenz (KI) verbreitet sich im Gesundheitswesen schneller, als Sicherheitsstrukturen mithalten können. Wer die aktuellen Risikofelder kennt, kann frühzeitig gegensteuern.
Wenn eine Pflegefachkraft eine Patientenanamnese in ChatGPT eintippt, um schneller eine Zusammenfassung zu erstellen, ist das ein Datenschutzverstoß? Rechtlich betrachtet: möglicherweise ja. In der Praxis passiert es täglich, in Kliniken und Arztpraxen, ohne dass die IT davon weiß. Dieses Phänomen trägt einen Namen: Schatten KI.
Laut dem Digital Health Report 2026 von Doctolib nutzt die Hälfte der niedergelassenen Ärzte in Deutschland bereits private KI-Tools wie ChatGPT für Dokumentationszwecke. Sie greifen dabei sogar häufiger auf nicht zertifizierte Tools zurück als ihre Angestellten. Der Widerspruch besteht darin, dass 54 Prozent der befragten Mediziner gleichzeitig Bedenken beim Datenschutz äußern. Trotzdem nutzen sie die Tools mangels genehmigter Alternativen. Auch in Kliniken und größeren Einrichtungen zeigt sich dasselbe Muster, oft mit noch größerer Tragweite.
Vier Risikofelder, die Einrichtungen kennen sollten:
1. Patientendaten verlassen das Haus unbemerkt
Das Kernproblem ist die Natur generativer KI. Sprachmodelle sind darauf ausgelegt, mit möglichst viel Kontext zu arbeiten. Klinisches Personal gibt deshalb häufig Patientennotizen, Befunddaten oder Diagnosen ein, weil die Ausgaben dadurch besser werden. Was medizinisch sinnvoll erscheint, ist datenschutzrechtlich problematisch.
Werden Patientendaten in externe cloudbasierte KI-Dienste eingepflegt, stellen sich sofort Fragen nach der Rollenverteilung, Zweckbindung und möglicher Weiterverwendung durch den Anbieter. Gesundheitsdaten fallen nach Artikel 9 der DSGVO in die besondere Kategorie sensibler personenbezogener Daten und genießen den höchsten Schutz. Ein unbemerkter Datenabfluss durch Schatten KI kann weitreichende Konsequenzen haben: DSGVO-Bußgelder, Meldepflichten gegenüber der Aufsichtsbehörde und dauerhafter Vertrauensverlust Patienten.
2. KI-Halluzinationen gefährden klinische Entscheidungen
Ein zweites, oft unterschätztes Risiko sind KI-Halluzinationen. Sprachmodelle können Informationen generieren, die plausibel klingen, aber sachlich falsch sind: erfundene Medikamentendosierungen, nicht existierende Studienergebnisse, fehlerhafte Diagnosehinweise. Im Gesundheitswesen, wo Entscheidungen unmittelbare Auswirkungen auf Patienten haben, ist das keine abstrakte Gefahr.
Besonders kritisch wird es, wenn KI-generierte Inhalte ohne menschliche Überprüfung in klinische Prozesse einfließen. Die EU-KI-Verordnung, die seit August 2025 schrittweise greift, klassifiziert KI-Systeme mit direktem Einfluss auf medizinische Entscheidungen als Hochrisikosysteme. Für diese gelten strenge Anforderungen an Transparenz, Nachvollziehbarkeit und menschliche Aufsicht. Wer heute unkontrolliert KI-Tools im klinischen Alltag einsetzt, könnte ab August 2026 in erhebliche Compliance-Schwierigkeiten geraten, wenn der Großteil der KI-Verordnung vollständig in Kraft tritt.
3. Der regulatorische Druck steigt
Das regulatorische Umfeld für KI im Gesundheitswesen hat sich 2025 und 2026
grundlegend verändert. Drei Regelwerke greifen nun gleichzeitig. Die DSGVO gilt seit jeher für die Verarbeitung von Gesundheitsdaten und stellt hohe Anforderungen an Einwilligung, Zweckbindung und technische Schutzmaßnahmen. Die EU-KI-Verordnung fügt eine weitere Ebene hinzu: Seit Februar 2025 sind bestimmte KI-Praktiken verboten, seit August 2025 gelten Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck. Ab August 2026 unterliegt der Großteil aller KI-Systeme den vollständigen Regelungen. Einrichtungen, die jetzt keine Bestandsaufnahme ihrer genutzten KI-Anwendungen machen, riskieren ab diesem Datum in offensichtlicher Nicht-Konformität zu operieren.
Hinzu kommt NIS2, die seit Ende 2025 für viele Gesundheitseinrichtungen als kritische Infrastruktur gilt und verschärfte Meldepflichten sowie Sicherheitsanforderungen mit sich bringt. Die Kombination aus DSGVO, KI-Verordnung und NIS2 erzeugt einen Compliance-Druck, der ohne strukturierte KI-Governance kaum zu bewältigen ist.
4. Interne Datenweitergabe als zentrale Schwachstelle
Im Gesundheitswesen sind interne Akteure das größte Einfallstor für Datenschutzverletzungen, und meistens steht keine böse Absicht dahinter. Häufig werden aus Zeitgründen oder zur Arbeitserleichterung sensible Informationen in KI-Anwendungen eingegeben: ein Foto eines Laborbefundes oder ein Entlassungsbrief zur sprachlichen Überarbeitung. Laut dem Netskope Threat Labs-Bericht: Gesundheitswesen 2026 bestehen 89 Prozent aller Richtlinienverstöße im Kontext von KI-Nutzung im Gesundheitswesen aus regulierten Daten wie Patientenakten und medizinischen Informationen. Dieser Wert liegt damit weit über dem branchenübergreifenden Durchschnitt von 31 Prozent und macht deutlich, wie hoch die sektorspezifische Exposition ist.
Das Risiko entsteht nicht im Rechenzentrum, sondern am Schreibtisch. Und genau dort fehlt in vielen Einrichtungen die notwendige Sensibilisierung. Seit Februar 2025 verpflichtet die EU-KI-Verordnung Arbeitgeber ausdrücklich dazu, sicherzustellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen. Diese Schulungspflicht ist kein bürokratischer Zusatz, sondern eine direkte Antwort auf das Risiko, das durch unkontrollierten KI-Einsatz entsteht.
Governance als Voraussetzung, nicht als Bremse
Die Lösung liegt nicht im Verbot von KI. Wer KI untersagt, ohne Alternativen zu schaffen, treibt die Nutzung in den Untergrund. Was stattdessen gebraucht wird, ist eine aktive KI-Governance: klare Richtlinien, welche Tools genehmigt sind und unter welchen Bedingungen. Transparenz darüber, welche Daten eine Einrichtung verlassen dürfen. Und technische Maßnahmen, die sicherstellen, dass sensible Patientendaten nicht unbemerkt in externe Systeme abfließen.
Dafür braucht es moderne Sicherheitsarchitekturen wie Zero Trust und Secure Access Service Edge (SASE). Sie schaffen die notwendige Governance-Ebene, um den Einsatz von KI sicher zu steuern, Datenflüsse zu kontrollieren und Risiken kontinuierlich zu überwachen. Einrichtungen, die KI-Governance ernst nehmen, können neue Anwendungen schneller und mit mehr Vertrauen einführen, weil die Rahmenbedingungen stimmen.
Fazit: KI-Einsatz erfordert Governance
Schatten KI im Gesundheitswesen ist kein Zukunftsszenario, sondern längst Realität. Deshalb ist die Frage nicht ob, sondern wie Einrichtungen damit umgehen. Der regulatorische Druck nimmt zu, die technischen Risiken sind real, und die Warnzeichen sind eindeutig. Wer jetzt handelt, schützt nicht nur Daten, sondern das Vertrauen, auf dem die gesamte Arzt-Patienten-Beziehung beruht.
Autor: Mathias Widler
Als Vice President Central & Eastern Europe leitet Mathias Widler die Vertriebs- und Außendienst Teams in den schnell expandierenden Märkten bei Netskope. Widler verfügt über umfangreiche Erfahrungen im Sicherheits- und Netzwerkvertrieb. Bevor er zu Netskope wechselte, war Widler u.a. erfolgreich bei Zscaler und Palo Alto Networks tätig.
