Averbis prüft KI-Arztbriefe automatisiert auf unbelegte Aussagen
„Hallucination Check“ gleicht generierte Texte mit der Patientenakte ab – interner Test mit 694 Aussagen erreicht 98 Prozent Fehlererkennung
Averbis hat ein Prüfmodul für KI-generierte medizinische Dokumentationen entwickelt. Der „Hallucination Check“ soll Aussagen in automatisch erstellten Arztbriefen mit den Informationen der Patientenakte abgleichen und nicht belegbare Inhalte markieren. In einem internen Test mit zwölf Arztbriefen und 94 gezielt eingebrachten Fehlern erkannte das System nach Unternehmensangaben rund 98 Prozent der Abweichungen.
Mit dem zunehmenden Einsatz generativer KI für Arztbriefe und andere klinische Dokumentationen wächst das Risiko, dass plausibel formulierte, aber nicht durch die Patientendaten belegte Aussagen übernommen werden. Das Freiburger KI-Unternehmen Averbis will deshalb die automatisierte Texterstellung um eine zusätzliche Prüfebene ergänzen.
Der „Hallucination Check“ zerlegt einen KI-generierten Arztbrief zunächst in einzelne Aussagen. Anschließend wird für jede Aussage geprüft, ob sich in der zugrunde liegenden Patientenakte ein entsprechender Beleg findet. Nicht nachvollziehbare Passagen werden für die ärztliche Prüfung gekennzeichnet. Gleichzeitig soll das System auf mögliche Lücken in der Dokumentation hinweisen können.
Test erkennt 92 von 94 gezielt eingebrachten Fehlern
Für einen internen Test untersuchte Averbis zwölf Arztbriefe mit insgesamt 694 einzelnen Aussagen. Das Unternehmen brachte gezielt 94 Fehler in die Dokumente ein und ließ anschließend geschulte Mitarbeitende bewerten, welche Abweichungen das Modul erkannte.
Nach Angaben von Averbis wurden rund 98 Prozent der eingebrachten Fehler identifiziert. Geprüft wurden unter anderem veränderte Diagnosen, falsche Medikamentendosierungen, manipulierte Laborwerte, zeitliche Inkonsistenzen, fehlerhafte Therapie- und Prozedurangaben sowie Seitenverwechslungen.
Bei den nicht erkannten Abweichungen habe es sich laut Unternehmen um medizinisch nicht relevante Veränderungen etwa bei Anamnesedetails gehandelt.
Die Ergebnisse stammen allerdings aus einem internen Test des Herstellers. Eine unabhängige klinische Validierung oder Ergebnisse aus einem routinemäßigen Einsatz des neuen Prüfmoduls werden in der Mitteilung nicht genannt.
Kontrolle generativer KI wird zur eigenen Aufgabe
Der Ansatz adressiert ein zunehmendes Problem beim Einsatz generativer KI im Krankenhaus: Auch wenn Systeme die medizinische Dokumentation beschleunigen können, müssen die erzeugten Inhalte weiterhin auf ihre Richtigkeit und ihre Übereinstimmung mit den Primärinformationen geprüft werden.
Averbis verweist dazu auf Untersuchungen, nach denen Genauigkeit und Zuverlässigkeit zu den zentralen Vorbehalten von Ärzten gegenüber generativer KI gehören. Das Prüfmodul soll deshalb nicht die ärztliche Freigabe ersetzen, sondern nachvollziehbar machen, auf welchen Informationen einzelne Aussagen beruhen und wo Unsicherheiten bestehen.
Averbis bietet mit „Medical Summary“ bereits eine Anwendung zur strukturierten Zusammenfassung medizinischer Informationen an. Nach Unternehmensangaben wird diese derzeit in drei Kliniken eingesetzt. Über eine Partnerschaft mit der Meierhofer AG besteht für rund 250 weitere Kliniken die Möglichkeit zur Integration.
