Ein Nutzer teilte auf Mastodon mit, dass sein Anbieter soeben seinen Antrag auf Korrektur akzeptiert habe – einen formellen Amendment Request, um einen sachlichen Fehler in seiner medizinischen Akte zu berichtigen. Der Fehler stammte von einem KI-gestützten Ambient-Listening-Produkt, das automatisch eine klinische Notiz generiert hatte. Der Nutzer musste diesen formellen Antrag stellen, um die fehlerhafte Information korrigieren zu lassen.
Der Post wurde mit schwerem ironischem Tonfall verfasst, deutet aber auf ein grundlegendes Problem hin: Wenn ärztliche Kontrolle der Schutzwall gegen fehlerhafte KI-Dokumentation sein soll – wie zuverlässig funktioniert dieser Schutzwall tatsächlich? Und wenn er versagt, wer schützt dann die Patienten?
Der Fall wirft mehrere unbeantwortete Fragen auf: Wie häufig enthalten KI-generierte klinische Notizen sachliche Fehler? Wie viel Zeit verwenden Ärzte tatsächlich darauf, diese Notizen zu überprüfen? Welche rechtlichen und regulatorischen Verpflichtungen bestehen, wenn solche Fehler auftreten – und wer trägt die Haftung?
Besonders bemerkenswert: Der Patient musste selbst aktiv werden, um seinen eigenen Akt zu korrigieren. Das deutet darauf hin, dass Gesundheitssysteme möglicherweise noch keine etablierten Workflows für die Behebung von KI-generierten Dokumentationsfehlern haben. Und es wirft die Frage auf, wie viele ähnliche Fehler unentdeckt bleiben, weil Patienten ihre Akten nicht überprüfen.
Der Vorfall stammt von einem einzelnen Mastodon-Post und ist daher ein Einzelfallzeugnis. Er deutet jedoch auf ein systemisches Problem hin, das Aufmerksamkeit erfordert.
