Keine erfundenen Befunde: Wie nachvollziehbare KI-Dokumentation funktioniert

Die größte Sorge beim Einsatz von KI in der Dokumentation ist berechtigt: Was, wenn das Modell etwas erfindet, das nie gesagt wurde? In der Medizin ist eine erfundene Angabe kein Schönheitsfehler, sondern ein Risiko.

Das Problem mit freier Textgenerierung

Allgemeine Sprachmodelle sind darauf trainiert, plausibel klingenden Text zu erzeugen. Plausibel ist aber nicht dasselbe wie korrekt. Ohne klare Bindung an die Quelle kann ein Modell Lücken „glätten“, indem es Inhalte ergänzt, die nie Teil des Gesprächs waren.

Bindung an die Quelle

Der entscheidende Mechanismus ist die Rückverknüpfung: Jede Aussage im Entwurf verweist auf die konkrete Stelle im Transkript. Gibt es dort keinen Beleg, gibt es im Entwurf keine Aussage. Das Modell darf zusammenfassen und ordnen, aber nicht hinzudichten.

• Jede Formulierung ist an eine Gesprächsstelle gebunden.
• Was nicht gesagt wurde, taucht nicht im Entwurf auf.
• Unsicheres wird markiert statt geraten.

Nachvollziehbarkeit ist kein Komfort-Feature. Sie ist die Voraussetzung dafür, dass man einer Dokumentation überhaupt vertrauen darf.

Kontrolle bleibt menschlich

Selbst die beste Quellbindung entbindet nicht von der Prüfung. Deshalb ist der Entwurf immer ein Entwurf, bis er freigegeben wird. Die Kombination aus Quellbindung und menschlicher Freigabe macht aus einem Werkzeug eine verlässliche Hilfe.