Von Protokollen zu gerichtsfesten Beweisen: Nachvollziehbarkeit, Überprüfbarkeit und verhältnismäßige Beweise

Nicht alle Prompts zu speichern, macht einen Prozess nicht automatisch auditierbar. Und nichts zu speichern, kann dazu führen, dass Sie nicht mehr nachvollziehen können, was geschah, als eine wichtige Entscheidung von KI unterstützt wurde. Zwischen diesen beiden Extremen gibt es eine viel nützlichere Frage: Was müssen wir beweisen können?

Drei Worte, die man trennen sollte

• Rückverfolgbarkeit beantwortet die Frage „was geschah“.
• Verifizierbarkeit beantwortet die Frage, «welche Kontrolle wir auf ihre Ausführung überprüfen können».
• Nachweise beantworten die Frage: «Welche Elemente ermöglichen es, eine Behauptung vernünftigerweise darüber zu untermauern, was geschehen ist und warum es genehmigt wurde?»

Sie sind keine Synonyme und implizieren auch keine universelle Pflicht, alles zu protokollieren. Der konkrete Bedarf hängt vom Prozess, dem Risiko, dem anwendbaren Rahmen und dem Zweck der Aufzeichnung ab.

Mehr Logs bedeuten nicht mehr Sorgfalt

Ein System kann Tausende von technischen Ereignissen protokollieren und dennoch nicht die Informationen speichern, die eine materielle Überprüfung rekonstruierbar machen. Es kann auch ganze Unterhaltungen speichern, obwohl eine verifizierte Referenz, ein Kontrollergebnis und eine Genehmigung ausgereicht hätten. Verantwortliches Design strebt Proportionalität an: ausreichend, um zu rekonstruieren und zu überprüfen, aber ohne eine wahllose Anhäufung sensibler Informationen.

Ein Beispiel, das jeder verstehen kann

Wenn ein Fachmann KI nutzt, um eine Antwort mit juristischen Referenzen vorzubereiten, ist die Frage nicht, ob das System jeden Token gespeichert hat. Die Frage ist, ob im Bedarfsfall rekonstruiert werden kann, welche Referenzen berücksichtigt wurden, mit welcher offiziellen Quelle sie abgeglichen wurden und wer das Endergebnis genehmigt hat.

Beweismittel haben auch Kosten und einen Lebenszyklus

Zu viel zu protokollieren kann die Exposition und Komplexität erhöhen; zu wenig zu protokollieren verhindert den Nachweis, dass eine Kontrolle existierte. Jede nützliche Aufzeichnung benötigt einen Zweck, eine Zugangskontrolle und ein Aufbewahrungskriterium: Die Konversation von „wir haben Logs“ hin zu „wir können erklären, welche Kontrolle vor der Unterschrift stattfand“ zu verschieben.