Des logs à une preuve défendable : traçabilité, vérifiabilité et preuve proportionnelle

Enregistrer tous les prompts ne transforme pas automatiquement un processus en un processus auditable. Et ne rien enregistrer peut vous priver de la capacité de reconstituer ce qui s'est passé lorsqu'une décision importante a été assistée par l'IA. Entre ces deux extrêmes, il y a une question beaucoup plus utile : que devons-nous être en mesure de démontrer ?

Trois mots qu'il convient de séparer

• Traçabilité répond à «ce qui s'est passé».
• Vérifiabilité répond à « quel contrôle pouvons-nous vérifier qui a été exécuté ».
• La preuve répond à «quels éléments permettent de soutenir raisonnablement une affirmation concernant ce qui s'est passé et pourquoi cela a été approuvé».

Ce ne sont pas des synonymes et ils n'impliquent pas non plus qu'il existe une obligation universelle d'enregistrer tout. Le besoin concret dépend du processus, du risque, du cadre applicable et de la finalité de l'enregistrement.

Plus de logs ne signifie pas plus de diligence

Un système peut enregistrer des milliers d'événements techniques et ne pas conserver les informations permettant de reconstituer une vérification matérielle. Il peut également stocker des conversations entières alors qu'une référence vérifiée, un résultat de contrôle et une approbation auraient suffi. La conception responsable vise la proportionnalité : suffisante pour reconstituer et réviser, mais sans accumulation indiscriminée d'informations sensibles.

Un exemple que n'importe qui peut comprendre

Si un professionnel utilise l'IA pour préparer une réponse avec des références juridiques, la question n'est pas de savoir si le système a enregistré chaque token. La question est de savoir si, le cas échéant, il est possible de reconstituer quelles références ont été prises en compte, avec quelle source officielle elles ont été comparées et qui a approuvé le résultat final.

La preuve a aussi un coût et un cycle de vie

Enregistrer trop peut augmenter l'exposition et la complexité ; enregistrer trop peu empêche de démontrer qu'un contrôle existait. Tout enregistrement utile nécessite une finalité, un contrôle d'accès et un critère de conservation : déplacer la conversation de « nous avons des logs » vers « nous pouvons expliquer quel contrôle a eu lieu avant de signer ».