Dai log all'evidenza difendibile: tracciabilità, verificabilità ed evidenza proporzionale

Salvare tutti i prompt non rende automaticamente un processo verificabile. E non salvare nulla può lasciarti senza la capacità di ricostruire cosa è successo quando una decisione importante è stata assistita dall'IA. Tra questi due estremi c'è una domanda molto più utile: cosa dobbiamo essere in grado di dimostrare?

Tre parole che conviene separare

• Tracciabilità risponde a «cosa è successo».
• Verificabilità risponde a «quale controllo possiamo verificare che sia stato eseguito».
• Evidenza risponde a «quali elementi permettono di sostenere ragionevolmente un'affermazione su ciò che è accaduto e perché è stato approvato».

Non sono sinonimi e nemmeno implicano che esista un obbligo universale di registrare tutto. La necessità concreta dipende dal processo, dal rischio, dal quadro applicabile e dalla finalità della registrazione.

Più log non significa più diligenza

Un sistema può registrare migliaia di eventi tecnici e non conservare le informazioni che permettono di ricostruire una verifica materiale. Può anche archiviare intere conversazioni quando bastava un riferimento verificato, un risultato di controllo e un'approvazione. Il design responsabile cerca la proporzionalità: sufficiente per ricostruire e rivedere, ma senza un'accumulazione indiscriminata di informazioni sensibili.

Un esempio che chiunque può capire

Se un professionista utilizza l'IA per preparare una risposta con riferimenti giuridici, la domanda non è se il sistema ha salvato ogni token. La domanda è se, in caso di necessità, si può ricostruire quali riferimenti sono stati considerati, contro quale fonte ufficiale sono stati confrontati e chi ha approvato il risultato finale.

L'evidenza ha anche un costo e un ciclo di vita

Registrare troppo può aumentare l'esposizione e la complessità; registrare troppo poco impedisce di dimostrare che un controllo esisteva. Ogni registrazione utile necessita di finalità, controllo di accesso e criterio di conservazione: spostare la conversazione da «abbiamo i log» a «possiamo spiegare quale controllo è avvenuto prima di firmare».