Deths registres a evidéncia defensabla: traçabilitat, verificabilitat e evidéncia proporcionau

Guardar toti es prompts non convertís automaticament un procès en auditable. E non guardar arren pòt deishar-te sense capacitat de reconstruir çò que s'amiè a tèrme quan ua decision importanta siguec assistida per IA. Entre ambdós extrèms i a ua pregunta fòrça mès util: qué necessitam poder demostrar?

Tres paraules que convien separar

• Traçabilitat respon a «qué passèc».
• Verificabilitat respon a «quin contròl podem verificar que s'executèc»
• Evidéncia respon a «quini elements permeten sostíer raonablament ua afirmacion sus çò qu'esdevinguéc e per qué s'aprovèc».

Non son sinonims e tanpòc impliquen qu'existisque ua obligacion universau de registrar tot. Era necessitat concrèta depen deth procès, deth risc, deth marc aplicable e dera finauitat deth registre.

Mès logs non significa mès diligéncia

Un sistèma pòt registrar milièrs d'eveniments tecnics e non conservar era informacion que permet reconstruir ua verificacion materiau. Tanben pòt emmagatzemar conversacions entièras quan bastaua damb ua referéncia verificada, un resultat de contròl e ua aprovacion. Eth desvolopament responsable cerque proporcionalitat: sufisent entà reconstruir e revisar, mès sense ua acumulacion indiscriminada d'informacion sensibla.

Un exemple que quauquarrés pòt compréner

S'un professionau utilize IA entà preparar ua responsa damb referéncies juridiques, era pregunta non ei se eth sistèma guardèc cada token. Era pregunta ei se, arribat eth cas, pòt reconstruir-se quines referéncies se considerèren, contra quina fònt oficiau se contrastèren e qui aprovèc eth resultat finau.

Era evidéncia tanben a còst e cicle de vida

Registrar de tròp pòt aumentar exposicion e complexitat; registrar de tròp pòc empedís demostrar qu'un contròl existie. Tot registre util necessite finauitat, contròl d'accès e critèri de conservacion: desplaçar era conversacion des de «auem logs» entà «podem explicar quin contròl s'amiè a tèrme abans de signar».