Qui decideix què: autonomia per operació en la col·laboració IA-humà

«Vull que la IA faci més coses sola.»

«Jo no deixaria que una IA fes res sense revisar.»

Les dues frases semblen oposades i comparteixen el mateix problema: tracten l'autonomia com una propietat global de l'eina.

No ho és. L'autonomia és una decisió de govern sobre una operació concreta.

La mateixa IA pot ajudar a classificar una entrada de forma automàtica i, en el mateix procés, limitar-se a preparar una resposta que una persona ha de revisar abans que arribi al client.

La pregunta no és «confio en aquesta IA?»

Una pregunta més útil és: quin efecte pot produir aquesta operació i quin control necessito abans de permetre-ho?

Hi ha factors obvis que ajuden: impacte, possibilitat de revertir l'efecte, facilitat de comprovació, sensibilitat de la informació i existència d'una persona amb autoritat per intervenir.

Tres zones que qualsevol pot entendre

Per conversar amb un equip professional n'hi ha prou amb una distinció clara:

• Assistència: la IA analitza, classifica o prepara material; una persona continua sent qui decideix.
• Preparació amb validació humana: la IA deixa llesta una acció, però l'efecte extern depèn d'una aprovació significativa.
• Execució limitada: determinades operacions de baix impacte es poden executar dins de les regles i amb capacitat de supervisió o reversió.

Hi ha també actuacions que, per la seva naturalesa o per la responsabilitat professional, no s'han d'automatitzar. L'important és que aquesta frontera sigui explícita.

«Human in the loop» no n'hi ha prou com a etiqueta

Un humà pot estar formalment en el circuit i no exercir control real si rep massa volum, no disposa de temps, no pot accedir a les fonts o no té capacitat efectiva de bloquejar. La pregunta útil és si la intervenció humana canvia de veritat la decisió: comprèn què revisa?, pot retornar-ho?, pot aturar l'efecte?, disposa d'evidència suficient?

L'autonomia es guanya per operació i escalar és una ruta normal

No convé promoure autonomia perquè una demostració hagi sortit bé. S'augmenta, si escau, quan una operació concreta ha demostrat comportament estable sota controls i continua sent econòmicament raonable. I un sistema seriós necessita reconèixer quan l'autoritat disponible no n'hi ha prou: l'escalat no és un missatge d'error, sinó la transició ordenada cap a la persona amb competència suficient.