Qui decideix què: autonomia per operació en la col·laboració IA-humà

«Vull que la IA faça més coses sola.»

«Jo no deixaria que una IA fera res sense revisar.»

Les dues frases semblen oposades i comparteixen el mateix problema: tracten l'autonomia com una propietat global de la ferramenta.

No ho és. L'autonomia és una decisió de govern sobre una operació concreta.

La mateixa IA pot ajudar a classificar una entrada de forma automàtica i, en el mateix procés, limitar-se a preparar una resposta que una persona ha de revisar abans que arribe al client.

La pregunta no és «Confie en aquesta IA?»

Una pregunta més útil és: quin efecte pot produir aquesta operació i quin control necessite abans de permetre-ho?

Hi ha factors obvis que ajuden: impacte, possibilitat de revertir l'efecte, facilitat de comprovació, sensibilitat de la informació i existència d'una persona amb autoritat per a intervindre.

Tres zones que qualsevol pot entendre

Per a conversar amb un equip professional n'hi ha prou amb una distinció clara:

• Assistència: la IA analitza, classifica o prepara material; una persona continua sent qui decideix.
• Preparació amb aprovació humana: la IA deixa a punt una acció, però l'efecte extern depén d'una aprovació significativa.
• Execució limitada: determinades operacions de baix impacte poden executar-se dins de regles i amb capacitat de supervisió o reversió.

Hi ha també actuacions que, per la seua naturalesa o per la responsabilitat professional, no han d'automatitzar-se. L'important és que eixa frontera siga explícita.

«Human in the loop» no basta com a etiqueta

Un humà pot estar formalment en el circuit i no exercir control real si rep massa volum, no disposa de temps, no pot accedir a les fonts o no té capacitat efectiva de bloquejar. La pregunta útil és si la intervenció humana canvia de veritat la decisió: comprén què revisa?, pot retornar-ho?, pot parar l'efecte?, disposa d'evidència suficient?

L'autonomia es guanya per operació i escalar és una ruta normal

No convé promoure autonomia perquè una demostració haja eixit bé. S'augmenta, si escau, quan una operació concreta ha demostrat comportament estable sota controls i continua sent econòmicament raonable. I un sistema seriós necessita reconéixer quan l'autoritat disponible no basta: l'escalat no és un missatge d'error, sinó la transició ordenada cap a la persona amb competència suficient.