Quen decide que: autonomía por operación na colaboración IA-humano

«Quero que a IA faga máis cousas soa.»

«Eu non deixaría que unha IA fixese nada sen revisar.»

As dúas frases parecen opostas e comparten o mesmo problema: tratan a autonomía como unha propiedade global da ferramenta.

Non o é. A autonomía é unha decisión de goberno sobre unha operación concreta.

A mesma IA pode axudar a clasificar unha entrada de forma automática e, no mesmo proceso, limitarse a preparar unha resposta que unha persoa debe revisar antes de que chegue ao cliente.

A pregunta non é «confío nesta IA?»

Unha pregunta máis útil é: que efecto pode producir esta operación e que control necesito antes de permitilo?

Hai factores obvios que axudan: impacto, posibilidade de reverter o efecto, facilidade de comprobación, sensibilidade da información e existencia dunha persoa con autoridade para intervir.

Tres zonas que calquera pode entender

Para conversar cun equipo profesional abonda cunha distinción clara:

• Asistencia: a IA analiza, clasifica ou prepara material; unha persoa segue sendo quen decide.
• Preparación con comporta humana: A IA deixa lista unha acción, pero o efecto externo depende dunha aprobación significativa.
• Execución limitada: determinadas operacións de baixo impacto poden executarse dentro de regras e con capacidade de supervisión ou reversión.

Hai tamén actuacións que, pola súa natureza ou pola responsabilidade profesional, non deben automatizarse. O importante é que esa fronteira sexa explícita.

«Human in the loop» non abonda como etiqueta

Un humano pode estar formalmente no circuíto e non exercer control real se recibe demasiado volume, non dispón de tempo, non pode acceder ás fontes ou non ten capacidade efectiva de bloquear. A pregunta útil é se a intervención humana cambia de verdade a decisión: comprende que revisa?, pode devolvelo?, pode parar o efecto?, dispón de evidencia suficiente?

A autonomía gáñase por operación e escalar é unha ruta normal

Non convén promover autonomía porque unha demostración saíra ben. Auméntase, se procede, cando unha operación concreta demostrou comportamento estable baixo controis e segue sendo economicamente razoable. E un sistema serio necesita recoñecer cando a autoridade dispoñible non abonda: o escalado non é unha mensaxe de erro, senón a transición ordenada cara á persoa con competencia suficiente.