Nork zer erabakitzen duen: operazioaren araberako autonomia IA-giza lankidetzan

«Nahi dut IAk gauza gehiago egin ditzala bere kabuz.»

«Ez nuke utziko IA batek ezer egin zezan berrikusi gabe.»

Bi esaldiak kontrajarriak dirudite eta arazo bera partekatzen dute: autonomia tresnaren propietate global gisa tratatzen dute.

Ez da horrela. Autonomia eragiketa zehatz bati buruzko gobernu-erabaki bat da.

IA berak sarrera bat automatikoki sailkatzen lagun dezake eta, prozesu berean, erantzun bat prestatzera mugatu, pertsona batek bezeroari iritsi aurretik berrikusi beharko duena.

Galdera ez da «IA honetan fidatzen naiz?»

Galdera erabilgarriagoa da: zer efektu sor dezake eragiketa honek eta zer kontrol behar dut hura baimendu aurretik?

Bistan daude laguntzen duten faktoreak: inpaktua, efektua iraultzeko aukera, egiaztatzeko erraztasuna, informazioaren sentsibilitatea eta esku hartzeko autoritatea duen pertsona baten existentzia.

Edonork uler ditzakeen hiru gune

Lan-talde profesional batekin hitz egiteko, nahikoa da bereizketa argi bat:

• Laguntza: IAk materiala aztertu, sailkatu edo prestatzen du; erabakia pertsonak hartzen du beti.
• Giza atebidearekin prestaketa: IAk ekintza bat prest uzten du, baina kanpoko efektua onarpen esanguratsu baten menpe dago.
• Exekuzio mugatua: eragin txikiko zenbait eragiketa arauen barruan exekuta daitezke, eta gainbegiratzeko edo atzera egiteko gaitasunarekin.

Badaude ere jarduerak, beren izaeragatik edo erantzukizun profesionalagatik, automatizatu behar ez direnak. Garrantzitsua da muga hori esplizitua izatea.

«Human in the loop» ez da nahikoa etiketa gisa

Gizaki bat zirkuituan formalki egon daiteke eta ez du benetako kontrolik erabiliko bolumen gehiegi jasotzen badu, denborarik ez badu, iturrietara sartu ezin badu edo blokeatzeko gaitasun eraginkorrik ez badu. Galdera erabilgarria da giza esku-hartzeak benetan aldatzen duen erabakia: ulertzen al du zer berrikusten duen?, itzuli al dezake?, efektua geldiarazi al dezake?, froga nahikorik badu?

Autonomia eragiketaz eragiketa irabazten da eta eskalatzea bide normala da

Ez da komeni autonomia sustatzea demostrazio bat ondo atera delako. Handitzen da, hala badagokio, eragiketa zehatz batek kontrolpean portaera egonkorra erakutsi duenean eta ekonomikoki arrazoizkoa izaten jarraitzen duenean. Eta sistema serio batek aitortu behar du noiz ez den nahikoa eskuragarri dagoen autoritatea: eskalatzea ez da errore-mezu bat, baizik eta trantsizio ordenatua gaitasun nahikoa duen pertsonarengana.