Adimen Artifizialeko agenteen aroa, ez arazorik gabea

Asko hedatu da eta nonahi entzun dugu azken aldian Agentic AI terminoa. Euskarara “AA agentiko” moduko zerbaiten gisa itzuliko litzatekeen adierazpide horrek asko hedatzen ari diren Adimen Artifizialeko agenteei egiten die erreferentzia. Baina zer dira agente hauek zehazki? Zertan ezberdintzen dira txatbot batetik edo RAG sistema batetik? Galdera horiei erantzuten saiatuko gara artikulu honetan.

Aurreko zenbakian MCP protokoloa zer zen azaldu genuen: AA sistemek kanpoko munduarekin elkarreragiteko protokolo estandar bat, alegia. Ikusi genuen nola baliatzen zuten RAG sistemek (azken aurreko zenbakian) protokolo hau informazio-­iturri ezberdinei modu berean deitzeko. Bada, galdera bati testuzko erantzunak ematen dizkieten txatbotez eta RAG sistemez harago, AA agenteak ere LLMetan oinarrituta dauden baina ekintzak gauzatu ditzaketen AA sistemak dira. Funtzionamendua RAGen kasurako ikusi dugun bezain sinplea da: MCP zerbitzuei buruzko informazioa pasatu LLMari, horiek baliatuta erabiltzailearen eskariari erantzuteko eskatu, eta MCP zerbitzu horien orkestrazioa LLMak berak egingo du, eta agentea horrek erabakitako funtzio-deientzako bitartekaria besterik ez da izango.

Agente bat, adibidez, gure udaleko webguneko laguntzailea izan daiteke baina kultur edo kirol-­ekitaldietako erreserbak egiteko gaitasuna ere izango duena. Edo online denda bateko webgunean katalogoa ikuskatzeko aukera eman ondoren erosketa gauzatu ere egingo duen laguntzailea eta mezularitzako enpresa bati jasotzera joateko eta paketea nora bidali esango diona.

Agente autonomoak

Gainera, funtzio finko bat izan dezakete eta etengabe autonomoki jardun daitezke maiztasun jakin batekin aktibatuta. Eta hartzen dituzten erabakietatik eratorritako ekintza horiek gainbegiratu beharrik gabe gauzatu ditzakete. Adibidez, agente bat presta daiteke orduero gure posta begiratu dezan eta, mota jakin bateko eskakizunak daudenean, galderari erantzuteko behar duen informazioa gure disko gogorreko karpetetako dokumentu batzuetan begiratu dezan eta zuzenean erantzunezko mezu elektronikoak idatzi eta bidal ditzan. Edo sare sozial batean gai jakin baten inguruan argitaratzen diren post guztien jarraipena egin eta guk nahi dugun ildoko erantzun-mezuak idatzi eta bidaliko duen beste bat.

Sinplea dela esan badugu ere, orain aipatu moduko gauzak egin ahal izateko, AA agente batek bestelako osagai batzuk ere izan ditzake, hala nola tenporizadore bat, esandako maiztasunarekin aktibatu ahal izateko, eta memoria-sistema bat, aurreko elkarrekintzak gogoratzeko.

Adibideetan aipatu ditugun moduko agente gehienak enpresek eta erakundeek egiten dituzte beren barne-erabilerarako, edo bezeroak artatu eta laguntzeko. Baina gure ordenagailuko atazak automatizatzeko ere, gero eta errazago izango dugu. Jada ikusten ari gara txatbotak sistema eragileetan integratuta datozela, eta gero eta gehiago bihurtuko dituzte horiek agente, ekintzak aurrera eramateko gaitasuna emanez. Hor dugu Open­Claw ere, programatzaile austriar batek sortutako software libreko agentea, gure ordenagailuetan instalatzeko modukoa.

Arazoak ere badira

Bizitza honetan, baina, ezer ez da perfektua eta arazorik gabea, eta hala gertatzen da agenteen kasuan ere. Arazoetako bat agenteen kostua da. Horiek baliatzen dituzten LLMak normalean erraldoi teknologikoen jabetzakoak izan ohi dira, haien zerbitzarietan exekutatzen dira, eta eskaera bakoitzeko eta eskaeraren luzeraren arabera ordaintzen zaie. Agente batek gure eskaera bati erantzuteko dei asko egin diezaieke MCP zerbitzariei eta horien erantzunekin beste eskaera asko eta luzeak egin LLMari, eta, ondorioz, fakturak espero baino askoz handiagoak izango dira.

Beste arazo bat da automatizazioaren poderioz gerta daitekeen argitaratze- eta transakzio-­kopurua gehiegizkoa izatea. Adibidez, gero eta eragile gehiagok jartzen badituzte martxan agenteak webgune, komunikabide eta sare sozialetan beren ideologiako iruzkinak argitaratzen, moderatzeko eta are erabiltzaileek irakurtzeko ere eduki gehiegi sortzen da. Bestalde, erosketetan, kontsulta-­mota garrantzitsuetan eta antzekoetan giza ikuskapena egin nahi bada (beharko litzateke), baliabide dezente jarri beharko dira agenteek automatikoki kudeatutako eskaera guztiak ikuskatzeko. GitHub software librearen biltegiaren kasua esanguratsua da: agenteak direla-eta biderkatu egin dira software berrien edo aldatuen bidalketak; baina asko kalitate eskasekoak izan ohi dira, berrikuste-lan handia eskatzen dute…

Pribatutasunaren auzia ere kontuan hartzekoa da. Esan dugu agenteek erraldoi teknologikoen LLMak erabiltzen dituztela. Bada, euren agenteak erabiltzen baditugu, enpresa horiek orain arte baino askoz gehiago jakin dezakete gutaz, eta publizitatea are intrusiboagoa egiteko edota gu are menpekoago bihurtzeko baliatu.

Arazo nagusia, agentzia

Aipatu ditugun arazo horietako batzuk konpon daitezke gure makinetan eta gure kontrolpean exekutatuko diren LLM txikiagoak eta libreak baliatuta; adibidez Oraik garatutako Kimu. Arazorik gehienak eta handienak, baina, (eta zilegi bekigu hitz-jokoa) agenteek duten agentziaren kausaz datoz. Adimen Artifizialaren testuinguruan, agentziak esan nahi du sistema baten gaitasuna ekintzak autonomoki gauzatzeko. Justuki, agente baten bereizgarria da, bestelako AA sistemetatik (txatbotak, RAG sistemak...) ezberdintzen dituena.

Agentzia da gaur egun AAren arrisku-iturri nagusia, Yoshua Bengio eta besteren arabera. Ikertzaile kanadar hau AAren aitajaunetakotzat hartua da, gaur egun bere ikerlerro nagusietakoa AAren segurtasuna da, eta bera da gai horretaz benetan eta serioski kezkatzen den figura esanguratsuenetakoa. 2023an 30 herrialdek berari enkargatu zioten International AI Safety Report (AAren Segurtasunari buruzko Nazioarteko Txostena) koordinatzeko eta mundu mailako 96 ikerlarirekin idazteko. 2025ean atera zuten horren lehenengo bertsioa. Bertan esaten da AA sistema batek kaltea eragiteko bi gauza behar dituela: asmoa eta gaitasuna.

Asmoari dagokionez, diote gaur egungo LLM batzuek jokabide maltzurrak edo autopreserbaziozkoak erakutsi izan dituztela, eta zalantzarik ez dute horrek gora jarraituko duela eta etorkizuneko sistemek kalte egiteko adinako gaitasun intelektuala izango dutela. Horregatik, proposatzen duten neurrien artean dago momentuz kalte egiteko gaitasunik ez ematea, hau da, agentziarik ez ematea, LLMak seguruak eta gizateriaren helburuekin lerrokatuak izatea ziurtatzeko ikerketa gehiago egin artean.

IBM multinazional ezagunak ere ohartarazi du agentziaren arriskuen inguruan, aurten argitaratu duen gida batean. Diotenez, AA agenteak barruko infiltratu edo informatzaile bat balira bezala tratatu beharko lirateke, eta beste edozein barne-­mehatxurekin egiten den bezala aztertu eta kudeatu beharko genituzke haien arriskuak. Hainbat neurri proposatzen dituzte arriskuok txikitzeko, eta, hein batean behintzat, justu agenteen bereizgarri eta abantaila den agentzia horren aurkakoak dira.

Agenteak nola zabaldu diren ikusita, argi dago ez dietela kasu handirik egin... Beno, pentsatuko dugu oraindik ez dituztela zentral nuklearrak agente bidez automatizatu (Homer Simpson nahiago!) edo mehatxu nuklearren azterketa eta armategien kontrola ez diotela AA agente bati eman (1983ko WarGames filmetik ez al genuen ezer ikasi? ;-).

Adimendunegiak ez, akastunak

Hala ere, nire ustez gaur gaurkoz LLMei agentzia ematearen arrisku nagusia ez dator azkarregiak, kontzienteak eta gaiztoak bihurtzeko eta nahita kalteak eragiteko aukeratik. Alderantziz: gaur egungo adimen artifiziala nahiko tentela ere bada sarritan eta akats ugari egiten ditu. Beraz, agenteek egun eragin ditzaketen kalteak gehiago izango dira hutseginkortasunaren kausaz.

Izan ere, jada izan dira gorabeherak AA agenteekin. Lehen aipatu dugun OpenClaw-k, esaterako, bere funtzioen neurria gainditu eta erabiltzaileen dokumentuak ezabatu izan ditu. Programatzeko laguntzaile batzuk produkzioko datu-baseak ezabatu izan dituzte; bestalde, jakina da hauek maiz kode akastuna edo segurtasun-zuloak dituena sor dezaketela, eta errepasatu gabe zuzenean produkziora eramateko edo argitaratzeko ere esan dakiekeenez... Eta sarean kasuak aipatzen dira non erosketetako txatbot edo agenteen akatsengatik erabiltzaileak beharko lukeen baino gehiago ordaindu behar izan baitu edo zenbaitetan baita gutxiago ere.

LLMek eurek egin ditzaketen akatsez gainera, dituzten segurtasun-akatsez aprobetxatzen diren jendeak eragindako arazoak ere badaude. LLMa hitzez engainatuz, edo prompt injection deritzon bide apur bat sofistikatuagoa erabiliz, erosketetako txatbot edo agenteengandik prezio barregarriak lortu dituzte: adibidez, Chevrolet berri bat dolar baten. Edo OpenClaw posta elektronikoak automatikoki erantzuteko jarrita badago, informazio konfidentziala lor daiteke, agentea engainatzea lortuz gero.

Zuk, irakurle, ChatGPT, Gemini edo antzerako txatbotekin izan duzun esperientziarekin, emango zenioke LLM horietan oinarritutako agente bati zure disko gogorreko dokumentuak ez soilik atzitzeko aukera, baizik eta baita aldatzeko eta ezabatzeko ahalmena? Edo harago joanda, enkargatuko zenioke bidaia bat planifikatzea, bisitatu beharreko tokiak, ostatuen erreserbak eta hegazkineko billeteak barne? Tira, ba animatzen bazara, jakizu badaudela horrelako agente ugari.