“Posible al du gizakiak bere hutsegiteak ekidingo dituen makina adimentsu bat sortzea?”

Gorka Azkune Galparsoro

Adimen artifizialeko ikertzailea. EHU

Zein dira adimen artifizialaren benetako potentziala eta erronka nagusiak?

Adimen artifizialaren potentziala ikaragarria da. Zientziaren garapenean funtsezkoa da,  baina jada milaka lan arruntetarako ere erabiltzen dugu: posta elektroniko arriskutsuak modu automatikoan antzematetik, gure argazkiekin automatikoki albumak egiteraino. Etorkizunera begira, adimen artifizialak giza adimena gaindi dezake esparru guztietan, eta horrek potentzial handiko aukerak zabal ditzake. Ez dakit inoiz horrelakorik lortuko dugun, baina teorikoki ez legoke arrazoirik hori ez gertatzeko.

Erronka zientifikoak handiak dira, ordea. Azken urteotan lortutako aurrerapenekin ere, esango nuke adimen artifiziala oraindik hastapenetan dagoela. Gaur egungo sistemek datu batzuetatik ikasten dute, eta, ondoren, antzeko datuak emanez gero, ongi funtzionatzen dute. Baina orokortzeko gaitasun txikia daukate oraindik. Datu berriak emanez gero ez dute ongi funtzionatzen, gizakiok ez bezala. Ziur aski, gaitasun hori lortzeko, beste zenbait erronka garatu beharko dira: bestelako ikasketa-algoritmoak, memoriaren kudeaketa eta arrazoiketa sinbolikoa, besteak beste.

Zer hutsune ditu une honetan?

Gaur egungo gure sistemek hutsune-pilo bat dute. Orokortzeko gaitasun ezaz gain, badira beste hainbat arazo. Adibidez, xakean jokatzen dakien sistema batek xake-jokalari onenei gailentzeko ahalmena dauka, baina hori bakarrik egiten daki, ezin du auto bat gidatu ala sudokuak ebatzi. Gizakiok gauza asko egiteko gai gara, eta oso ongi gainera (onartzen dut baieztapen hori oso eztabaidagarria dela). Baina gure sistemak oraindik oso espezializatuak dira. Nola lortu ataza anitzeko sistemak?

Beste hutsune argi bat datuen erabileran dugu. Gaur egungo sistema onenek etiketatutako datu-multzo erraldoiak erabiltzen dituzte. Nahiz eta azken bi urteetan aurrerapenak lortu, oraindik ez dakigu nola erabili behar bezala etiketatu gabeko datuak (ikasketa ez-gainbegiratua). Ez da gauza bera argazki batzuk ikustea eta norbaitek esatea argazki bakoitzean zer dagoen, edo argazkia inongo azalpenik gabe ikustea. Bigarren kasuan, gizakiok gai gara informazio baliagarri pilo bat ikasteko. Makinak, oraindik ez.

 Zer arrisku ikusten dituzu?

Teknologia oro bezala, adimen artifiziala ongi ala gaizki erabil daiteke. Hori ez da teknologiaren arazo bat, gizakion arazo bat baizik: zertarako erabili nahi ditugu adimen artifizialean oinarritutako teknologiak? Klima-aldaketaren aurka borroka egiteko erabil ditzakegu, baina baita jendearen iritzi politikoak manipulatzeko ere. Nire ustez, legeak teknologiaren erabileraren helburua arautu beharko luke, eta ez teknologia bera. Niri ez zait axola pertsona batek zer teknologia darabilen nire iritzi politikoak manipulatzeko; axola zaidana da nire iritzi politikoak manipulatu nahi dituela, eta, beraz, horregatik zigortu beharko genuke. Horrenbestez, ez zait iruditzen adimen artifiziala beste teknologiekiko desberdina denik.

Norbaitek esan dezake: baina sistema horrek bere kasa erabakitzen badu kaltegarriak diren ekintzak gauzatzea? Aukera hori teknologikoki oso urrun dago, baina gerta litekeela pentsatuz gero, makina hori bere ekintzen jabe bada, egiten dituen ekintzen ondorioen erantzule izan beharko luke, gizakiek bezalaxe.

Ikuspegi zientifiko batetik, gehiago kezkatzen naute beste gauza batzuek. Esaterako, sistemek datuetatik eta esperientziatik ikasten dutenez, eta bai datuak bai esperientziak gure eskuetatik lortzen dituztenez, ez al ditugu gure joerak errepikatu eta hedatuko? Jada, ikusi dugu gizakiok idatzitako testuen bidez entrenatu diren sistemek joera matxistak dituztela. Ez da sistemaren akats bat, datuena baizik. Modu filosofikoagoan esanda, posible al du gizakiak bere hutsegiteak ekidingo dituen makina adimentsu bat sortzea?

“Erantzukizunak esleitu behar ditugu adimen artifizialean”

Helena Matute Greño

Psikologia Esperimentaleko Laborategiko zuzendaria. Deustuko Unibertsitatea

Zein dira adimen artifizialaren benetako potentziala eta erronka nagusiak?

Duela gutxi arte gizakionak bakarrik jotzen ziren gaitasun asko dituzte gaur egun adimen artifizialek. Joko oso intuitibo eta sormen handikoetan gizakioi irabazteko gai dira (adibidez, Go jokoan); autoak gidatzen dituzte, eta hegazkinak pilotatzen; diagnostiko medikoak egiten dituzte (arlo batzuetan, gizakiek baino hobeto); sinfoniak konposatzen dituzte; koadroak marrazten dituzte, eta lehiaketak irabazteko gai ere badira batzuetan; langile ona nor izango den hautematen dute, baita delitugile nor izango den ere; zer erosi eta zer albiste irakurri gomendatzen digute, eta Interneten joan-etorrian dabiltzan argazki eta bideo faltsuetako asko ere sortzen dituzte. Oso teknologia boteretsua da, eta teknologia indartsu guztiak bezala, kontu handiz erabili beharra dago. Gizateriaren aurrerabidea indartu dezake, baina arrisku handiak eragiteko gai ere izan daiteke.

Zer hutsune ditu une honetan?

Gaur egun, adimen artifizialek errore ugari egiten dituzte oraindik, eta kontuan izan beharreko arrisku garrantzitsu bat da hori. Haien gomendioez gehiegi fidatzeko ohitura dugu adibidez, esaten digutenean nor ez dugun kontratatu behar edo nori ez diogun espetxetik irteten utzi behar. Baina zenbaitetan huts egiten dute. Ez dugu itsu-itsuan haiengan fidatu behar.

Bada beste arazo bat: batzuetan, ez dituzte helburu gardenak, eta, askotan, ez datoz bat gure helburuekin. Hori arriskutsua izan daiteke. Egia da oraindik asko falta dela zientzia-fikzioan ageri diren makina kontzienteak lortzeko. Baina hori aitzakia gisa erabili ohi da esateko ez dagoela zertan kezkatu. Baina zenbateraino da garrantzitsua adimen artifiziala bera konturatzea edo ez konturatzea kalte egiten ari zaigula? Imajinatu makina batek nola edo hala kalte egiteko gaitasuna balu, adibidez, desberdintasunak handituz; ahulenei hipotekak ukatuz, horren arrazoiak zein diren jakinarazi gabe; aseguru mediko bat ukatuz; helduen eta haurren joera kognitiboak neurrigabe erabiliz, publizitate jakin batean klik eginarazteko eta bistaratzen dizkiguten bideo gero eta muturrekoago guzti horiek ikusarazteko… Kalte egiteko gaitasuna balu, axola beharko liguke makina hori benetan kalte egiten ari denaren jakitun izateak edo ez izateak? Bistakoa denez, ez da horren jakitun.

Gaur egun, dagoeneko, makinek kalte handia egin diezagukete; izan ere, markatu zaien helburua maximizatu beharra daukate (adibidez, enpresa baten mozkinak ahalik eta handienak izatea), eta helburu hori ez dator bat gurearekin. Gaur-gaurkoz, kontzientzia da gutxien axola behar ligukeena. Legeak sortzean axola behar diguna da zer kalte egin dezaketen.

Zer arrisku ikusten dituzu?

Kontu askori erantzun behar zaie premiaz. Bermatu behar dugu adimen artifizialek guk nahi duguna egiten dutela, eta bai gizarte gisa bultzatu nahi ditugun balioak bai pertsonak errespetatzen dituztela (adibidez, demokrazia). Funtsezkoa da, halaber, haurrak babestea. Eta, arrisku handiagoa eragin dezaketen arlo batzuekin aurrera egin baino lehen, bermatu behar dugu sistema egokiak garatzen ditugula adimen artifiziala kontrolatzeko, zibersegurtasunerako, itzaltzeko mekanismo egokiak eta abar. Halaber, erantzukizunak esleitzen ere aurrera egin behar dugu. Nori egotzi behar dizkiogu adimen artifizialek eragiten dituzten kalteen erantzukizunak? Azkenik, adimen artifizialaren erabilera jakin batzuk, hala nola etengabe zelatatzen egotea, zein kaleko eta eskoletako aurpegi-ezagutza; arma autonomoen erabilera; gizakien joerak eta ahuleziak esplotatzea... Gizarte gisa, onartu al ditzakegu adimen artifizialaz egiten diren erabilera maltzurrak? Berehala pentsatu beharra dugu zer etorkizun eraiki nahi dugun, eta horren arabera jokatzen hasi.