Costat fosc del transformador GPT-3
2021/03/11 Roa Zubia, Guillermo - Elhuyar Zientzia
.jpg)
Vivim en una revolució de la intel·ligència artificial, sigui conscient o no. I per això és imprescindible parlar del funcionament i benefici de la intel·ligència artificial (exemple clar és la traducció automàtica a través de xarxes neuronals). Però igual que s'esmenten els beneficis, cal esmentar els riscos.
En el camp de la intel·ligència artificial, últimament s'està complint una idea ancestral. La ciència-ficció del segle XX ha proposat amb freqüència que les màquines arribarien a fer treballs creatius. Diu robot, flama el teu ordinador… el que vulguis. Avui dia són moltes les màquines capaces d'escriure literatura o compondre música, per exemple. Millor o pitjor. Però és capaç, en certa manera, de ser creatiu. L'escriptor Isaac Asimov va ser anomenat una vegada “una màquina no intel·ligent” perquè “no és capaç d'escriure una simfonia”. I Asimov va preguntar de tornada “Tu ets capaç d'escriure una simfonia?”.
La veritat és que avui dia la intel·ligència artificial cada vegada fa millor aquestes coses. Un exemple cridaner és el programa GPT-3. Escriu. I bé, molt bé. Fa literatura, i segurament ni tu ni jo, no som capaces de distingir entre la literatura feta per un home i el GPT-3.
No obstant això, no és perfecte. Febles en l'escriptura. Ho diu el propi cap de l'OpenAI, que ha fet GPT-3. De tant en tant comet errors bojos (i qui no! ). No obstant això, és sorprenent com escriu GPT-3.
La idea és que han format el programa (en realitat, l'algorisme del GPT-3 és secret, però el seu funcionament bàsic és habitual). Està capacitat per a endevinar quin és, per dir-ho d'alguna manera, la següent paraula que trobarà a mesura que es va formant un text. Així aprèn a imitar estils. En 2017, els informàtics van inventar una tècnica denominada Trasformer per a augmentar l'eficiència en aquest aprenentatge. Són diversos els processadors que utilitzen en paral·lel per a augmentar la rapidesa (en realitat és més complicat). El nom GPT significa aproximadament “Transformador format-3” (de l'anglès Generative Pretrained Transformer) i GTP-3 és la tercera versió.
On està el risc? Perquè el seu risc és el mateix que la intel·ligència artificial en gairebé qualsevol àmbit. Si està format amb textos que no són molt apropiats en origen (per exemple, textos racistes), el GPT-3 tendirà a produir aquest tipus de textos. Llavors, és clar que cal mirar amb quin text es forma, però per a tenir un bon programa ha d'utilitzar milers de milions de textos en la formació i no tots poden ser supervisats prèviament. Assumirà i assumirà, per tant, els beneficis i perjudicis de tot el que “devora”. Per tant, els programadors han de buscar formes per a canalitzar en part aquest aprenentatge èticament. I això no és fàcil. És un gran repte per als informàtics.
Gai honi buruzko eduki gehiago
Elhuyarrek garatutako teknologia
