Estudan os rumbos cognitivos humanos da intelixencia artificial

2023/03/10 Galarraga Aiestaran, Ana - Elhuyar Zientzia Iturria: Elhuyar aldizkaria

• Berdintasuna
• Adimen artifiziala

A RIEV recompilou e analizado as evidencias dos rumbos cognitivos que aparecen nos algoritmos de intelixencia artificial para, coñecendo a súa influencia, poder tomar medidas correctoras.

De feito, é coñecido que os algoritmos de intelixencia artificial, que están nos datos, interiorizan e incrementan os rumbos, xa están a traballar na súa detección e corrección. Por exemplo, os investigadores de Orai (Elhuyar) desenvolveron unha nova técnica de corrección do rumbo da tradución automática.

Con todo, segundo os autores do artigo, os rumbos cognitivos humanos inflúen no desenvolvemento integral dos algoritmos de intelixencia artificial, e todos os partícipes, desde os investigadores até os usuarios. Así, os autores recompilaron evidencias destes rumbos e explicaron, a través de exemplos, como actúan.

En primeiro lugar, a sustituibilidad é maior canto máis se achega un individuo ao prototipo da categoría. Por exemplo, un txantxangorri ten máis posibilidades de aparecer na categoría de paxaro que un pingüín. Na intelixencia artificial este rumbo inflúe moito na fase de adestramento. Nalgunhas actividades, os homes mostraranse moito máis que as mulleres e serán máis brancos que racializados. Isto é o que provoca que os programas non estean representados, como os diagnósticos médicos.

O rumbo de recobro lévanos a lembrar e ter en conta con máis forza a información que se corresponde coas previsións ou hipóteses. En intelixencia artificial, nas probas da fase de desenvolvemento, implica aceptar os resultados que corrobora a convicción do investigador e subestimar aos demais. Os autores mencionan unha investigación en 2013 en Calikli e Bener, na que entre un 60% e un 93% das lagoas de software atópanse na súa orixe nun rumbo de reutilización.

Tamén se analiza o efecto do primeiro. Neste sentido, ao recibir información tendemos a destacar a primeira en detrimento de o que logo se recolle. As súas consecuencias son moi evidentes nas procuras en Internet. A intelixencia artificial, ademais, ao aprender das tendencias anteriores, aumenta esta influencia.

O efecto de ancoraxe lévanos a comparar a información obtida posteriormente coa que tiñamos cravada. A referencia é a que temos xarada. Tamén aquí, a intelixencia artificial herda e propaga un rumbo involuntario causado polo usuario, creando un círculo vicioso.

Por último, prodúcese unha descrición da ilusión do efecto causa. Do mesmo xeito que o anterior, o ser humano é inherente a este rumbo: se algo ocorreu despois doutra cousa, pensaremos que unha é consecuencia doutra. Isto reflícteno tamén os modelos de intelixencia artificial, que corren o risco de dar resultados erróneos.

Os autores advirten de que, aínda que as intelixencias artificiais han interiorizado os rumbos cognitivos humanos, a maioría dos usuarios considéranos obxectivos e neutrais. Por tanto, parécelles importante estar atentos para identificar os rumbos e evitar ou minimizar as súas consecuencias.