Menú de algoritmos

2016/06/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

• Internet
• Softwarea

O que vén de hai tempo é utilizar un algoritmo paira decidir os resultados que un servizo da web debe mostrar aos usuarios. Google utilizou desde a súa orixe o coñecido algoritmo PageRank paira ordenar os seus resultados, baseándose na importancia asignada a cada web. Este algoritmo foi o que caracterizou a Google doutros buscadores e levouno a ser todo na actualidade. No caso dun buscador é necesario utilizar un bo algoritmo de ordenación de resultados, xa que paira o usuario sería una tolemia comprobar miles de resultados até atopar o máis adecuado.

Pero tamén ten as súas malas cousas. Por unha banda, non podemos asegurar que non haxa resultados realmente interesantes ocultos detrás de atrás. Doutra banda, os resultados que se mostran máis arriba son os máis lidos, sendo un dos factores para que aparezan nas próximas procuras, o que dificulta enormemente o ascenso a resultados posteriores ou a novos contidos.

Despois, Google comezou a ofrecer resultados personalizados a cada usuario. Paira iso ten en conta as nosas procuras anteriores, os resultados nos que habemos clicado, etc. pero tamén a información dos usuarios da nosa rede social. Isto tamén ten dúas desvantaxes principais. Una, a falta de privacidade, Google garda moita información sobre nós paira poder ofrecer estes resultados personalizados. O outro, que sempre estea a recibir información dunha contorna ou tipo, é dicir, que vivamos rodeados dunha burbulla feliz definida por nós e a nosa contorna, sen saber que hai fóra, fortalecendo as nosas opinións e debilitando o pensamento crítico. A preocupación por este tema é cada vez maior e proba diso é o éxito relativo que está a ter o buscador de Duck, xa que o respecto á privacidade e a exposición dos mesmos resultados a todos os usuarios son as súas principais reivindicacións.

Fin da liña de tempo

Facebook, Twitter e Instagram, en orixe, mostrábannos cronoloxicamente as actualizacións dos nosos contactos, os tweets e as fotos no chamado timeline ou liña de tempo. Pero Facebook hai uns anos, Twitter en febreiro deste ano e Instagram en marzo deste ano modificárono e agora móstranse na parte superior os que, segundo un algoritmo, parécennos máis interesantes paira nós. É posible que se dea un mellor servizo, pero tamén ten os efectos negativos antes mencionados: o da feliz burbulla, o feito de que os autores e contidos populares sexan cada vez máis populares e os marxinados cada vez máis marxinados. Recibiron máis protestas, a verdade é que somos máis fáciles de aceptar que os miles de resultados da fonte anónima dos buscadores sexan filtrados por outra persoa que decida sobre una lista non tan larga dos nosos amigos.

E bo, se os algoritmos só decidan a nosa lectura ou procura de lecer, medio mal. Pero tamén nos procesos críticos da nosa vida utilízanse cada vez máis procesos automáticos guiados por algoritmos. Cada vez hai menos empregados nos bancos, e os algoritmos xa deciden a quen dar créditos e a quen non. Grazas aos cartóns de crédito, os algoritmos poden basearse en todo o noso historial de gastos, pero tamén a nosa actividade en redes sociais, as nosas relacións… Ao mesmo tempo, o algoritmo de ordenación de LinkedIn determina se nós somos adecuados ou non paira un posto de traballo.

E paira espiarnos, Snowden deunos a coñecer que os gobernos espían toda a nosa actividade online, pero é imposible que toda esa información que perciben sexa tratada polo ser humano, os algoritmos estudan e deciden cal é o noso índice de risco. Que queredes dicir, a min faime sentirme moi incómodo saber que un algoritmo decide si son terrorista, ou son digno de crédito, ou adecuado paira o traballo… E ese medo convértese nunha ferramenta de control social que nos empuxa a autocensurar a actividade na nosa rede.

A principal preocupación que nos suscitan estes algoritmos é que non saibamos cal é a súa base detrás e que as empresas que os utilizan teñamos demasiados poderes en nós. Paira min hai outra cousa máis preocupante. Até agora, polo menos na maioría dos casos, os algoritmos son creados por seres humanos, é dicir, alguén decide que factores ten en conta o algoritmo e que peso dar a cada un deles. E tamén se poden cambiar estes pesos, introducir novos factores… Cando parece que o algoritmo equivocouse nunha determinada decisión, pódese analizar por que foi e por que cambiou a decisión ou, se moitas veces equivócase, cambiar o algoritmo. Pero no anterior número da revista, a aprendizaxe automática é cada vez máis utilizado paira tomar decisións en procesos complexos. Nelas, un sistema adéstrase paira obter os resultados desexados paira un gran número de entradas, pero o funcionamento do sistema resultante é difuso debido á súa complexidade. É dicir, a empresa creadora do algoritmo tampouco sabe con certeza por que o algoritmo tomou una decisión concreta, nin como pode modificala ou mellorala, se non adestra con máis datos e, con todo, seguiría sen saber como funciona.

Non hai dúbida de que no futuro os algoritmos controlarán cada vez máis nosa vida. Traballarán moito e tomarán moitas decisións no noso lugar e será, sen dúbida, moi cómodo. Pero pode chegar a un momento no que estaremos tan afeitos a que as decisións se tomen polos algoritmos e non saibamos por que se toman esas decisións, que non poderemos expornos se esa é a mellor vía ou decisión. Porque se o algoritmo díxoo…