Menú de algoritmos

2016/06/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

• Internet
• Softwarea

Lo que viene de hace tiempo es utilizar un algoritmo para decidir los resultados que un servicio de la web debe mostrar a los usuarios. Google utilizó desde su origen el conocido algoritmo PageRank para ordenar sus resultados, basándose en la importancia asignada a cada web. Este algoritmo fue el que caracterizó a Google de otros buscadores y lo llevó a ser todo en la actualidad. En el caso de un buscador es necesario utilizar un buen algoritmo de ordenación de resultados, ya que para el usuario sería una locura comprobar miles de resultados hasta encontrar el más adecuado.

Pero también tiene sus malas cosas. Por un lado, no podemos asegurar que no haya resultados realmente interesantes ocultos detrás de atrás. Por otro lado, los resultados que se muestran más arriba son los más leídos, siendo uno de los factores para que aparezcan en las próximas búsquedas, lo que dificulta enormemente el ascenso a resultados posteriores o a nuevos contenidos.

Después, Google comenzó a ofrecer resultados personalizados a cada usuario. Para ello tiene en cuenta nuestras búsquedas anteriores, los resultados en los que hemos clicado, etc. pero también la información de los usuarios de nuestra red social. Esto también tiene dos desventajas principales. Una, la falta de privacidad, Google guarda mucha información sobre nosotros para poder ofrecer estos resultados personalizados. El otro, que siempre esté recibiendo información de un entorno o tipo, es decir, que vivamos rodeados de una burbuja feliz definida por nosotros y nuestro entorno, sin saber qué hay fuera, fortaleciendo nuestras opiniones y debilitando el pensamiento crítico. La preocupación por este tema es cada vez mayor y prueba de ello es el éxito relativo que está teniendo el buscador de Duck, ya que el respeto a la privacidad y la exposición de los mismos resultados a todos los usuarios son sus principales reivindicaciones.

Fin de la línea de tiempo

Facebook, Twitter e Instagram, en origen, nos mostraban cronológicamente las actualizaciones de nuestros contactos, los tweets y las fotos en el llamado timeline o línea de tiempo. Pero Facebook hace unos años, Twitter en febrero de este año y Instagram en marzo de este año lo han modificado y ahora se muestran en la parte superior los que, según un algoritmo, nos parecen más interesantes para nosotros. Es posible que se dé un mejor servicio, pero también tiene los efectos negativos antes mencionados: el de la feliz burbuja, el hecho de que los autores y contenidos populares sean cada vez más populares y los marginados cada vez más marginados. Han recibido más protestas, la verdad es que somos más fáciles de aceptar que los miles de resultados de la fuente anónima de los buscadores sean filtrados por otra persona que decida sobre una lista no tan larga de nuestros amigos.

Y bueno, si los algoritmos sólo decidan nuestra lectura o búsqueda de ocio, medio mal. Pero también en los procesos críticos de nuestra vida se utilizan cada vez más procesos automáticos guiados por algoritmos. Cada vez hay menos empleados en los bancos, y los algoritmos ya deciden a quién dar créditos y a quién no. Gracias a las tarjetas de crédito, los algoritmos pueden basarse en todo nuestro historial de gastos, pero también nuestra actividad en redes sociales, nuestras relaciones… Al mismo tiempo, el algoritmo de ordenación de LinkedIn determina si nosotros somos adecuados o no para un puesto de trabajo.

Y para espiarnos, Snowden nos dio a conocer que los gobiernos espían toda nuestra actividad online, pero es imposible que toda esa información que perciben sea tratada por el ser humano, los algoritmos estudian y deciden cuál es nuestro índice de riesgo. Qué queréis decir, a mí me hace sentirme muy incómodo saber que un algoritmo decide si soy terrorista, o soy digno de crédito, o adecuado para el trabajo… Y ese miedo se convierte en una herramienta de control social que nos empuja a autocensurar la actividad en nuestra red.

La principal preocupación que nos suscitan estos algoritmos es que no sepamos cuál es su base detrás y que las empresas que los utilizan tengamos demasiados poderes en nosotros. Para mí hay otra cosa más preocupante. Hasta ahora, por lo menos en la mayoría de los casos, los algoritmos son creados por seres humanos, es decir, alguien decide qué factores tiene en cuenta el algoritmo y qué peso dar a cada uno de ellos. Y también se pueden cambiar estos pesos, introducir nuevos factores… Cuando parece que el algoritmo se ha equivocado en una determinada decisión, se puede analizar por qué ha sido y por qué ha cambiado la decisión o, si muchas veces se equivoca, cambiar el algoritmo. Pero en el anterior número de la revista, el aprendizaje automático es cada vez más utilizado para tomar decisiones en procesos complejos. En ellas, un sistema se entrena para obtener los resultados deseados para un gran número de entradas, pero el funcionamiento del sistema resultante es difuso debido a su complejidad. Es decir, la empresa creadora del algoritmo tampoco sabe con certeza por qué el algoritmo ha tomado una decisión concreta, ni cómo puede modificarla o mejorarla, si no entrena con más datos y, sin embargo, seguiría sin saber cómo funciona.

No hay duda de que en el futuro los algoritmos controlarán cada vez más nuestra vida. Trabajarán mucho y tomarán muchas decisiones en nuestro lugar y será, sin duda, muy cómodo. Pero puede llegar a un momento en el que estaremos tan acostumbrados a que las decisiones se tomen por los algoritmos y no sepamos por qué se toman esas decisiones, que no podremos plantearnos si esa es la mejor vía o decisión. Porque si el algoritmo lo ha dicho…