Retos e riscos da intelixencia artificial

2016/12/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

Ultimamente a intelixencia artificial é en bogas. Todas as grandes empresas tecnolóxicas de hoxe en día están inmersas en intelixencia artificial, invisten e investigan moito e sacan produtos: botas, asistentes virtuais, coches sós… Nos últimos poucos anos avanzáronse máis que en todos os anteriores da historia da informática. E prevese que no futuro avecíñanse maiores avances e cada vez máis rápidos. Pero hai quen lle preocupa.
Ed. Juxi/CC-BY-SA

Toda a historia da informática está chea de esperanzas excesivas sobre determinadas tecnoloxías, abandonos e reticencias posteriores. Así foi o procesamiento da linguaxe natural, a tradución automática, as redes neuronais, a realidade virtual… Todos eles puxéronse moi de moda. Na crenza de que o futuro estaba aí, todo o mundo pasou a traballar neles e, ao non obter os resultados esperados, quedaron totalmente descartados ata que se retomaron.

Coa creación da informática, fai 50-60 anos, fixéronse previsións moi positivas do que ía supor, especialmente no campo da intelixencia artificial. Pensábase que enseguida teriamos robots que actuarían como os humanos. Con todo, tras anos de esforzo, viuse claramente que non era tan fácil. E aínda que nunca se abandonou totalmente a intelixencia artificial, o mundo académico ha continuado coa investigación básica, as grandes empresas limitáronse a cousas máis factibles e rendibles.

Obxectivo grandes empresas

Con todo, nos últimos tempos, todas as grandes empresas tecnolóxicas empezaron a investir moito en intelixencia artificial. Todo o mundo parece ver aí o mercado e o diñeiro, e, do mesmo xeito que todo o tempo que sucede, todos metéronse nun partido paira conquistar ese mercado no futuro.

Algunhas destas empresas están a investir en vehículos autónomos. Tesla, produtora de coches eléctricos, está a facer coches cada vez máis autónomos, e o seu xefe, Elon Muskiz, anunciou recentemente que paira finais de 2017 terán na rúa un coche totalmente autónomo. Tamén son coñecidos os tests que Google está a levar a cabo con coches autónomos, co obxectivo de desenvolver un sistema integrado por outros fabricantes nun futuro non tan afastado (como ocorreu nos teléfonos con Android). E Apple tamén está a desenvolver a súa.

Outros, con todo, están a realizar asistencias virtuais ou axentes de diálogo. Son coñecidos os axudantes Google Assistant, Siri e Cortana preinstalados en teléfonos Android, iPhones e Windows respectivamente. E Amazon sacou Amazon Boto e Google Home; son dous aparellos que se instalan no salón de casa, co micrófono aceso sempre, esperando ordes de fala paira pór música ou controlar os electrodomésticos.

Doutra banda, 2016 foi o ano dos chatotazos. De feito, trátase de axentes de diálogo especializados que viven dentro doutras aplicacións ou servizos, normalmente en programas de mensaxería instantánea ou redes sociais. Así, se engadimos estes chatbots como contacto, podemos facer preguntas ou dar ordes en linguaxe natural sobre áreas especializadas (preguntar polo tempo, pedir pizzas, realizar consultas lingüísticas...) e responden como persoas. En Telegram e Twitter hai chatbots desde hai tempo e Facebook tamén o ten.

Todos eles, en maior ou menor medida, necesitan intelixencia artificial. Está claro, por tanto, que a intelixencia artificial é a tecnoloxía de moda nas empresas tecnolóxicas, e que están a investir moito niso. Grazas á capacidade das máquinas actuais, están a producirse grandes avances, e é posible que a explosión de intelixencia artificial sexa definitiva.

Preocupacións e riscos

Pero non todo é ouro. Hai inquietudes sobre o boom da intelixencia artificial que estamos a vivir na actualidade. Uno deles é que moitos investigadores pasan do mundo científico-académico ás empresas. Isto pode supor un retroceso do mundo académico no campo da intelixencia artificial, que é o que pon o coñecemento ao alcance de toda a humanidade, xa que as empresas resérvano paira si. Outro perigo é a transferencia das investigacións científicas a obxectivos comerciais ou visuais.

Algúns expertos, pola súa banda, viron o avance recente da intelixencia artificial, a capacidade de máquinas que teñen estas empresas e que cada vez máis procesos e sistemas do mundo real contrólanse a través de máquinas interconectadas, preocupados polo futuro das películas apocalípticas de ciencia ficción.

Estes expertos non son calquera. O famoso físico Stephen Hawking di textualmente: “creo que todo o desenvolvemento da intelixencia artificial pode supor o fin da humanidade; se o ser humano desenvolve a intelixencia artificial, a intelixencia artificial comezaría a actuar por si mesma e iríase redeseñando cada vez máis rápido; o home, limitando as lentas evolucións biolóxicas, non podería competir con ela e sería derrotado”. Elon Muskiz, fundador da empresa Tesla, sinalou: “espero que non só sexa o cargador biolóxico de arranque paira a superinteligencia dixital, que desgraciadamente se está convertendo en cada vez máis probable”. E o autor do libro de texto, case estándar no campo da intelixencia artificial nas dúas últimas décadas, Stuart J. Russell cre que non é prudente desenvolver a intelixencia artificial a cegas, sen pensar polo menos un pouco sobre os riscos potenciais.

Uno dos líderes de Google, Eric Schmidt, quixo escorrentar eses medos dicindo que hoxe en día non hai perigo e que os medos son absurdos. Paira iso utilizou un único argumento, eu creo que erróneo: Hawking e M non son informáticos. Ao mesmo tempo, descubriuse que un equipo de intelixencia artificial de Google estaba a investigar as formas de poder apagar as hipotéticas malas intelixencias artificiais.

Se me preguntasen, diríalles que non está mal ter polo menos un pouco de prudencia. Proba de que o risco é real, o que pasou a Microsoft co chat Tay. Paira demostrar os seus avances en intelixencia artificial, Microsoft puxo o chat Tay en Twitter paira manter conversacións naturais cos mozos. Tay aprendía das conversacións reais dos mozos, a través dunha aprendizaxe automática, e parece que aprendeu demasiado ben, xa que pronto empezou a facer comentarios racistas, sexistas, nazis e de mal gusto. Retirouse antes de 24 horas. E é que si conseguimos construír máquinas intelixentes como o home, o desastre é seguro!

Gai honi buruzko eduki gehiago

Elhuyarrek garatutako teknologia