“É imprescindible debater e reflexionar sobre a intelixencia artificial”
Bernhard Schölkopf é coñecido no mundo da investigación sobre a intelixencia artificial. Entre outros, é co-director do Instituto de Sistemas Intelixentes Max Planck (en concreto, lidera o Departamento de Inferencias Experimentais) e traballa noutros centros e institucións. As súas investigacións recibiron un gran eco e recoñecemento, entre eles, un dos premios BBVA 2020 “Fronteiras do Coñecemento” polo desenvolvemento de métodos kernel. O diálogo comeza cunha pregunta sobre eles, pero a continuación abórdanse outros temas: exoplanetas, accesibilidade, sustentabilidade, investigación militar, filosofía, transparencia da ciencia e participación social…
É especialista en aprendizaxe automática, especialmente en métodos de kernel ou causalidad. Que traballaches neste campo?
Os métodos Kernel son un campo de aprendizaxe automática. En realidade, son métodos de aprendizaxe de normas, dependencias ou relacións a partir das observacións, e son especiais, xa que están conectados a diferentes campos das matemáticas: análise funcional, teoría da optimización… Así, proporcionan unha forma bonita e elegante de aprender regras a partir de datos, e poden ser utilizados en campos tan diversos como o medicamento ou a industria. Son útiles non só para coñecer as relacións existentes entre os datos, senón para ir máis aló e detectar a causalidad. Por tanto, a aprendizaxe vai un nivel máis profundo que o automático.
Unha das aplicacións talvez non sexa a primeira que se nos ocorra. En concreto, utilizouno na detección de exoplanetas. Como foi?
Ben. Estaba a pasar un ano sabático coa miña familia en Nova York e empecei a falar con astrónomos. A partir dos datos recolleitos polo telescopio espacial Kepler, dixéronme que tiñan un problema para detectar exoplanetas. De feito, para detectar exoplanetas, ao pasar por diante da súa estrela, baseábanse na perda de luminosidade da estrela. Pero esta perda é moi pequena e é difícil distinguila do ruído que produce a propia observación. Este ruído e os fallos do telescopio pódense deducir dos datos doutras estrelas, e aproveitámolo.
Con iso, en poucos anos atopouse o carné 20-30 exoplapis que posteriormente se confirmou por outros métodos. E, pouco despois, confirmouse, ademais, que unha delas atopábase a unha distancia vivente da súa estrela. Isto significa que se atopaba a unha distancia que permitise o acceso á auga líquida. O primeiro exoplaneta que se detectou foi habitable.
En que outros ámbitos pódese aplicar?Por
defecto, en todas as áreas nas que se poden realizar observacións experimentais. É necesario, por unha banda, que existan moitos datos, moitas medicións e, por outro, que haxa relacións entre as diferentes observacións. Por exemplo, podemos relacionar as medidas dun biomarcador co risco de ter un tumor, e podemos saber si ese bi-mar pode predicir un tumor antes de detectalo. É dicir, unha regra que se deduce dos datos, mesmo cando é difícil para unha persoa, detectala.
Á parte dos métodos de Kernel, cales cres que serán os principais desenvolvementos da intelixencia artificial?
Agora mesmo un dos campos máis excitantes é o procesamiento da linguaxe natural (NLP). Fai 20 ou 10 anos, realizáronse moitos estudos sobre a visión computacional: como coñecer obxectos, ou como distinguir coches e peóns… por exemplo, para desenvolver coches automáticos. Nos últimos 10 anos producíronse grandes avances na análise da linguaxe e na predición de textos. De súpeto, os programas son capaces de producir textos. Isto creou asombro e fascinación, e creo que nos próximos anos vai ter un gran desenvolvemento.
Como podemos garantir que os beneficios dos sistemas de intelixencia artificial cheguen a todos?O primeiro
paso para que os beneficios dos sistemas de intelixencia artificial sexan o máis alcanzables posible é a publicación da investigación. Non só describir métodos nunha revista científica, senón tamén publicar o código. É máis, tamén os datos que se utilizaron para adestrar este código.
Con todo, non é unha cuestión de pouca sonada. Por exemplo, en medicamento, os datos non se poden facer públicos de calquera xeito. Ou, noutro aspecto, quizá non sexa conveniente, xa que existe o risco de que se usen de maneira malintencionada. Pero, en xeral, si queremos que sexa beneficioso para o maior número de persoas e de sociedades, creo que a investigación debe ser o máis transparente posible.
A intelixencia artificial tamén pode xerar problemas noutros ámbitos, como o medio ambienteÉ
certo que para adestrar programas de intelixencia artificial fai falta moita enerxía, e esa enerxía consome moitos recursos. E os centros de investigación non sempre están no lugar máis axeitado desde o punto de vista da sustentabilidade.
Pero, desde outro punto de vista, a intelixencia artificial tamén pode ter un efecto beneficioso sobre o medio ambiente. Efectivamente, o clima é un sistema complexo para o que non temos un modelo completo. As intelixencias artificiais pódennos axudar a comprender mellor o clima e axudarannos a frear ou mitigar o cambio climático. Tamén nos axudará a crear mellores tecnoloxías: mellores células solares, mellores baterías o-tricas…
Lin que vostede negouse a participar nas investigacións. É así?
Si. Tradicionalmente, nas guerras está implicado o ser humano. Alguén decide atacar ou disparar ao outro; alguén manda e é unha decisión de alguén. Isto significa que hai responsabilidades e sentenzas morais.
E a guerra é sempre mala. Pero se as máquinas se volven cada vez máis intelixentes e asígnaselles a responsabilidade de tomar esas decisións, de quen é a responsabilidade? De quen desenvolveu un programa para coñecer e matar a unha persoa? De quen o deseñou? O que a vendeu? Do goberno que utiliza o sistema? É difícil prever como isto pode cambiar a guerra.
Creo que hai que discutir sobre iso e que é unha cuestión que hai que analizar con moito coidado. Pero son moi escéptico, non vexo que esteamos a facer iso. Por tanto, sempre tento protexer e alentar a quen din que hai que prohibir este tipo de armas.
Por outra banda, estudaches filosofía. Cre que é utilizable ou, máis aínda, que é necesario ter en conta a filosofía no desenvolvemento da intelixencia artificial?
Sen dúbida, a filosofía foime moi útil. Creo que calquera cousa que aprendas pode ser útil algunha vez. E si estudaches filosofía, influirá como pensas nos problemas da intelixencia artificial. Por suposto, moitos técnicos ocúpanse unicamente dos aspectos técnicos da intelixencia artificial. Pero as preguntas que queremos aclarar non son só técnicas, é dicir, como imos detectar a estrutura do mundo? Por que parece que o mundo está suxeito ás leis e non ao azar? Na miña opinión, este tipo de preguntas son, no fondo, filosóficas e desde ese punto de vista temos que entendelas.
Que outras disciplinas habería que ter en conta?Á fin e ao cabo
, a intelixencia artificial influirá en todo, polo que habería que ter en conta todos os aspectos, desde as ciencias naturais até a arte. Pero a economía, a politología, a sociedade… Efectivamente, na sociedade necesítase máis debate.
Que opina das peticións que se están expondo para deter a investigación durante un período de tempo?Como
acabo de dicir, paréceme necesario debater e reflexionar sobre o desenvolvemento e as consecuencias da intelixencia artificial. Pero esas moratorias non van ser nada realistas, non vai pasar. É significativo que detrás dunha das solicitudes estea Elon Musk. O certo é que hai unha pugna entre compañías, e os que veñen detrás piden tempo para que se poidan quedar coas anteriores.
É moito máis importante entender como funcionan estes sistemas, que consecuencias poden ter e como podemos garantir que se usen para o ben. E iso hai que facelo coa xente, non se pode deixar todo en mans das compañías.
Que pode achegar o entendemento artificial no futuro, que agora é impensable?
Esta pregunta non pode ser contestada. Non se pode predicir o que vai pasar. Mesmo cando se creou Internet, era imposible saber como o usariamos hoxe en día e que nos traería. Hoxe en día contamos con sistemas capaces de crear poemas. Aí hai un salto e no futuro a conversación entre máquinas e persoas será cada vez máis común.
Temos que pensar como fortalecer á sociedade para que sexa consciente do bo e mal uso da intelixencia artificial.
Buletina
Bidali zure helbide elektronikoa eta jaso asteroko buletina zure sarrera-ontzian
