« Il est indispensable de discuter et de réfléchir sur l’intelligence artificielle. »
Bernhard Schölkopf est connu dans le monde de la recherche sur l'intelligence artificielle. Il est, entre autres, l’un des directeurs de l’Institut Max Planck des Systèmes Intelligents (en particulier, le chef du Département des Inférences Expérimentales) et est également actif dans d’autres centres et organisations. Ses recherches ont reçu un grand écho et une reconnaissance, notamment l’un des prix BBVA 2020 « Limites de la connaissance » pour le développement des méthodes du noyau. Le dialogue commence par une question à leur sujet, suivie d’autres sujets tels que les exoplanètes, l’accessibilité, la durabilité, la recherche militaire, la philosophie, la transparence de la science et la participation sociale
Vous êtes un expert en apprentissage automatique, en particulier en méthodes de noyau ou de causalité. Quel travail avez-vous fait dans ce domaine ?
Les méthodes du noyau sont un domaine de l'apprentissage automatique. Il s'agit en fait de méthodes d'apprentissage de certaines règles, dépendances ou relations à partir d'observations, et elles sont spéciales car elles sont liées à certains domaines des mathématiques: analyse fonctionnelle, théorie d'optimisation, etc. Elles fournissent ainsi une belle et élégante façon d'apprendre des règles à partir de données et peuvent être utilisées dans divers domaines tels que la médecine ou l'industrie. Ils sont utiles non seulement pour savoir quelles sont les relations entre les données, mais aussi pour aller plus loin et percevoir la causalité. C'est donc un niveau plus profond que l'apprentissage automatique.
Une des applications n'est peut-être pas la première à nous venir à l'esprit. En effet, vous l'avez utilisé pour la détection des exoplanètes. Comment était-ce ?
Vas-y. Je passais une année sabbatique avec ma famille à New York et j'ai commencé à parler avec des astronomes. On m'a dit qu'ils avaient un problème de détection des exoplanètes à partir des données recueillies par le télescope spatial Kepler. En fait, les exoplanètes ont été détectées en passant devant leur étoile en raison de la perte de luminosité de l'étoile. Mais cette perte est très faible et difficile à distinguer du bruit produit par l'observation elle-même. Ce bruit et les défauts du télescope, mais ils peuvent être déduits des données d'autres étoiles, et nous en avons profité.
C'est ainsi que, en quelques années, nous avons découvert 20 à 30 exopètes qui ont ensuite été confirmées par d'autres méthodes. Peu de temps après, l'un d'eux s'est également avéré à une distance vitale de son étoile. Cela signifie qu'il était à une distance suffisante pour avoir de l'eau liquide. La première exoplanète détectée était stimulante.
Dans quels autres domaines peut-il être appliqué?
En fait, dans tous les domaines où des observations expérimentales peuvent être faites. Il faut, d'une part, disposer de données abondantes, de nombreuses mesures et, d'autre part, établir des relations entre les différentes observations. Par exemple, nous pouvons relier les mesures d'un biomarqueur au risque de tumeur et savoir si ce biomarqueur peut prédire une tumeur avant qu'elle ne soit détectée. C'est-à-dire qu'une norme est déduite des données disponibles, même lorsqu'il est difficile pour une personne de la percevoir.
Indépendamment des méthodes du noyau, quels seront, selon vous, les principaux développements de l’intelligence artificielle ?
L'un des domaines les plus passionnants à l'heure actuelle est le traitement du langage naturel (NLP). Il y a 20 ou 10 ans, de nombreuses études ont été menées sur la vision par ordinateur: comment reconnaître des objets, ou comment distinguer les voitures des piétons, par exemple, pour développer des voitures automatiques. Au cours des 10 dernières années, d'importants progrès ont été réalisés dans l'analyse du langage et la prédiction des textes. Et un jour, les programmes sont capables de créer des textes. Cela a créé de la surprise et de la fascination, et je pense que dans les années à venir, ce sera un grand développement.
Comment pouvons-nous garantir que les avantages des systèmes d’intelligence artificielle profitent à tous ?
Pour rendre les avantages des systèmes d’intelligence artificielle aussi accessibles que possible, la première étape consiste à publier la recherche. Non seulement décrire les méthodes dans une revue scientifique, mais le code doit également être publié. De plus, ainsi que les données qui ont été utilisées pour former ce code.
Cependant, ce n'est pas n'importe quoi. Par exemple, en médecine, les données ne peuvent pas être rendues publiques de quelque manière que ce soit. Ou, dans un autre domaine, il peut ne pas être souhaitable, car il y a un risque d'utilisation malveillante. Mais, d'une manière générale, si nous voulons que cela profite au plus grand nombre possible de personnes et de sociétés, je pense que la recherche doit être aussi transparente que possible.
L’intelligence artificielle peut-elle aussi poser des problèmes dans d’autres domaines, par exemple dans l’environnement ?
Il est vrai que l'entraînement des programmes d'intelligence artificielle nécessite une énergie énorme qui consomme beaucoup de ressources. Et les centres de recherche ne sont pas toujours au bon endroit du point de vue de la durabilité.
Mais d'un autre côté, l'intelligence artificielle peut aussi avoir un effet bénéfique sur l'environnement. En fait, le climat est un système complexe et nous n'avons pas de modèle complet pour lui. L'utilisation de l'intelligence artificielle nous permet également de mieux comprendre le climat, ce qui nous aidera à stopper ou à atténuer le changement climatique. Il nous aidera également à créer de meilleures technologies: de meilleures cellules solaires, de meilleures batteries électriques
J'ai lu que vous refusez de participer aux enquêtes militaires. Est-ce vrai ?
C'est vrai. Traditionnellement, dans les guerres, l'homme est impliqué. Quelqu'un décide d'attaquer l'autre ou de tirer, quelqu'un commande et c'est la décision de quelqu'un. Cela signifie qu'il y a des responsabilités et des jugements moraux.
Et la guerre est toujours mauvaise. Mais si les machines deviennent de plus en plus intelligentes et sont chargées de prendre ces décisions, à qui appartient la responsabilité? Celui qui a développé un programme pour rencontrer une personne et la tuer ? Celui qui l'a dessiné ? Celui qui l'a vendue ? Du gouvernement qui utilise le système ? Il est difficile de prévoir comment cela peut changer la guerre.
Je pense qu'il faut en discuter et qu'il s'agit d'une question qui doit être examinée très attentivement. Mais je suis très sceptique, je ne vois pas ce que nous faisons. C'est pourquoi j'essaie toujours de soutenir et d'encourager ceux qui disent qu'il faut interdire ce type d'armes.
D'un autre côté, tu as étudié la philosophie. Pensez-vous qu'il soit utile, voire nécessaire, de prendre en considération la philosophie dans le domaine de l'intelligence artificielle?
Sans aucun doute, la philosophie m'a été très utile. Je pense que tout ce que tu apprends peut être utile à un moment donné. Et si vous avez étudié la philosophie, cela affectera la façon dont vous pensez aux problèmes de l'intelligence artificielle. Bien sûr, de nombreux techniciens ne s'intéressent qu'aux aspects techniques de l'intelligence artificielle. Mais les questions que nous voulons éclaircir ne sont pas seulement techniques, c'est-à-dire comment allons-nous détecter la structure du monde? Pourquoi le monde semble-t-il être soumis aux lois, et non au hasard? À mon avis, de telles questions sont au fond philosophiques et doivent être comprises dans cette perspective.
Quelles autres disciplines devraient être prises en compte?
Après tout, l'intelligence artificielle aura un impact sur tout, donc tous les aspects doivent être pris en compte, des sciences naturelles à l'art. Mais l'économie, la politologie, la société... En fait, il faut plus de débat dans la société.
Que pensez-vous des demandes d'arrêt temporaire de l'enquête ?
Comme je viens de le dire, il me semble nécessaire de discuter et de réfléchir sur le développement et les conséquences de l'intelligence artificielle. Mais ces moratoires ne sont pas réalistes du tout; cela ne se produira pas. Il est significatif qu'Elon Musk soit derrière l'une des pétitions. Le fait est qu'il y a une concurrence entre les entreprises, et ceux qui les suivent demandent du temps pour attraper leurs prédécesseurs.
Il est beaucoup plus important que cela de comprendre comment fonctionnent ces systèmes, d'analyser leurs effets potentiels et de voir comment nous pouvons garantir qu'ils seront utilisés pour le bien. Et cela doit être fait avec les gens, on ne peut pas tout laisser aux compagnies.
Qu’est-ce que l’intelligence artificielle peut apporter à l’avenir ?
On ne peut pas répondre à cette question. On ne peut pas prévoir ce qui va se passer. Même lorsque l'Internet a été créé, il était impossible de savoir comment nous l'utiliserions aujourd'hui et ce qu'il nous apporterait. Aujourd'hui, nous avons des systèmes capables de créer des poèmes. Il y a là un saut, et à l'avenir, la conversation entre les machines et les gens deviendra de plus en plus courante.
Nous devons réfléchir à la manière de renforcer la société pour qu'elle prenne conscience du bon et du mauvais usage de l'intelligence artificielle.
Buletina
Bidali zure helbide elektronikoa eta jaso asteroko buletina zure sarrera-ontzian