Menu des algorithmes

2016/06/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

• Internet
• Softwarea

Ce qui vient de longue date est d'utiliser un algorithme pour décider les résultats qu'un service Web doit montrer aux utilisateurs. Google a utilisé depuis son origine le célèbre algorithme PageRank pour trier ses résultats, en fonction de l'importance attribuée à chaque site. Cet algorithme a été celui qui a caractérisé Google d'autres chercheurs et l'a amené à être tout à l'heure actuelle. Dans le cas d'un chercheur, il est nécessaire d'utiliser un bon algorithme de tri des résultats, car pour l'utilisateur il serait fou de vérifier des milliers de résultats jusqu'à trouver le plus approprié.

Mais il a aussi ses mauvaises choses. D'une part, nous ne pouvons pas garantir qu'il n'y ait pas de résultats vraiment intéressants cachés derrière derrière. D'autre part, les résultats présentés ci-dessus sont les plus lus, étant l'un des facteurs pour apparaître dans les prochaines recherches, ce qui rend extrêmement difficile l'ascension de résultats ultérieurs ou de nouveaux contenus.

Ensuite, Google a commencé à offrir des résultats personnalisés à chaque utilisateur. Pour cela, il tient compte de nos recherches précédentes, des résultats sur lesquels nous avons cliqué, etc. mais aussi l'information des utilisateurs de notre réseau social. Ceci a également deux inconvénients principaux. Un, l'absence de confidentialité, Google enregistre beaucoup d'informations sur nous pour être en mesure d'offrir ces résultats personnalisés. L'autre, qui reçoit toujours des informations d'un environnement ou d'un type, à savoir que nous vivons entourés d'une bulle heureuse définie par nous et notre environnement, sans savoir ce qui est en dehors, renforçant nos opinions et affaiblissant la pensée critique. Le souci de ce sujet est de plus en plus grand et la preuve en est le succès relatif que le chercheur de Duck a, puisque le respect de la vie privée et l'exposition des mêmes résultats à tous les utilisateurs sont ses principales revendications.

Fin de la ligne de temps

Facebook, Twitter et Instagram, à l'origine, nous montraient chronologiquement les mises à jour de nos contacts, tweets et photos sur la timeline dite ou chronologie. Mais Facebook il ya quelques années, Twitter en Février de cette année et Instagram en Mars de cette année ont modifié et sont maintenant affichés en haut ceux qui, selon un algorithme, nous semblent plus intéressants pour nous. Un meilleur service est possible, mais il a aussi les effets négatifs mentionnés ci-dessus: celui de l'heureuse bulle, le fait que les auteurs et les contenus populaires soient de plus en plus populaires et les marginalisés de plus en plus marginalisés. Ils ont reçu plus de protestations, la vérité est que nous sommes plus faciles à accepter que les milliers de résultats de la source anonyme des chercheurs soient filtrés par une autre personne qui décide d'une liste pas si longue de nos amis.

Et bien, si les algorithmes ne décident que notre lecture ou la recherche de loisirs, demi-mal. Mais aussi dans les processus critiques de notre vie, de plus en plus de processus automatiques guidés par des algorithmes sont utilisés. Il y a de moins en moins d'employés dans les banques, et les algorithmes décident déjà à qui donner des crédits et à qui ne pas. Grâce aux cartes de crédit, les algorithmes peuvent être basés sur notre historique de dépenses, mais aussi sur notre activité sur les réseaux sociaux, nos relations… En même temps, l'algorithme de gestion de LinkedIn détermine si nous sommes adaptés ou non à un poste de travail.

Et pour nous espionner, Snowden nous a fait savoir que les gouvernements espionnaient toute notre activité en ligne, mais il est impossible que toutes ces informations qu'ils perçoivent soient traitées par l'être humain, les algorithmes étudient et décident quel est notre indice de risque. Ce que vous voulez dire, il me fait me sentir très inconfortable de savoir qu'un algorithme décide si je suis terroriste, ou je suis digne de crédit, ou adapté au travail… Et cette peur devient un outil de contrôle social qui nous pousse à autocensurer l'activité sur notre réseau.

La principale préoccupation que nous suscitent ces algorithmes est que nous ne sachions pas quelle est leur base derrière et que les entreprises qui les utilisent ont trop de pouvoirs en nous. Pour moi, il y a autre chose plus inquiétante. Jusqu'à présent, au moins dans la plupart des cas, les algorithmes sont créés par l'homme, c'est-à-dire que quelqu'un décide quels facteurs l'algorithme tient compte et quel poids donner à chacun d'eux. Et vous pouvez également changer ces poids, introduire de nouveaux facteurs… Quand il semble que l'algorithme a tort dans une certaine décision, vous pouvez analyser pourquoi il a été et pourquoi il a changé la décision ou, si souvent il se trompe, changer l'algorithme. Mais dans le précédent numéro du magazine, l'apprentissage automatique est de plus en plus utilisé pour prendre des décisions dans des processus complexes. Un système s'y entraîne pour obtenir les résultats souhaités pour un grand nombre d'entrées, mais le fonctionnement du système résultant est diffus en raison de sa complexité. Autrement dit, la société de création de l'algorithme ne sait pas avec certitude pourquoi l'algorithme a pris une décision concrète, ni comment il peut la modifier ou l'améliorer, si elle n'entraîne pas plus de données et, cependant, ne sait toujours pas comment il fonctionne.

Il ne fait aucun doute qu'à l'avenir, les algorithmes contrôleront de plus en plus notre vie. Ils travailleront beaucoup et prendront beaucoup de décisions à notre place et ce sera certainement très confortable. Mais il peut arriver à un moment où nous serons tellement habitués à ce que les décisions soient prises par les algorithmes et nous ne savons pas pourquoi ces décisions sont prises, que nous ne pouvons pas nous poser si c'est la meilleure voie ou décision. Parce que si l'algorithme l'a dit…