L’un des pionniers de l‘intelligence artificielle (IA), reconnu comme l’une des figures les plus influentes dans ce domaine, exprime actuellement des préoccupations quant à l’évolution rapide de l’IA et à la compétition effrénée des grandes entreprises technologiques pour être en tête de la course à l’IA, ainsi qu’aux risques que cela représente pour l’humanité.
Sommaire
Pourquoi est-ce important ?
De nombreux observateurs considèrent que l’arrivée de l’IA avec le lancement du bot ChatGPT marque un tournant majeur, similaire à l’avènement d’Internet, qui changera profondément nos vies. Cependant, la façon dont ces changements vont se produire reste une question cruciale aujourd’hui.
Un chercheur pionnier de l’IA, M. Hinton, qui a travaillé sur l’apprentissage automatique depuis les années 70, a exprimé ses préoccupations quant au développement rapide de l’IA et aux risques qui y sont associés après avoir démissionné de son poste académique. Bien qu’il ait été convaincu de la valeur de l’IA tout au long de sa carrière, il admet aujourd’hui que « une partie de lui regrette son travail », car la course effrénée à laquelle se livrent les groupes pour développer l’IA la plus performante pourrait être dangereuse si les groupes ne respectent pas les règles de sécurité.
Il estime également qu’il est impossible de savoir si un pays ou un groupe travaille secrètement sur le développement d’une IA puissante, ce qui pousse les gouvernements à vouloir réguler son développement. Cependant, il craint que la régulation soit difficile à mettre en place.Hinton souligne que les spécialistes ne devraient pas accélérer le développement de l’IA avant de comprendre comment la contrôler. Il est effrayé par la rapidité avec laquelle l’IA a évolué au cours des cinq dernières années et par l’ampleur des développements futurs.
Quels riques ?
Il exprime de réelles préoccupations quant à une possible vague de désinformation qui pourrait être causée par les avancées de l’IA. Des images, textes et vidéos falsifiés pourraient tromper les internautes, qui auraient de plus en plus de mal à discerner le vrai du faux. En outre, il redoute que les robots autonomes ne remplacent de nombreux métiers à l’avenir, mais il est encore plus inquiet à propos des robots tueurs. Selon lui, il est difficile d’empêcher les mauvais acteurs d’utiliser ces technologies à des fins malveillantes. Le chercheur considère que les modèles de langage tels que ChatGPT et Bard de Google, qui utilisent une quantité massive de données, sont désormais plus intelligents que les êtres humains. Cette idée est survenue beaucoup plus tôt qu’il ne l’aurait imaginé, il y a encore quelques mois. Malgré leur intelligence, les bots peuvent encore faire des erreurs et apprendre des comportements imprévus à partir des données qu’ils analysent. Les entreprises laissent les bots exécuter leur propre code informatique, ce qui peut avoir de graves conséquences. Hinton considère que cela représente un risque pour l’humanité.
Levée des boucliers dans le monde de l’IA
Ainsi, une voix éminente dans le domaine de l’intelligence artificielle rejoint les rangs des critiques. Geoffrey Hinton est connu comme le “parrain de l’IA“. En 1972, fraîchement sorti de l’université, il a commencé à travailler sur les “réseaux de neurones” – des systèmes capables d’apprendre des facultés en étudiant des données, comme l’apprentissage automatique. En 2012, lui et deux de ses étudiants ont sorti un tel système capable de reconnaître le contenu des images. Google a ensuite racheté la société pour 44 millions de dollars, selon le NYT.
Le chercheur britannique de 75 ans, qui est professeur à Toronto, a également reçu la plus haute distinction dans le monde de l’informatique, le Turing Award. Il l’a reçu avec deux autres en 2018 pour ses travaux sur ces réseaux de neurones.
