Un pionnier de l'intelligence artificielle quitte Google et met en garde contre l'avenir de la technologie
Geoffrey Hinton, un pionnier de l'IA, a rejoint la liste croissante d'experts partageant leurs inquiétudes quant à son avancement rapide.
Le " parrain de l'IA » lance un avertissement sur la technologie qu'il a contribué à créer.
Geoffrey Hinton, un pionnier de l'intelligence artificielle, a rejoint la liste croissante d'experts partageant leurs préoccupations concernant l'avancement rapide de l'intelligence artificielle. L'informaticien de renom a récemment quitté son emploi chez Google pour parler ouvertement de ses inquiétudes concernant la technologie et de la direction qu'il envisage.
"Il est difficile de voir comment vous pouvez empêcher les mauvais acteurs de l'utiliser pour de mauvaises choses", a déclaré Hinton dans une interview au New York Times .
Hinton craint que les futures versions de la technologie ne représentent une menace réelle pour l'humanité.
"L'idée que ce genre de choses pourrait en fait devenir plus intelligent que les gens – quelques personnes y croyaient", a-t-il déclaré dans l'interview. «Mais la plupart des gens pensaient que c'était loin. Et je pensais que c'était loin. Je pensais que c'était dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus à ça.
Hinton, 75 ans, est surtout connu pour le développement rapide de l'apprentissage en profondeur, qui utilise des structures mathématiques appelées réseaux de neurones pour extraire des modèles d'ensembles massifs de données.
Comme d'autres experts, il pense que la course entre Big Tech pour développer une IA plus puissante ne fera que dégénérer en une course mondiale.
Hinton a tweeté lundi matin qu'il estimait que Google avait agi de manière responsable dans son développement de l'IA, mais qu'il devait quitter l'entreprise pour s'exprimer.
Jeff Dean, vice-président senior de Google Research and AI, a déclaré dans un communiqué envoyé par e-mail : « Geoff a fait des percées fondamentales dans le domaine de l'IA, et nous apprécions sa décennie de contributions chez Google. J'ai profondément apprécié nos nombreuses conversations au fil des ans. Il va me manquer et je lui souhaite bonne chance ! En tant que l'une des premières entreprises à publier les principes de l'IA , nous restons attachés à une approche responsable de l'IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace. »
Hinton est un ajout notable à un groupe de technologues qui se sont prononcés publiquement sur le développement et la publication effrénés de l'IA.
Tristan Harris et Aza Raskin, les co-fondateurs du Center for Humane Technology, ont parlé avec l'animateur de "Nightly News" Lester Holt en mars de leurs propres préoccupations concernant l'IA.
"Ce que nous voulons, c'est une IA qui enrichit nos vies. Une IA qui fonctionne pour les gens, qui fonctionne pour le bénéfice humain, qui nous aide à guérir le cancer, qui nous aide à trouver des solutions climatiques », a déclaré Harris lors de l'interview. "Nous pouvons faire ça. Nous pouvons avoir des laboratoires d'IA et de recherche appliqués à des applications spécifiques qui font avancer ces domaines. Mais lorsque nous sommes dans une course aux armements pour déployer l'IA sur chaque être humain sur la planète aussi vite que possible avec le moins de tests possible, ce n'est pas une équation qui va bien se terminer.
Une lettre ouverte de l'Association pour l'avancement de l'intelligence artificielle , qui a été signée par 19 dirigeants actuels et anciens de la société universitaire, a été publiée le mois dernier avertissant le public des risques liés à l'IA et de la nécessité d'une collaboration pour atténuer certaines de ces préoccupations.
"Nous pensons que l'IA changera de plus en plus la donne dans les domaines de la santé, du climat, de l'éducation, de l'ingénierie et de nombreux autres domaines", indique la lettre. "Dans le même temps, nous sommes conscients des limites et des préoccupations concernant les progrès de l'IA, y compris le potentiel des systèmes d'IA à faire des erreurs, à fournir des recommandations biaisées, à menacer notre vie privée, à donner aux mauvais acteurs de nouveaux outils et à avoir un impact sur l'emploi. »
Hinton, ainsi que les scientifiques Yoshua Bengio et Yann LeCun, ont remporté le prix Turing en 2019 , connu comme la version du prix Nobel de l'industrie technologique, pour leurs avancées en IA.
Hinton, Bengio et LeCun ont exprimé ouvertement leurs inquiétudes concernant l'IA, mais étaient optimistes quant au potentiel de la technologie, notamment la détection des risques pour la santé plus tôt que les médecins et des avertissements météorologiques plus précis concernant les tremblements de terre et les inondations.
"Une chose est très claire, les techniques que nous avons développées peuvent être utilisées pour une énorme quantité de bien, affectant des centaines de millions de personnes", avait précédemment déclaré Hinton à l'Associated Press .
