EVOLUTION ET DANGERS

 

L’un des « pères fondateurs » de l’IA estime qu’elle pourrait entraîner notre extinction d’ici 10 ans

C’est pas rassurant…

Source TrustMyScience

Image/ Trust My Science

Geoffrey Hinton, chercheur emblématique considéré comme l’un des « pères fondateurs » de l’intelligence artificielle — aux côtés notamment de Yann Le Cun et Yoshua Bengio —, a récemment intensifié ses avertissements sur les risques que représente l’intelligence artificielle. Dans une précédente déclaration, il avait estimé une probabilité de 10 à 20 % pour le fait que l’IA provoque l’extinction de l’humanité d’ici 30 ans. Cette prévision, bien que spéculative, illustrait déjà l’étendue de ses préoccupations face à l’évolution rapide de cette technologie, a-t-il expliqué dans une récente interview dans laquelle il ajuste cette estimation à 10-20 ans.

Hinton souligne depuis des années que les progrès dans le domaine de l’IA surpassent les prévisions initiales et rapprochent de manière inattendue l’émergence d’une intelligence artificielle générale (IAG). Ce type d’IA, capable à terme de surpasser les capacités cognitives humaines dans presque tous les domaines, pourrait, selon lui, rendre les machines incontrôlables. Cependant, il faut souligner que cette hypothèse ne semble être qu’une reformulation alarmiste d’opinions — toutefois solidement basées sur sa compréhension très avancée des systèmes d’IA.

Récemment, lorsqu’un présentateur de l’émission Today de Radio 4 (de BBC) lui a demandé si quelque chose avait changé par rapport à son estimation de 2023 (quant au risque d’extinction de l’humanité à cause de l’IA), il a répondu : « Pas vraiment. Je pense dans 10 à 20 ans, éventuellement. Nous n’avons jamais eu à faire face à des choses plus intelligentes que nous ».

Il a ensuite comparé cette situation à la révolution industrielle, tout en notant que cette fois, les conséquences pourraient être bien plus profondes et potentiellement dangereuses pour l’humanité : « Ces choses (IA) sont plus intelligentes que nous. Lors de la révolution industrielle, il n’y avait pas de risque que les machines prennent la place des hommes, car elles étaient ‘juste’ plus fortes. Nous avions gardé le contrôle parce que nous avions l’intelligence. Aujourd’hui, il y a une menace que ces choses puissent prendre le contrôle, c’est donc très différent ».

Un tournant dans la carrière de Hinton…../…

Lire l’article complet