sous-titre vidéo,

Regardez: Geoffrey Hinton, le “parrain” de l’IA, parle à la BBC des dangers de l’IA alors qu’il quitte Google

Un homme largement considéré comme le parrain de l’intelligence artificielle (IA) a quitté son emploi, avertissant des dangers croissants des développements dans le domaine.

Geoffrey Hinton, 75 ans, a annoncé sa démission de Google dans une déclaration au New York Times, affirmant qu’il regrettait désormais son travail.

Il a déclaré à la BBC que certains des dangers des chatbots IA étaient “assez effrayants”.

“En ce moment, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils le seront bientôt.”

Les recherches pionnières du Dr Hinton sur l’apprentissage en profondeur et les réseaux de neurones ont ouvert la voie aux systèmes d’IA d’aujourd’hui comme ChatGPT.

Mais l’informaticien et psychologue cognitif anglo-canadien a déclaré à la BBC que le chatbot pourrait bientôt dépasser le niveau d’information contenu dans un cerveau humain.

“En este momento, lo que estamos viendo son cosas como que GPT-4 eclipsa a una persona en la cantidad de conocimiento general que tiene y la eclipsa por mucho. En términos de razonamiento, no es tan bueno, pero ya lo hace. razonamiento facile.

“Et étant donné le rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Nous devons donc nous en préoccuper.”

Dans l’article du New York Times, le Dr Hinton a fait référence aux “mauvais acteurs” qui essaieraient d’utiliser l’IA pour de “mauvaises choses”.

Interrogé par la BBC sur ce point, il a répondu : “Ce n’est qu’un scénario du pire, une sorte de scénario cauchemardesque.

“Vous pouvez imaginer, par exemple, un mauvais acteur comme [Russian President Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres objectifs secondaires.”

Le scientifique a averti que cela pourrait éventuellement “créer des objectifs secondaires comme” J’ai besoin de plus de pouvoir “.”

Il a ajouté : “Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons.

“Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde.

“Et toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est donc comme si vous aviez 10 000 personnes et chaque fois qu’une personne apprend quelque chose, tout le monde le sait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir beaucoup plus que n’importe qui d’autre.” .

Le Dr Hinton a également déclaré qu’il y avait plusieurs autres raisons de quitter son emploi.

“L’une est que j’ai 75 ans. Il est donc temps de prendre ma retraite. L’autre est que je veux dire du bien de Google. Et elles sont plus crédibles si je ne travaille pas pour Google.”

Il a souligné qu’il ne voulait pas critiquer Google et que le géant de la technologie avait été “très responsable”.

Dans un communiqué, le scientifique en chef de Google, Jeff Dean, a déclaré : “Nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.”

sous-titre vidéo,

Voir : Qu’est-ce que l’intelligence artificielle ?