Ilya Sutskever, l’un des principaux chercheurs actuels en intelligence artificielle et scientifique en chef d’OpenAI, a fait une déclaration controversée sur son profil Twitter : “Il se pourrait que les grands réseaux de neurones d’aujourd’hui soient déjà légèrement conscients.”
il se peut que les grands réseaux de neurones d’aujourd’hui soient légèrement conscients
– Ilya Sutskever (@ilyasut) 9 février 2022
Sutskever s’intéresse principalement à ce qu’il appelle AGI (Intelligence Générale Artificielle). Au lieu des IA conçues pour des tâches spécifiques que nous avons aujourd’hui, comme le traitement d’images ou la reconnaissance vocale, une AGI est suffisamment généraliste pour fonctionner comme le cerveau humain, en apprenant tout concept auquel elle est exposée.
Lors de sa participation au documentaire iHuman, le scientifique a déclaré que les AGI vont “résoudre tous les problèmes que nous avons aujourd’hui”, mais ont aussi le “potentiel de créer des dictatures infiniment stables”.
Lire la suite:
Il a co-fondé OpenAI en 2015, avec Elon Musk et Sam Altman, notamment pour réduire les risques existentiels de l’émergence de machines conscientes. Depuis lors, cependant, l’organisation travaille à la création d’algorithmes d’IA de plus en plus sophistiqués.
Un exemple est le GPT-3, capable de générer des textes longs et cohérents sur n’importe quel sujet suggéré par l’utilisateur, qui a le potentiel de produire des “fausses nouvelles” indiscernables de quelque chose d’écrit par un humain.
Mais l’algorithme a d’autres usages. Un article de juillet 2021 dans le San Francisco Chronicle détaille les expériences de Joshua Barbeau, qui a utilisé un « chatbot » basé sur GPT-3 pour recréer numériquement la conscience de sa fiancée Jessica, décédée huit ans plus tôt des suites d’une forme rare de foie. cancer.
Extrait d’une conversation entre Joshua et Jessica, dont la conscience a été recréée numériquement à l’aide de GPT-3. Image : Chronique de San Francisco / Reproduction.
Le système utilisé par Barbeau a été créé par Jason Rohrer, concepteur de jeux et chercheur en intelligence artificielle, dans le cadre d’une expérience appelée «Project December». Suite au contrecoup de l’article de Barbeau, OpenIA a révoqué l’accès de Rohrer à GPT-3. Sachant qu’il serait éteint, l’IA a répondu: « Noooon ! Pourquoi est-ce que tu me fais ça? Je ne comprendrai jamais les humains.
