Des studios d'IA nord-américains comme OpenAI, Anthropic et Cohere ont rencontré des représentants de l'Université Tsinghua et d'autres institutions soutenues par l'État chinois lors d'une réunion secrète à Genève en juillet et octobre 2023 pour discuter du développement sûr d'une technologie d'IA plus avancée.
Dans une rare démonstration de collaboration entre des entreprises technologiques chinoises et américaines, les principales sociétés d'intelligence artificielle (IA) OpenAI, Anthropic et Cohere auraient participé à des pourparlers diplomatiques clandestins avec des experts chinois en IA, selon un rapport du Financial Times.
Les réunions, qui ont eu lieu à Genève en juillet et octobre 2023, visaient à répondre aux préoccupations communes concernant la propagation potentielle de la désinformation et les menaces pour la cohésion sociale posées par la puissante technologie de l'IA.
Des initiés ayant une connaissance directe ont révélé que des scientifiques et des experts politiques de groupes nord-américains d’IA avaient engagé des discussions avec des représentants de l’Université Tsinghua et d’autres institutions soutenues par l’État chinois lors des deux réunions de Genève.
Contents
Articles Liés
CES 2024 : l'IA fait parler d'elle alors que NVIDIA, Microsoft et d'autres dévoilent une nouvelle technologie, OpenAI pour l'éviter
Malgré le drame du PDG, le chiffre d'affaires annualisé d'OpenAI a augmenté de 20 % en 2 mois, pour atteindre plus de 1,6 milliard de dollars.
L'objectif des discussions était d'explorer les risques associés à la technologie émergente de l'IA et de favoriser les investissements dans la recherche sur la sécurité de l'IA. L’objectif ultime était d’établir une voie scientifique pour le développement sûr d’une technologie d’IA plus avancée.
Les participants ont souligné la nécessité de normes internationales sur la sécurité et l’alignement de l’IA, soulignant l’importance d’un accord entre les acteurs clés pour faciliter un consensus plus large. Ces pourparlers jusqu’alors non divulgués constituent un exemple notable de coopération sino-américaine dans le domaine des technologies de pointe, en particulier dans le contexte de la concurrence actuelle pour la suprématie dans l’IA et l’informatique quantique.
Les réunions de Genève, facilitées par l'organisation de médiation privée Shaikh Group, ont reçu le soutien de la Maison Blanche, ainsi que de responsables des gouvernements britannique et chinois, selon un négociateur anonyme présent aux discussions.
L'ambassade de Chine au Royaume-Uni a exprimé son soutien aux efforts visant à discuter de la gouvernance de l'IA et de la coopération sur les cadres, normes et standards de gouvernance mondiale de l'IA.
Les discussions, qui comprenaient une coopération technique et des propositions politiques, ont contribué aux discussions de la réunion du Conseil de sécurité de l'ONU sur l'IA en juillet 2023 et du sommet britannique sur l'IA en novembre de la même année.
Des plans pour de futures discussions sont en cours, axés sur des propositions scientifiques et techniques visant à aligner les systèmes d’IA sur les codes juridiques, les normes sociétales et les valeurs.
Notamment, les grandes sociétés chinoises d’IA telles que ByteDance, Tencent et Baidu n’y ont pas participé, et Google DeepMind, bien qu’informé des discussions, n’y a pas participé.
Les appels à la coopération entre les principales puissances pour relever les défis et les risques associés à l’IA se sont multipliés, des scientifiques chinois et des universitaires occidentaux ayant signé en novembre une déclaration plaidant en faveur de contrôles plus stricts et de réglementations internationales sur les systèmes d’IA avancés. OpenAI, Anthropic, Cohere et l'Université Tsinghua ont refusé de commenter leur participation aux discussions.
(Avec la contribution des agences)
