Les délégués de 28 pays, dont les États-Unis et la Chine, ont convenu mercredi de travailler ensemble pour contenir les risques potentiellement « catastrophiques » posés par les progrès galopants de l’intelligence artificielle.
Le premier sommet international sur la sécurité de l’IA, organisé dans une ancienne base d’espionnage de décryptage près de Londres, s’est concentré sur l’IA de pointe qui, selon certains scientifiques, pourrait constituer un risque pour l’existence même de l’humanité.
Le Premier ministre britannique Rishi Sunak a déclaré que cette déclaration était « une réalisation historique qui voit les plus grandes puissances mondiales en matière d’IA s’accorder sur l’urgence de comprendre les risques de l’IA – contribuant ainsi à assurer l’avenir à long terme de nos enfants et petits-enfants ».
Mais la vice-présidente américaine Kamala Harris a exhorté la Grande-Bretagne et d’autres pays à aller plus loin et plus vite, soulignant les transformations qu’apporte déjà l’IA et la nécessité de demander des comptes aux entreprises technologiques – notamment par le biais de la législation.
Dans un discours prononcé à l’ambassade des États-Unis, Harris a déclaré que le monde devait commencer à agir dès maintenant pour faire face à « l’ensemble du spectre » des risques liés à l’IA, et pas seulement aux menaces existentielles telles que les cyberattaques massives ou les armes biologiques formulées par l’IA.
“Il existe d’autres menaces qui exigent également notre action, des menaces qui causent actuellement du tort et qui, pour de nombreuses personnes, semblent également existentielles”, a-t-elle déclaré, citant une personne âgée qui a abandonné son plan de soins de santé en raison d’un algorithme d’IA défectueux ou une femme menacée par un partenaire violent avec de fausses photos.
D'Autres Articles en Lien
L’AI Safety Summit est un travail d’amour pour Sunak, un ancien banquier passionné de technologie qui souhaite que le Royaume-Uni devienne une plaque tournante de l’innovation informatique et a présenté le sommet comme le début d’une conversation mondiale sur le développement sûr de l’IA.
Harris doit assister au sommet jeudi, aux côtés de représentants gouvernementaux de plus de deux douzaines de pays, dont le Canada, la France, l’Allemagne, l’Inde, le Japon, l’Arabie saoudite – et la Chine, invités suite aux protestations de certains membres du Parti conservateur au pouvoir de Sunak.
Faire signer l’accord par les nations, baptisé Déclaration de Bletchley, a été une réussite, même s’il est peu détaillé et ne propose pas de moyen de réglementer le développement de l’IA. Les pays se sont engagés à œuvrer en faveur d’un « accord et d’une responsabilité partagée » sur les risques liés à l’IA et à tenir une série de nouvelles réunions. La Corée du Sud organisera un mini sommet virtuel sur l’IA dans six mois, suivi d’un sommet en personne en France dans un an.
Le vice-ministre chinois des Sciences et de la Technologie, Wu Zhaohui, a déclaré que la technologie de l’IA est « incertaine, inexplicable et manque de transparence ».
« Cela entraîne des risques et des défis en matière d’éthique, de sécurité, de confidentialité et d’équité. Sa complexité est en train d’émerger », a-t-il déclaré, soulignant que le président chinois Xi Jinping a lancé le mois dernier l’Initiative mondiale pour la gouvernance de l’IA.
“Nous appelons à une collaboration mondiale pour partager les connaissances et mettre les technologies d’IA à la disposition du public dans des conditions open source”, a-t-il déclaré.
Le PDG de Tesla, Elon Musk, devrait également discuter de l’IA avec Sunak lors d’une conversation en direct jeudi soir. Le milliardaire de la technologie faisait partie de ceux qui ont signé une déclaration plus tôt cette année pour tirer la sonnette d’alarme sur les périls que l’IA fait peser sur l’humanité.
La présidente de la Commission européenne, Ursula von der Leyen, le secrétaire général des Nations Unies, Antonio Guterres, ainsi que des dirigeants de sociétés américaines d’intelligence artificielle telles qu’Anthropic, DeepMind et OpenAI de Google, ainsi que des informaticiens influents comme Yoshua Bengio, l’un des « parrains » de l’IA, sont également présents. la réunion à Bletchley Park, une ancienne base top secrète pour les décrypteurs de la Seconde Guerre mondiale, considérée comme le berceau de l’informatique moderne.
Les participants ont déclaré que le format de la réunion à huis clos a favorisé un débat sain. Les séances de réseautage informelles contribuent à instaurer la confiance, a déclaré Mustafa Suleyman, PDG d’Inflection AI.
Pendant ce temps, lors des discussions formelles, « les gens ont pu faire des déclarations très claires, et c’est là que l’on voit des désaccords importants, à la fois entre les pays du nord et du sud (et) les pays plus favorables à l’open source et moins favorables à l’open source ». source », a déclaré Suleyman aux journalistes.
Les systèmes d’IA open source permettent aux chercheurs et aux experts de découvrir rapidement les problèmes et de les résoudre. Mais l’inconvénient est qu’une fois qu’un système open source est publié, « n’importe qui peut l’utiliser et le configurer à des fins malveillantes », a déclaré Bengio en marge de la réunion.
« Il y a cette incompatibilité entre l’open source et la sécurité. Alors, comment pouvons-nous gérer cela ?
Seuls les gouvernements, et non les entreprises, peuvent protéger les personnes des dangers de l’IA, a déclaré Sunak la semaine dernière. Cependant, il a également exhorté à ne pas se précipiter pour réglementer la technologie de l’IA, affirmant qu’elle doit d’abord être pleinement comprise.
En revanche, Harris a souligné la nécessité d’aborder le problème ici et maintenant, y compris « les préjudices sociétaux qui se produisent déjà, tels que les préjugés, la discrimination et la prolifération de la désinformation ».
Elle a souligné le décret du président Biden cette semaine, définissant les garanties en matière d’IA, comme preuve que les États-Unis montrent l’exemple en élaborant des règles pour l’intelligence artificielle qui fonctionnent dans l’intérêt public.
Harris a également encouragé d’autres pays à adhérer à un engagement soutenu par les États-Unis visant à s’en tenir à une utilisation « responsable et éthique » de l’IA à des fins militaires.
« Le président Biden et moi pensons que tous les dirigeants… ont le devoir moral, éthique et social de veiller à ce que l’IA soit adoptée et développée de manière à protéger le public des dommages potentiels et à garantir que chacun puisse profiter de ses avantages », a-t-elle déclaré. dit.
