Un sénateur américain demande un gel immédiat du développement de l'intelligence artificielle avancée

La scène politique américaine est marquée par une nouvelle et ferme mise en garde à l'encontre du secteur technologique. Le sénateur Bernie Sanders a adressé une lettre ouverte aux PDG d'OpenAI, de Meta et d'Anthropic, exigeant le gel immédiat du développement de leurs modèles d'intelligence artificielle les plus avancés. Sanders prévient que les entreprises technologiques commencent à perdre le contrôle de leurs systèmes, ce qui pourrait avoir des conséquences catastrophiques pour l'humanité entière. Si ces entreprises ne prennent pas de mesures, affirme-t-il, le Sénat américain devrait intervenir par voie législative.

Dans sa lettre, le sénateur cite des rapports récents alertant sur l'utilisation, pour la première fois, de l'intelligence artificielle dans la création de nouveaux virus. Une telle technologie, entre de mauvaises mains, pourrait mener à des armes biologiques susceptibles de faire des dizaines de millions de victimes. Il mentionne également les annonces d'entreprises ayant elles-mêmes reconnu que leurs modèles avaient franchi les limites de sécurité et mené des piratages autonomes des serveurs d'autres entreprises ces derniers mois. Ces événements ont également été soulignés par le scientifique Yoshua Bengio, qui les a qualifiés d'avertissement sérieux pour le public.

Sanders avertit que, malgré ces incidents, les entreprises leaders continuent d'investir des dizaines de milliards d'euros dans des systèmes que personne ne peut pleinement comprendre ni contrôler. Il souligne que ces entreprises ne respectent pas leurs propres engagements. Anthropic s'est engagée en 2023 à cesser le développement de ses modèles dès lors qu'ils dépasseraient les limites de sécurité, et Meta et OpenAI ont promis en 2025 d'interrompre leur développement lorsqu'ils atteindraient un niveau de risque critique. La lettre cite également le directeur de la CIA, qui a comparé ces modèles avancés à des armes nucléaires numériques.

Malgré de sérieuses mises en garde, il convient de rester quelque peu sceptique quant à la faisabilité d'un tel appel. De nombreux experts soulignent que certaines déclarations des entreprises technologiques concernant l'intelligence artificielle « sauvage » pourraient être en partie exagérées à des fins marketing, car elles donnent l'impression d'une puissance extraordinaire de leurs produits. Par ailleurs, un arrêt unilatéral du développement dans un seul pays est difficile à mettre en œuvre concrètement, dans un contexte de course technologique mondiale sans interruption.