Anthropic appelle à des audits stricts de l'IA pour répondre à l'urgence d'une nouvelle guerre froide
Dans un courrier qui rappelle les avertissements du temps de guerre froide, le CEO d'Anthropic, Dario Amodei, compare les systèmes avancés d'IA à des armes nucléaires et exige que les gouvernements les traitent avec la même prudence. Son nouvel essai et deux cadres de politique proposent qu'il y ait un risque d'exploitation des modèles frontières - aujourd'hui les systèmes d'IA les plus puissants - par les États pour le renseignement, la cyberguerre ou même armes autonomes. Anthropic ne se contente pas de sonner l’alarme ; il propose des mesures concrètes, y compris des audits obligatoires de modèles d'IA haut risque et une coordination internationale pour prévenir leur utilisation avant qu'il ne s'envenime.
Un manuel emprunté à l'histoire
Amodei n’emploie pas un langage métaphorique. Il fait des parallèles avec les traités de la guerre froide, suggérant que le développement d'IA devrait être soumis aux mécanismes de supervision obligatoires, similaires à ceux appliqués au nucléaire. L'essai souligne comment ces modèles frontières peuvent être utilisés comme des armes - soit directement dans les systèmes militaires ou indirectement en facilitant aux adversaires l’automatisation du renseignement et de la désinformation sur une grande échelle. Anthropic pose le défi d'une nature stratégique : sans règles mondiales, les nations ont un risque d’un brasier nucléaire sans contrôle.
Des propositions de politique avec des dents
La société détaille deux cadres de politique aux côtés de l'essai. L'un suggère des audits obligatoires de modèles haut risque IA par des entités indépendantes, avec les résultats rendus publics. L'autre propose une réponse coordonnée internationale aux abus d'utilisations de modèles, y compris sanctions et contrôles export. Bien que les propositions ne dépassent pas la recommandation pour un seul régulateur mondial, elles soulignent l'urgence de passer à des accords rapides et contraignants parmi les principaux acteurs. La position d'Anthropic suggère qu'une simple approche volontaire n'est pas suffisante dans une époque où les capacités d'IA peuvent destabiliser la sécurité mondiale.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.