Les États-Unis réclament des modèles d’IA inviolables : Anthropic peut-il y parvenir ?
Selon des sources, le gouvernement américain ferait pression sur Anthropic pour qu’il livre quelque chose qu’il ne serait peut-être pas en mesure de fournir : des grands modèles de langage (LLM) inviolables. Des responsables du Département du Commerce, de la CIA et le conseiller scientifique Michael Kratsios auraient entamé des discussions avec l’entreprise après le lancement de Fable 5 sans attendre l’approbation fédérale. Un haut fonctionnaire aurait ainsi résumé la situation : « Ils nous ont doublés », reflétant la frustration face à ce qu’il considère comme un manque de supervision.
Des attentes sans précédent
L’exigence de modèles d’IA « inviolables » dépasse les pratiques de sécurité classiques. Les systèmes actuels, y compris ceux développés par Anthropic, intègrent des protections robustes mais restent vulnérables à des attaques sophistiquées. La demande du gouvernement pour une sécurité absolue soulève des questions : un tel niveau est-il atteignable ? Même réaliste, compte tenu de l’évolution constante des menaces cyber ?
Conséquences pour le secteur
Cette situation met en lumière les tensions croissantes entre innovation et réglementation dans le domaine de l’IA. Des entreprises comme Anthropic évoluent dans un secteur en perpétuelle accélération, où la rapidité de mise sur le marché entre souvent en conflit avec les exigences de contrôle des autorités. Si le gouvernement américain impose des règles plus strictes, cela pourrait établir un précédent mondial sur la manière dont les modèles d’IA sont conçus et déployés, risquant de freiner les avancées tout en cherchant à renforcer la sécurité.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.