Rechercheurs critiquent les garde-fous de sécurité de Fable
Anthropic a récemment suscité une controverse parmi les experts en sécurité informatique avec son dernier modèle d'IA. La nouvelle offre de la société, baptisée Fable, est critiquée pour ses mesures de sécurité jugées trop restrictives pour le travail légitime de réseautage.
Garantisseur à double face
Les garde-fous de Fable sont conçus pour prévenir l'usage non autorisé, mais les professionnels en sécurité suggèrent que ces mesures vont trop loin. Les mesures de sécurité du modèle semblent bloquer des tâches courantes de recherche en sécurité, comme la détection de vulnérabilités et les simulations de tests d'intrusion. Les chercheurs qui comptent sur l'IA pour identifier les failles ou tester leurs défenses se trouvent maintenant confrontés à de nouveaux obstacles avec Fable.
Équilibre entre sécurité et utilité
Anthropic a promu Fable comme un outil destiné aux entreprises, mettant en avant la sécurité comme une fonctionnalité clé. Cependant, les restrictions actuelles du modèle pourraient freiner son adoption par les équipes de sécurité. Certains experts suggèrent que ces garde-fous trop prudents pourraient pousser les chercheurs à utiliser des alternatives moins sécurisées ou même empêcher l'utilisation d'IA dans la sécurité informatique. Cette débat souligne le défi continu de trouver un équilibre entre l'innovation et la mitigation du risque en développement des IA.
Source : TechCrunch. Synthèse éditoriale assistée par IA — TechnoExpress.