Les garde-fous de l’IA freinent la cybersécurité, alertent les experts
Les outils alimentés par l’IA sont de plus en plus utilisés pour découvrir et exploiter des vulnérabilités logicielles, mais les mêmes garde-fous conçus pour éviter les mauvais usages entravent désormais la recherche offensive légitime, selon les experts.
Les chercheurs qui traquent des failles inconnues et élaborent des preuves de concept d’exploits affirment que les filtres de sécurité d’OpenAI et d’Anthropic bloquent souvent des demandes anodines dès qu’elles impliquent des détails techniques sur des attaques, du code d’exploit ou des méthodes de compromission de systèmes. Ces restrictions ralentissent les enquêtes visant à prévenir des attaques réelles en révélant des faiblesses avant que des acteurs malveillants ne les exploitent.
L’obstacle en laboratoire
« Il devient de plus en plus difficile d’utiliser l’IA pour aider aux exercices de tests d’intrusion ou à l’analyse de vulnérabilités », déclare un consultant en sécurité qui a souhaité rester anonyme. « Si je demande un script Python simulant une contournement d’une règle courante de pare-feu, le modèle refuse souvent, alors que mon objectif est d’améliorer les défenses. » D’autres rapportent que les demandes d’analyse d’échantillons malveillants ou de création de charges utiles sur mesure se heurtent à des avertissements génériques sur le contenu dangereux, forçant des contournements manuels qui retardent des découvertes critiques.
Ce problème illustre une tension plus large : les laboratoires d’IA défendent leurs filtres au nom de la réduction des dommages, tandis que les chercheurs rétorquent que des restrictions trop larges laissent des failles dans le renseignement sur les menaces et retardent les correctifs. Certains laboratoires commencent à proposer des environnements contrôlés pour les chercheurs vérifiés, mais l’adoption reste limitée et le processus de validation peut ajouter des semaines à des échéances déjà serrées.
Conséquences pour le secteur
Les équipes de sécurité offensive jouent un rôle clé dans la réduction des risques en identifiant des failles avant les attaquants. Lorsque les outils d’IA ne peuvent plus les assister – que ce soit pour résumer des techniques d’exploit, générer des charges utiles ou aider à disséquer des malwares –, le résultat est une analyse plus lente et, potentiellement, des corrections retardées. Les laboratoires et les décideurs pourraient devoir affiner les garde-fous pour distinguer l’usage nuisible de la recherche légitime, en équilibrant sécurité et détection rapide des menaces.
Enjeux majeurs
Si les systèmes de sécurité de l’IA bloquent systématiquement la recherche de vulnérabilités, les défenseurs pourraient perdre un allié précieux dans la lutte contre les cybermenaces. Des filtres trop restrictifs pourraient élargir la fenêtre entre la découverte d’une faille et sa correction, offrant plus de temps aux adversaires pour l’exploiter. L’enjeu est clair : les garde-fous affinés ne doivent pas seulement prévenir les mauvais usages, ils doivent aussi permettre le travail qui maintient les systèmes en sécurité dès l’origine.
Source : TechCrunch. Synthèse éditoriale assistée par IA — TechnoExpress.