Anthropic lance un détecteur de filigrane pour les textes de Claude
Anthropic met à disposition une API de détection de filigrane permettant aux organisations, plateformes et chercheurs de vérifier si un texte provient de son modèle d’IA Claude. Cet outil arrive à point nommé, alors que les inquiétudes grandissent face aux fausses informations générées par l’IA et à la nécessité de distinguer les contenus synthétiques de l’écriture humaine.
Un schéma connu, perfectionné
Le système de détection s’appuie sur l’approche SynthID de Google, qui intègre des signaux subtils et invisibles dans les productions de l’IA en modifiant discrètement l’aléatoire des choix de mots lors de la génération. Selon Anthropic, cette méthode préserve la qualité du texte tout en permettant de remonter à sa source. L’entreprise reconnaît certaines limites : les passages factuels, les extraits de code ou les textes fortement modifiés peuvent perturber la détection, laissant des failles où les filigranes s’affaiblissent ou disparaissent.
L’importance du contrôle externe
Pourquoi cela compte
Les outils de détection de filigrane comme celui-ci répondent à une demande croissante de transparence dans les contenus générés par l’IA. Bien qu’ils ne puissent éliminer totalement les abus – notamment en cas de modification ou de code –, ils offrent une piste plus claire pour l’imputabilité. Pour les secteurs reposant sur une communication authentique, cette API permet d’automatiser un premier filtrage sans recourir à des classifieurs opaques. Le vrai défi résidera dans la résistance des filigranes face aux modifications réelles et dans l’adoption rapide de normes compatibles par d’autres fournisseurs d’IA.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.