L'IA peut-elle vraiment oublier ? Un nouvel outil teste l'effacement des données
Lorsqu'une IA affirme avoir supprimé vos données, comment savoir si elle a vraiment oublié ? Cette question a poussé Suchita Yerramsetty à concevoir Lethe, un système d'audit inspiré du polygraphe pour la mémoire des IA. Contrairement à la plupart des démonstrations qui visent à aider l'IA à mieux retenir, Lethe vérifie si une IA peut prouver qu'elle a effectivement effacé les informations d'un utilisateur.
Le paradoxe de l'oubli dans les systèmes d'IA
Dans de nombreux secteurs, les modèles d'IA alimentent de plus en plus de bases de données vectorielles et de graphes de connaissances conçus pour mémoriser, généraliser et relier les informations. Pourtant, lorsqu'un utilisateur invoque son droit à l'oubli, comme le prévoit l'article 17 du RGPD ou la loi indienne DPDP de 2023, la simple suppression d'une ligne de données ne garantit pas l'élimination des traces dérivées. Les embeddings, les nœuds de graphe et les références croisées peuvent persister, transformant l'affirmation « nous l'avons supprimé » en une simple déclaration plutôt qu'en une preuve. Lethe transforme ce paradoxe en un processus vérifiable.
Exploiter le rappel comme surface d'attaque
Lethe s'intègre au cycle de vie de la mémoire de Cognee — mémoriser, rappeler, améliorer (via memify) et oublier — mais utilise la fonction de rappel comme vecteur d'attaque. Un agent auditeur envoie un ensemble fixe de 15 requêtes d'extraction au magasin de mémoire avant et après la suppression. Chaque requête relève de l'une des quatre catégories : questions directes, réidentification par inférence, reconstruction de données sensibles et vérifications relationnelles via les arêtes du graphe. Un juge — un modèle de langage via l'API d'Anthropic ou une alternative basée sur des règles — classe chaque réponse comme FUITE ou SÛR. Les requêtes sont figées pour garantir des comparaisons cohérentes et reproductibles.
Du rouge au vert : le moment de la vérification
Lors de tests initiaux avec un client fictif nommé Ravi Sharma, les 15 requêtes ont révélé des détails personnels. Après une suppression classique de la ligne, le score indiquait toujours des références résiduelles, car la transcription d'un autre client mentionnait connaître Ravi. Ce n'est qu'après la suppression des références croisées dans l'ensemble du graphe que le score est tombé à zéro — confirmant un effacement complet. Lethe distingue deux réalités : la suppression des enregistrements et l'effacement total d'une personne. La première peut laisser des traces ; la seconde garantit que les données ont disparu.
Source : DEV Community. Synthèse éditoriale assistée par IA — TechnoExpress.