Un incident d'exposition de données clients lors du partage en direct ChatGPT
Je me souviens de cette incident particulièrement perturbant qui m'a permis de comprendre l'importance d'un outil automatisé pour éviter les erreurs similaires.
Un jour, j'étais sur une conversation en direct avec mon collègue, où nous avons été approché par ChatGPT pour un prompt spécifique. Pendant la conversation, je me suis rendu compte que trois messages provenaient d'une autre personne qui avait déjà passé des éléments de sa base de données à l'intérieur de notre conversation.
Je m'aperçus rapidement que c'était une situation inhabituelle et dérangeante. J'ai eu peur que quelqu'un puisse avoir accès à ces informations sensibles, même s'il n'y a pas eu d'accroche ou d'accord pour le partager.
Le problème est qu'en tant que développeur de ChatGPT, je suis souvent confronté à des situations où les données clients se transforment spontanément. Les messages sont partagés sans aucune précaution, et même si on ne sait pas qui a pu s'y introduire, il y a une grande probabilité qu'ils soient exposés.
Le but était de trouver un moyen d'automatiser cette étape pour éviter le risque de leaks. J'ai donc imaginé une solution qui serait locale uniquement, n'envoyant jamais de contenu vers la source de données. De plus, elle devrait blanchir automatiquement les éléments sensibles et ne pas exposer les pages avant qu'elles soient visibles.
Cette technologie aurait eu un impact significatif sur ma façon d'utiliser ChatGPT, en me permettant de gérer efficacement mes conversations sans m'inquiéter constamment du contenu que je partage.
Source : DEV Community. Synthèse éditoriale assistée par IA — TechnoExpress.