FineBooks identifie et corrige les erreurs d'OCR affectant l'entraînement de l'IA
Depuis des années, des chercheurs alimentent de grands modèles de langage avec des livres numérisés sans se rendre compte d’un défaut caché de ces scans : le logiciel d’optical character recognition (OCR, reconnaissance optique de caractères) qui transforme les pixels en texte constitue lui-même un goulot d’étranglement. Une collaboration entre Hugging Face et EleutherAI, nommée FineBooks, quantifie désormais le problème et propose une solution en développement.
Un référentiel de 2 000 pages
FineBooks a testé 14 moteurs d’OCR open source sur plus de 2 000 pages de livres historiques. Le meilleur outil, dots.mocr, a atteint une précision de 97,6 % au niveau des caractères pour un coût inférieur à deux dollars par millier de pages – un prix abordable pour une mise à l’échelle et une précision suffisante pour la plupart des pipelines d’entraînement de l’IA. Pourtant, l’équipe souligne que même ce niveau reste insuffisant pour les transcriptions universitaires, où chaque ligature variante et glyphe archaïque compte.
Pourquoi l’OCR historique échoue encore
Les pages scannées des XVIe au XIXe siècles regorgent de traces d’encre, de polices ornées et d’orthographes obsolètes. Les systèmes d’OCR grand public, entraînés sur des corpus modernes, peinent à distinguer un long-s d’un f, ou à reconstituer des caractères endommagés par la transparence de l’encre sur le papier. Ces erreurs se répercutent en aval : les modèles de langage apprennent des statistiques « bruitées » qui peuvent fausser des tâches allant de la reconnaissance d’entités nommées à l’analyse littéraire.
Vers des données plus propres
L’initiative FineBooks est la première à quantifier, à cette échelle, le compromis entre vitesse, coût et précision. En open-sourçant à la fois le jeu de données et le référentiel, le projet invite la communauté à améliorer les modèles d’OCR spécifiquement pour l’imprimé historique. Pour les développeurs d’IA, le message est clair : si votre corpus d’entraînement repose sur des livres numérisés, auditer la chaîne de traitement de l’OCR pourrait être aussi crucial que le choix de l’architecture du modèle.
Enjeu majeur
Une OCR défaillante ne se contente pas d’ajouter du bruit – elle peut ancrer des biais historiques dans les systèmes d’IA avant même le début de l’entraînement. FineBooks démontre qu’une méthode économique existe désormais pour nettoyer cette chaîne, mais le travail est loin d’être terminé. Tant que la précision de l’OCR pour les œuvres imprimées anciennes n’atteint pas des niveaux quasi parfaits, les modèles de langage hériteront des particularités des imprimeurs d’il y a 500 ans.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.