L’IA peut-elle déclencher des révolutions ? Les modèles de langage atteignent leurs limite
Les modèles de langage dominent aujourd’hui le paysage de l’IA, mais ne déclencheront pas la prochaine révolution scientifique sans une amélioration fondamentale. Selon Tom Zahavy, chercheur chez Google DeepMind, les grands modèles de langage (LLM) fonctionnent dans des cadres rigides axés sur les données, excellant dans la reconnaissance de motifs mais incapables de générer des idées véritablement nouvelles. Dans un nouvel article intitulé Les LLM ne peuvent pas sauter, Zahavy affirme que ces systèmes manquent d’échafaudage cognitif nécessaire pour innover, laissant la place à une autre forme d’IA : les modèles du monde.
Au-delà des mots pour accéder à la compréhension
La critique de Zahavy repose sur une limite majeure : les modèles de langage traitent le texte sans saisir les mécanismes sous-jacents du monde qu’ils décrivent. Ils produisent des phrases plausibles basées sur des corrélations statistiques, et non sur un raisonnement causal ou une compréhension approfondie. Cela en fait des outils puissants pour la synthèse et la communication, mais mal adaptés à l’impulsion de changements de paradigme en science, où l’innovation exige non seulement de la fluidité, mais aussi de l’intuition. L’article suggère que les modèles du monde—des systèmes d’IA conçus pour simuler et prédire les dynamiques physiques et causales—pourraient combler ce fossé en permettant aux machines de « voir » au-delà du texte, en simulant des environnements et en testant des hypothèses in silico.
Un appel à renforcer l’architecture cognitive
Les implications vont au-delà des progrès incrémentaux. Si les LLM seuls ne peuvent catalyser de révolutions, comme le souligne Zahavy, le domaine doit se tourner vers des architectures intégrant la causalité, les contraintes et les objectifs. Les modèles du monde, selon lui, intègrent ces éléments par conception, permettant à l’IA de raisonner sur des scénarios invisibles et de proposer des expériences que les modèles de langage négligeraient. Ce passage de l’imitation statistique au raisonnement structuré pourrait redéfinir le rôle de l’IA dans la recherche, de la découverte de médicaments à la science des matériaux, où comprendre pourquoi quelque chose fonctionne est tout aussi crucial que prédire que cela fonctionne.
Pourquoi est-ce important ?
Les enjeux sont clairs : sans dépasser l’IA centrée sur le langage, les percées pourraient rester limitées, cantonnées à l’optimisation plutôt qu’à la découverte. L’argument de Zahavy reformule le débat : il ne s’agit pas de savoir si l’IA transformera la science, mais comment. Pour les chercheurs et les technologues, le message est pragmatique : investir dans les modèles du monde ou risquer de concevoir des outils qui excellent dans la conversation mais peinent à innover. Le prochain bond scientifique pourrait dépendre de systèmes qui ne se contentent pas de parler du monde, mais le modélisent.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.