Un modèle d’IA miniature surpasse les géants dans les tâches de raisonnement
Un modèle d’IA de 3 milliards de paramètres vient de surpasser des systèmes cent fois plus imposants dans des évaluations de mathématiques et de programmation, sans recourir à une échelle colossale. Développé par des chercheurs de Sina Weibo Inc, le VibeThinker-3B prouve qu’une approche efficace peut obtenir des résultats là où cela compte, en consommant une infime partie des ressources.
Un modèle spécialisé conçu pour un raisonnement vérifiable
Contrairement aux systèmes d’IA polyvalents, le VibeThinker-3B est exclusivement dédié aux problèmes dont les réponses peuvent être validées, comme les mathématiques ou la programmation. Il repose sur la base Qwen2.5-Coder-3B et est amélioré via un post-entraînement plutôt qu’un préentraînement depuis zéro. Le modèle exploite le fine-tuning supervisé, l’apprentissage par renforcement et l’autodistillation pour affiner ses capacités de raisonnement. Son entraînement suit le principe Spectrum-to-Signal (SSP), introduit précédemment dans le VibeThinker-1.5B. Dans cette méthode, le fine-tuning supervisé génère un large espace de chemins de raisonnement valides (« Spectrum »), tandis que l’apprentissage par renforcement amplifie les plus fiables (« Signal »).
Cette approche cible les tâches de raisonnement vérifiables, où la justesse peut être confirmée. Pour les tâches nécessitant des connaissances générales, l’équipe de recherche recommande d’utiliser des modèles plus grands et polyvalents.
Performances sur benchmarks : compact mais puissant
Sur des évaluations standardisées, le VibeThinker-3B rivalise avec des modèles bien plus imposants. Il obtient un score de 94,3 sur AIME26, comparable à des systèmes comme DeepSeek V3.2 (671 milliards) et Kimi K2.5 (1 000 milliards). Sur LiveCodeBench v6, il atteint 80,2 en Pass@1, et lors d’un test de programmation hors distribution basé sur des concours récents de LeetCode (du 25 avril au 31 mai 2026), il a validé 123 des 128 soumissions en Python dès la première tentative, soit un taux d’acceptation de 96,1 % sur des problèmes inédits.
Ses performances sont optimales dans les domaines vérifiables comme les maths et la programmation, bien qu’il reste en retrait face aux modèles plus grands sur des évaluations axées sur les connaissances, comme GPQA-Diamond.
Déploiement pratique simplifié
Avec un poids d’environ 6 Go en format BF16, le VibeThinker-3B s’exécute efficacement sur un seul GPU. Il nécessite des bibliothèques standard comme transformers≥4.54.0 et recommande des outils d’inférence optimisés tels que vLLM==0.10.1 ou SGLang≥0.4.9.post6. Le modèle est publié sous licence MIT open source, ce qui le rend accessible pour la recherche et le développement.
Pour les équipes cherchant une solution d’IA économique en raisonnement sans sacrifier les performances, le VibeThinker-3B constitue une alternative séduisante aux modèles surdimensionnés.
Source : MarkTechPost. Synthèse éditoriale assistée par IA — TechnoExpress.