Chaînes de LLM multi-fournisseurs plus fiables grâce aux vérifications sémantiques
Deux grands modèles de langage peuvent désormais s’auditer mutuellement en temps réel lorsqu’ils collaborent à travers différents fournisseurs. Cette semaine, l’outil open source NeuralBridge a intégré Correctover, un mécanisme qui vérifie chaque étape d’une chaîne d’agents pour en garantir la justesse sémantique avant de poursuivre.
Pourquoi le code HTTP 200 ne suffit pas
La plupart des systèmes qui acheminent les requêtes entre fournisseurs d’IA se contentent du niveau réseau : dès qu’ils reçoivent un 200 OK, ils supposent que la réponse est valide. Pourtant, une réponse d’IA peut sembler syntaxiquement correcte tout en omettant des entités essentielles ou en contenant des informations erronées. Un planificateur peut retourner un design sans modules clés, ou un résumeur peut négliger les avantages et inconvénients. Correctover de NeuralBridge considère ces échecs comme des violations de contrat, et non comme des exceptions.
Comment la chaîne reste intègre
Le système modélise les workflows multi-étapes sous forme de graphe acyclique orienté. Chaque nœud définit un contrat — entités requises, motifs interdits ou autres règles — que la sortie doit respecter. Après qu’un modèle KIMI (Moonshot) ait esquissé un plan, le framework vérifie que la réponse contient bien les termes « architecture » et « modules ». Si un nœud de code d’Agnes AI doit inclure « import » et « def », le moteur s’assure que ces chaînes de caractères sont présentes avant de transmettre la sortie du codeur.
Lors d’un test, un nœud d’analyse approfondie a d’abord produit une réponse conforme à l’API du fournisseur, mais échoué au contrat car elle manquait des termes « 优点 » (avantages) et « 缺点 » (inconvénients). Correctover a automatiquement basculé vers le modèle 32k de Moonshot, qui a fourni une réponse conforme. Le temps d’exécution total n’a augmenté que légèrement, passant de 28,5 secondes dans la chaîne normale à environ 30 secondes avec l’intervention de Correctover.
Ce que cela change pour les pipelines de production
Source : DEV Community. Synthèse éditoriale assistée par IA — TechnoExpress.