OpenAI réduit la latence et les coûts de ses IA vocales en temps réel
OpenAI vient de publier deux nouvelles voix dans son offre Realtime API, promettant des agents conversationnels plus nets, plus rapides et moins chers. Les nouveaux modèles GPT-Realtime-2.1 et son frère allégé GPT-Realtime-2.1-mini arrivent avec une meilleure écoute des indices alphanumériques et une capacité à rester audibles pendant leur traitement. Les deux versions réduisent la latence p95 d’au moins 25 %, grâce à un cache plus efficace qui diminue à la fois les temps d’attente et les coûts pour les sessions prolongées.
Un seul cerveau, pas une chaîne de traitement
L’API Realtime évite le détour classique du texte-parlé puis parlé-texte en tout gérant via un seul modèle, maintenant des échanges vifs et les nuances tonales intactes. Le GPT-Realtime-2.1-mini intègre même le raisonnement sous le même toit, lui permettant de planifier une étape, d’appeler un outil externe, puis d’énoncer sa réponse sans jamais marquer de pause en cours d’opération. Un progrès crucial, car les agents vocaux s’arrêtaient autrefois pendant les appels d’outils, laissant les utilisateurs se demander si la ligne avait été coupée. Ce modèle allégé annonce ses actions à voix haute – « Je vérifie cette commande maintenant » – et poursuit le dialogue pendant son travail, garantissant une cohérence des flux multi-étapes.
Effort réglable, factures plus claires
Les développeurs peuvent ajuster l’effort de raisonnement, du minimal à l’extra-élevé, pour équilibrer vitesse et profondeur. Un effort faible maintient une latence basse pour les échanges routiniers, tandis qu’un niveau élevé consomme plus de jetons et de temps. OpenAI recommande de débuter avec un réglage bas pour la plupart des bots de production. Côté tarification, l’avantage majeur réside dans le cache intelligent : le coût de l’audio en cache pour la version mini tombe à 0,30 $ pour 1 million de jetons, contre 10 $ pour de l’audio neuf, et les jetons texte en cache s’élèvent à 0,06 $, soit un dixième du prix d’une saisie en direct. Les sessions profitent dès le deuxième tour, une fois l’invite système verrouillée dans le cache.
Quel modèle pour quelle tâche ?
Le GPT-Realtime-2.1 s’impose quand un raisonnement en temps réel, l’usage d’outils, le suivi d’instructions ou un comportement d’agent vocal poussé sont nécessaires. Son pendant allégé offre les mêmes capacités à moindre coût et latence, ce qui en fait un choix idéal pour les assistants vocaux à haut volume et faible friction. Ensemble, ces modèles donnent aux développeurs plus de leviers pour ajuster performances et tarifs sans réécrire leur infrastructure.
Source : MarkTechPost. Synthèse éditoriale assistée par IA — TechnoExpress.