Top Tweets for #ProBa

Pour celles et ceux qui se posent des questions sur le phénomène technologique du moment, Jev, je vous propose un décryptage rapide de ce qui nous est parfois présenté, à tort, comme le nouveau ChatGPT. 🤦🏻 Pour faire simple : Jev est un modèle de décision, il ne sert pas à générer du contenu, mais à prendre rapidement des décisions structurées sur la base de probabilités. Son intérêt est de soulager les modèles traditionnels de certaines décisions intermédiaires utilisées dans les systèmes agentiques : choisir un outil, sélectionner un type de modèle, poursuivre ou arrêter une tâche, vérifier un résultat… 🤔 Explication plus détaillée : 1️⃣ L’IA ne se limite pas aux modèles génératifs. Ces derniers se sont imposés avec ChatGPT, mais ils sont conçus avant tout pour produire des contenus : texte, images, audio, vidéo, code… 2️⃣ Un modèle de langage comme GPT ou Claude reçoit des instructions et génère sa réponse token après token. Cette approche est extrêmement polyvalente, mais elle mobilise des ressources, notamment lorsque le système doit simplement prendre une petite décision parmi des possibilités définies à l’avance. 3️⃣ TypeSafe a lancé le 15 septembre Jev, qu'ils présentent comme un "System One Model". Sa particularité est qu'il ne génère pas de texte. Il reçoit un état et des questions structurées, puis renvoie directement des décisions probabilistes. 4️⃣ Ces décisions peuvent prendre plusieurs formes : choisir une option parmi une liste, attribuer un score ou répondre par vrai ou faux. Chaque résultat est accompagné d’une probabilité ou d’un niveau de confiance. 5️⃣ Exemple : plutôt que de demander à un LLM "Analyse cette demande et explique-moi quel agent doit la traiter", un système agentique va fournir à Jev la demande ainsi qu'une liste d’agents possibles. Jev évalue les options et renvoie directement les probabilités correspondantes. 6️⃣ L’intérêt vient du fait que ces décisions peuvent être évaluées en parallèle, sans avoir à générer une réponse mot par mot. Jev est beaucoup plus rapide et moins coûteux sur ce type de tâches très contraintes. 7️⃣ Jev n’est donc ni une alternative aux modèles génératifs comme GPT ou Claude, ni aux orchestrateurs comme ChatGPT Work ou Claude Cowork. C’est une brique spécialisée qui peut être intégrée dans un système agentique. 8️⃣ Ainsi, un agent doit prendre en permanence de petites décisions : Quel modèle utiliser ? Quel outil appeler ? Faut-il poursuivre, recommencer ou s’arrêter ? Le résultat est-il acceptable ? Faut-il demander une validation humaine ? Aujourd’hui, beaucoup de ces arbitrages sont encore confiés à des modèles de langage (qui s'acquittent parfaitement de ces tâches, mais sont très gourmands en ressources). 9️⃣ Un modèle de décision comme Jev permet de déléguer une partie de ces arbitrages à un composant spécialisé, tandis que les modèles génératifs conservent les tâches pour lesquelles ils sont réellement nécessaires : comprendre une demande complexe, raisonner, produire du contenu ou exécuter une tâche. 🔟 Les gains annoncés sont très importants : TypeSafe revendique jusqu’à 200 fois moins de latence et 450 fois moins de coût sur certains workflows par rapport à des modèles génératifs classiques. L’éditeur précise que ces chiffres correspondent probablement au haut de la fourchette des gains réels. En synthèse : Jev ne rend pas les modèles de langage obsolètes, il propose plutôt une division du travail différente. Ainsi, les tâches complexes de compréhension, de raisonnement, de production... sont réservées aux modèles génératifs traditionnels ; tandis que les nombreux arbitrages rapides et contraints nécessaires au fonctionnement des systèmes agentiques sont confiés aux modèles de décision comme Jev. 🤓 C’est peut-être là le point le plus intéressant : pour rendre les agents plus rapides et moins coûteux, il n’est pas toujours nécessaire d’utiliser un modèle puissant (ex : GPT Astra ou Claude Fable). Il est nettement plus efficace d’utiliser plusieurs modèles spécialisés, chacun pour ce qu’il sait faire le mieux. 😄 Plus d'explications ici : https://t.co/X5oDBQZhbz