Merci pour ta réponse, j'ai rarement vu ces infos sur X !
Pour le moment je développe des agents pour accélérer les workflows de ma boite mais j'ai l'impression que la demande dans les PME est immense.
J'ai le sentiment qu'on revit un moment comme à la fin des années 90 et l'arrivée d'internet. Et quand je vois les opportunités que ça a donné à ceux qui maitrisaient le web pendant 20 ans, je me dis qu'on a à peine effleuré la surface.
C’est un modèle spécialisé, ça permet de prendre certaines tâches que sont capables de traiter les llm et de les exécuter pour 100 fois moins cher et 100 fois plus vite.
Les tâches en question sont des tâches de classification. Par exemple, JEV lit tes mail et peut immédiatement trier les demandes de tes clients en 3 catégories que tu lui donnes : support / retour devis / demande de devis.
C’est les grosses lignes mais il y a beaucoup de workflows qui peuvent en profiter.
C’est un modèle spécialisé, très efficace pour traiter des demandes pour lesquelles le résultat appartient à un ensemble fini de réponses possibles.
Par exemple, trier des demandes client par catégorie : urgent / support / demande de devis. C’est une généralisation des modèles de classification.
Tu peux déjà faire ça avec un llm classique mais JEV divise d’un facteur 100 le coût par rapport à gpt sol.
J’ai l’impression qu’on est beaucoup à se poser ces questions et à se heurter au même mur.
Perso j’ai un skill qui permet de bâtir / modifier l’architecture haut niveau avant de toucher au code.
Cette architecture est progressivement déclinée jusqu’à obtenir des fonctions simples qui peuvent être implémentée.
Ensuite seulement l’agent traduit chaque fonction en code opérationnel.
Mes tests sont rédigés automatiquement en face de chaque fonction.
C’est balbutiant mais ça me permet de garder la cohérence quand plusieurs agents bossent en même temps. Parce que leur référence n’est pas la base de code mais cette archi.
Jev peut faire fondre nos coûts d’API.
Comme tout modèle spécialisé, toutes les apps ne pourront pas en profiter. Mais pour celles qui vont l’utiliser, les économies vont être massives. Et sans même parler de la latence.
Perso je build un générateur de plans d’entraînement qui tourne sous Terra. Et avec une refonte je pense que je pourrais intégrer Jev. Les benchmarks de type safe m’indiquent une division par 50 du coût API, c’est juste énorme !
@g_aubry17 Je t’avoue que tu m’as perdu dans ta deuxième réponse. Il faut que je me documente plus sur les archi de mémoires. Pour l’instant j’en suis encore aux modèles d’embedding et aux recherches vectorielles
Intéressant et facile à mettre en place pour tous ceux qui développent leur harness et surtout la partie "brain".
Ici pas de gestion complexe du contexte, juste un fichier MAP.md dans chaque dossier et géré par l'agent.
Il répertorie tous les liens entre fichiers, ça permet à l'IA d'avoir une carte et de trouver plus facilement l'info pour répondre à une demande.
Intéressé de savoir comment ceux qui implémentent leur propre système règlent le problème.
@FuturLucide J'enterrerais pas tout de suite anthropic... en début d'année avec claude code, les modèles opus, la sortie de cowork, je lisais partout que openAI était terminé.
A voir ce qu'ils nous sortent dans les prochains mois !
Je serais bien intéressé de voir comment ils ont découpé leur code. Qui a définit l’architecture, comment est-ce qu’ils ont tracé les frontières et les interfaces entre les 36 morceaux.
Je vois pas comment ils arrivent à maintenir cette cohérence avec leurs 1300 agents, franchement bravo