Claude Code on desktop now supports iPhone Duo in the iOS simulator (public beta).
You can run your app on Duo next to your conversation and Claude can fold and unfold the device to test each layout.
Programming Languages Ranked by Difficulty
🔥 Assembly - Very Hard
🔥 C++ - Very Hard
🔴 Rust - Hard
🔴 Haskell - Hard
🔴 Erlang - Hard
🟠 C - Medium-Hard
🟠 Scala - Medium-Hard
🟡 Java - Medium
🟡 Kotlin - Medium
🟡 TypeScript - Medium
🟡 Swift - Medium
🟢 Python - Easy
🟢 JavaScript - Easy
🟢 Go - Easy
🟢 Ruby - Easy
On ne dira jamais assez à quel point Dario Amodei est un génie et un visionnaire. Je viens de lire son texte “Big Blob of Compute”, écrit en 2017 (communication interne à OpenAI, publiée ci-dessous par Kevin Roose). On croit y lire une analyse rétrospective de ce qui a permis les succès des LLM tellement c’est prescient.
Quelques extraits (et mes commentaires) :
“J’émets l’hypothèse du « gros bloc de calcul » (Big Blob of Compute, ou BBOC). Produire un comportement intelligent implique avant tout de fournir une grande masse de capacité de calcul, dotée d’une structure minimale, puis à façonner cette masse de calcul par des interactions avec un environnement riche. [...] Les algorithmes qui cherchent à prescrire rigidement ce que le calcul doit faire, ou la manière dont il doit être réparti entre les supposés « morceaux » de la tâche (telles que les humains les conçoivent) ont tendance à donner des résultats médiocres. Plus généralement, les algorithmes comptent plus en négatif qu’en positif : il est possible de concevoir des architectures désastreuses qui entravent la propagation des informations dans le réseau de neurones, mais il est difficile de faire mieux qu’un bloc non structuré. Et il est difficile, voire impossible, de créer un algorithme qui pousserait l’agent à faire autre chose que ce qu’impliquent ses données et son processus d’entraînement.”
⇒ Deux ans avant Sutton, Amodei défend la “bitter-lesson” (les algorithmes d’apprentissage simples permettant d’exploiter la puissance de calcul battront ceux dans lesquels on injecte notre compréhension du problème).
Amodei listait ensuite les sept ingrédients qui allaient selon lui compter le plus sur le chemin vers l’AGI. En voici quelques-uns et mes commentaires.
“Les paramètres. L’agent a besoin de pouvoir conserver durablement les informations qu’il apprend sur la tâche générale pendant l’entraînement, et de stocker temporairement celles qu’il apprend sur un cas particulier de cette tâche pendant l’inférence. [..] Sans suffisamment de paramètres, l’agent n’apprendra pas correctement la tâche.”
⇒Amodei ne s’inquiète pas de modèles trop paramétrés (capables de mémoriser leurs données d’entraînement et risquant donc de mal généraliser), seulement de modèles trop petits, incapables d’extraire dans toute leur finesse les relations structurant la donnée. La découverte du phénomène de double descente (passé une certaine taille, des réseaux immenses généralisent mieux) lui a donné raison, et les réseaux n’ont cessé de grossir depuis.
“La quantité d'expériences. L’agent a besoin d’assez d’expérience en agissant dans l’environnement où la tâche doit être accomplie. J’emploie le mot « expérience » plutôt que « données », parce que des données statiques ne sont qu’un cas particulier d’interaction avec un environnement dynamique.”
⇒ Amodei avait bien sûr raison sur l’importance fondamentale de la quantité de données. Les LLM ont commencé à donner des résultats intéressants grâce à l’apprentissage auto-supervisé (bonne réponse = prochain mot dans un texte) qui a rendu exploitable toute la production textuelle humaine et augmenté de plusieurs ordres de grandeur la donnée d'entraînement. Et il avait raison de parler de “d'expérience”, puisque l’apprentissage par renforcement (dans un contexte de plus en plus agentique) est désormais responsable d’une grande partie des progrès.
“Distribution de l’expérience. La distribution de l’expérience pendant l’apprentissage doit être telle que la manière la plus simple de bien performer sur les tâches d’entraînement permette aussi de bien performer sur des cas particuliers plus tard. Une façon d’y parvenir est [...] que les tâches d’entraînement varient de telle sorte qu’il faille moins de bits pour trouver leurs points communs de haut niveau que pour résoudre chaque tâche séparément. Ainsi, même si la tâche de test est très différente des tâches d’entraînement, l’agent réussira tant que ces points communs de haut niveau sont préservés.”
⇒ À mon sens le passage le plus brillant. L’intelligence générale a fini par émerger chez les LLM justement parce qu’on les a entraînés sur une distribution de textes et de problèmes extrêmement vaste. Si on l’entraînait uniquement sur des recettes de cuisine, le réseau pourrait se contenter de retenir quels ingrédients vont ensemble et combien de temps ils cuisent (suffisant pour prédire le prochain mot). Si on l’entraînait uniquement sur des notices de montage de meuble Ikéa, il pourrait retenir quelles vis vont où. Si on l’entraîne sur les deux, il sera poussé à extraire ce qui est commun aux deux, par exemple l’idée de procédure, avec des étapes ordonnées dont la suivante dépend des précédentes. Parce que ces briques se situent à un cran d’abstraction plus haut, elles pourront être plus tard mobilisables dans un 3ème contexte. Et si on entraîne le réseau à prédire le prochain mot non seulement sur la cuisine et Ikea mais aussi sur du code informatique, du droit, des fictions, de la stratégie militaire, etc., alors les briques communes sont très élevées en abstraction, et deviennent indiscernables d’une intelligence générale !
Amodei avait pressenti qu’avec suffisamment de puissance de calcul et de variété dans la donnée, la descente de gradient était vouée à tomber sur l’intelligence générale comme représentation interne utile. Et compris qu'à l'inverse, perfectionner des algorithmes d’apprentissage pour apprendre à des agents à jouer à Atari (beaucoup de chercheurs y étaient à l’époque occupés) ne servait pas à grand-chose car la distribution des données était trop étroite.
(C’est d’ailleurs parce que l’être humain, dans sa niche écologique, affrontait une variété de défis bien plus large que les autres espèces, que l’évolution lui a donné l’intelligence générale. Doter l’homme d’un module cognitif spécialisé pour chaque défi n’était pas la solution la plus efficace. Chaque module cognitif concret n’aurait servi qu’à un défi alors qu’une capacité au raisonnement plus abstrait pouvait servir à tout. Or l’évolution, comme la descente de gradient, favorise la compression…)
Amodei revient sur cette idée plusieurs fois dans sa note:
“Lorsque les réseaux de neurones actuels généralisent mal, on en parle souvent comme s’il s’agissait d’un défaut algorithmique. Mais, d’après mon expérience, les réseaux de neurones généralisent mieux lorsqu’on les expose simplement à une distribution de données plus large, qui les oblige à trouver une solution générale plutôt qu’à mémoriser quelques cas particuliers.”
Ou encore :
“Des réseaux de neurones exposés à une grande variété d’environnements qui n’ont en commun que des similitudes de haut niveau (par exemple les lois de la physique) convergeront inévitablement, si leur forme et leur structure sont bien organisées, vers des paramètres qui représenteront ces lois de la physique.”
uma boa documentação de design é essencial pra conseguir dar mais liberdade para os agentes construírem a feature de cabo a rabo
eu praticamente não preciso mais instruir o agente com ajustes finos de UI, minhas iterações com design são quase todas voltadas a fluxo do usuário