Yzer144

[Yzer144 @yzer144]

Open-sourcing cannot be stopped, models included

[Naval @naval]

Models are the last moat in software.

AI can train on essays and rewrite them. AI can decompile software and recode it. AI can ingest art and recreate it.

But AI itself doesn’t want to be “distilled.”

Expect more software to retreat to the server and resist “distillation.”

[Yzer144 @yzer144]

Math is becoming like chess, practiced by elites as a hobby

[sui @birdabo]

this is your competition btw, a chinese watermelon seller side hustling as a chip designer.

yes, we’re absolutely cooked.

[Yzer144 @yzer144]

Quand est-ce que l’éducation supérieure française va réaliser qu’il faut privilégier l’expérience et la prise d’initiative à la longueur des études? Nos diplômés se retrouvent sans travail après 7 ans d’études quand les anglais ont déjà 3-4 ans d’XP dans les pattes.

[Yzer144 @yzer144]

@tunguz this is wilder

[Yzer144 @yzer144]

@Drone_Wars_ i received a different version

[Yzer144 @yzer144]

@centristpeater i prefer this v2.0

[Yzer144 @yzer144]

feature request @satyressrobots

[Yzer144 @yzer144]

Elephants hold whole conversations in infrasound we can’t hear

[Yzer144 @yzer144]

la boucle est-elle bouclée?

[Yzer144 @yzer144]

@bjiro_ The first question shouldn’t be the processing, it’s which inputs you sample and how wide a band you take from each. Elephants hold whole conversations in infrasound we can’t hear.

[Yzer144 @yzer144]

@bjiro_ It’s that you’d use the wrong projection

[Yzer144 @yzer144]

@bjiro_ Also I know a handful of grandmas that would like to know what their dog is saying

[Yzer144 @yzer144]

@bjiro_ donne un peu de temps à l'Europe, on arrive

[jiben @bjiro_]

Un nouveau modèle chinois vient d'entrer dans l'arène: Kimi-K3.

Et à la surprise de nombreux, il dépasse les modèles américains sur plusieurs benchmarks coding importants.

Les américains pensaient que les chinois ne savaient que faire de la distillation (=copier un modèle existant en apprenant à partir de ses réponses).

Mais ils prouvent ici qu'ils sont capables d'ajouter des méthodes ou données qui leur permettent de planter le drapeau chinois un peu plus loin dans la frontière de l'intelligence artificielle.

Encore une fois, le monde a fait l'erreur de sous-estimer les capacités des chinois à innover, réduisant leurs capacités à celles de copieur.

Déjà, "copier" des systèmes complexes n'a rien d'évident. Si les chinois sont si bons c'est parce qu'ils ont des ingénieurs excellents, une organisation stratégique, et un contrôle sur l'ensemble de la chaine de production, leur permettant facilement d'itérer à tous les niveaux de la stack technologique. Si on compare aux européens, personne n'a sorti de distillations d'aussi bonne qualité que les chinois.

Au délà, apprendre à copier est une étape importante, voire fondamentale, dans l'apprentissage. Les artistes apprennent souvent à imiter avant de découvrir leur propre style, dépassant potentiellement ceux de leurs maitres.

En IA notamment, la distillation est méprisée car considérée comme du vol. Plutôt que de faire ses pipelines de données et d'entrainer le modèle sur un curriculum complexe, la distillation permet d'apprendre directement d'un modèle intelligent. Par des requêtes API, on collecte une grande banque de question-réponses pertinentes, qui constitue un signal d'apprentissage simple et riche, à partir duquel on entraine directement le nouveau modèle.

Lors des précédentes distillations, les chinois démontraient déjà un niveau de connaissance et développement avancé car ils ont créé, utilisé et partagé des méthodes qui ont dessiné des directions de la R&D mondiale dans l'IA (en données, en architecture, en infrastructure, en méthode d'inférence et de training). Par exemple, le tout nouveau modèle Inkling de Thinking Machines suit largement l'architecture MoE de Deepseek V3 (2024). A l'inverse presque, c'est le monde qui copie la Chine.

On se retrouve donc dans une course multipolaire à l'intelligence dont le rythme et les financements sont dictés par la peur d'être en retard. Et en misant sur l'opensource, les chinois s'assurent de diffuser leur influence technologique et culturelle tout en fragilisant le modèle économique des Frontier Labs américains, qui doivent redoubler d'ingéniosité pour ne pas concéder leur avance.

Alors que chine et etats-unis s'affrontent dans ce combat sanglant de genèse d'intelligence alien, on peut se demander à quel jeu joue l'europe.

[Yzer144 @yzer144]

@bjiro_ Just a spider

[David Lisnard @davidlisnard]

Économisons un comité :

ALEEEEEEEERTE !

Depuis quelques années, et même décennies.

[Tesla Optimus @Tesla_Optimus]

Daily walks help clear your mind

[Alex Immerman @aleximm]

Waymo's market share is now equal to Lyft within SF. Incredible.

Network effects is one of the best sources of defensibility. But it's proven to be not that important in ridesharing.

You need a minimum network size, but once you have that, there are diminishing returns. In each geo, Uber and Lyft need enough drivers to have reasonable wait times. Once wait times hit that acceptable threshold, the incremental driver doesn't improve the rider experience (eg if my Uber ride is coming in 2-4 minutes, I don't really care about the wait times getting faster).

When Waymo launched in August 2023, Uber and Lyft were at 66% and 34% share in SF.

15 months later in November 2024, Waymo is at 22% - the same as Lyft - with Uber at 55%.

Both Uber and Lyft lost low double digit % pts of market share, but it's more painful for Lyft. Lyft gave up ~1/3 of their share. Uber lost ~1/6.

This is just when comparing all rides with pickups and dropoffs inside Waymo’s SF operating boundary (ie excludes any ride to / from the airport).

Anecdotally, Waymo's wait times are longer than Uber and Lyft because they don't have enough cars on the road. But they are close enough to that acceptable threshold, that their superior product (clean, nice cars, quiet drivers, etc) tips the riders in their direction.

It's possible when Waymo puts more cars on the road and reduces wait times to be in line with Uber and Lyft, their share could climb even faster.