The largest decentralised LLM pre-training run in history.
SN3 @tplr_ai trained Covenant-72B across 70+ contributors on open internet infrastructure.
Now it’s being discussed by @chamath with @nvidia CEO Jensen Huang.
Distributed, open-weight model training on Bittensor is getting started.
On the @theallinpod this week, @chamath asked @nvidia CEO Jensen Huang about decentralized AI training, calling our Covenant-72B run "a pretty crazy technical accomplishment."
One correction: it's 72 billion parameters, not four. Trained permissionlessly across 70+ contributors on commodity internet. The largest model ever pre-trained on fully decentralized infrastructure.
Jensen's answer is worth hearing too.
Les Français nourrissent un scepticisme viscéral à l'égard de la richesse.
Contrairement à d’autres cultures où la réussite financière est célébrée comme le juste fruit du travail, l'inconscient collectif national regarde l'enrichissement avec suspicion et le profond ressentiment d’un peuple dont, comme le décrivait Tocqueville, la véritable passion n'est pas la liberté mais l’égalité, aujourd'hui comprise comme un nivellement par le bas.
Dans ce paysage mental, la réussite individuelle est une insulte à la condition commune. Quand un membre du corps social entreprend et s'élève au-dessus du lot, l’instinct français est rarement d'applaudir.
Et si cette personne échoue, ou pire, s’il tombe aux mains d’un criminel, un sentiment de satisfaction malveillante traverse l'opinion publique, qui y voit une forme tordue de justice cosmique : le crime vient corriger l’insolence de la fortune.
Cette disposition psychologique est aujourd’hui exacerbée par un narratif politique et médiatique qui dépeint la DeFi comme le domaine réservé des voleurs, des fraudeurs et des blanchisseurs d’argent.
Lorsqu'un entrepreneur est séquestré avec sa famille, torturé et extorqué de ses actifs, le public s'imagine un opportuniste déchu, un escroc qui subit les conséquences d’avoir triché dans un jeu à somme nulle.
Dépouillé de son humanité avant de l'être de ses biens, l’entrepreneur est réduit à la caricature du parvenu cupide dont le supplice devient une catharsis sociale.
La foule savoure une satisfaction méprisable, se rassurant à bon compte : il n'a, après tout, que ce qu'il mérite.
Sous couvert de régulation, l’État organise la vulnérabilité de ces entrepreneurs.
Par le biais de directives européennes et de l’asphyxie réglementaire nationale, l’État compile des données patrimoniales prêtes à l’emploi pour les réseaux criminels. Dans un pays où les fuites de données étatiques sont devenues chroniques et où la corruption et la vénalité de certains fonctionnaires n'est plus un secret, cette transparence forcée est une condamnation.
Le contrat social est ici doublement rompu. D’un côté, l’État prélève une fiscalité confiscatoire au nom d'une solidarité de façade. De l’autre, il faillit à sa mission régalienne première : la sécurité des biens et des personnes.
Pire, les victimes sont blâmée pour leur prétendue ostentation, trahissant ce vieux réflexe de jalousie sociale qui détruit le pays de l'intérieur.
Face à cette solitude absolue, les victimes n'ont d'autre choix que d’organiser leur propre sécurité, un défi face à des lois restrictives sur la légitime défense, ou de s'exiler.
C’est alors que la vindicte populaire les rattrape une dernière fois.
Ceux-là mêmes qui détournaient le regard face à leur détresse les pointent soudain du doigt, les taxant de traîtres ou d’évadés fiscaux.
La France les laisse sans défense face à une criminalité abjecte, mais s'offusque avec une hypocrisie rare lorsqu’ils cherchent la sécurité en Suisse, ou ailleurs.
La société française affiche une indifférence glaciale pour le sort de ses entrepreneurs, et un mépris particulier pour ceux de la crypto.
Le message envoyé à l’écosystème fait froid dans le dos : bâtissez si vous le voulez, mais sachez que vous êtes, et resterez, complètement seuls.
We just completed the largest decentralised LLM pre-training run in history: Covenant-72B. Permissionless, on Bittensor subnet 3.
72B parameters. ~1.1T tokens. Commodity internet. No centralized cluster. No whitelist. Anyone with GPUs could join or leave freely.
1/n
@leroidesrats@Tribouletfr N’importe quelle personne censée demande un certificat sur lequel il est stipulé l’origine de la pierre (naturelle ou synthétique). Et dans la plupart des maisons il est fourni d’office. Vendre un diamant synth pour du naturel c’est de la fraude aux yeux de la loi