No, non era “una frase”. Era una posizione politica inaccettabile (e basata su una citazione falsa) a proposito di un pilastro essenziale di una alleanza di governo.
Gentile Direttore @lucfontana, gli articoli che @carlorovelli manda dalla Cina, esaltanti una brutale dittatura e pieni di critiche verso i sistemi democratici, sono veramente un obbrobrio. Lei li legge? Il Corriere ha veramente bisogno di questo pattume?
Would you like to join the research effort on JEPA and World Models easily?
After a full year of hard work, we’re excited to finally release stable-worldmodel:
an open-source, scalable platform built to accelerate JEPA & World Model research!
📄: https://t.co/gnxGvens5A
I forgot to name the costs 🤦♂️
Obtaining Cold-War era Nuclear bunkers:
- Between €75 and €430 p/m2 (1)
(average: €205/$238 p/m2)
Refurbishment:
- Basic refurbishment (offices/NOC): €1.270 p/m2
- Tier-IV+ Datacenter: €3.640 p/m2
(1): Dep. on state & location of object
Yann LeCun was right the entire time. And generative AI might be a dead end.
For the last three years, the entire industry has been obsessed with building bigger LLMs. Trillions of parameters. Billions in compute.
The theory was simple: if you make the model big enough, it will eventually understand how the world works.
Yann LeCun said that was stupid.
He argued that generative AI is fundamentally inefficient.
When an AI predicts the next word, or generates the next pixel, it wastes massive amounts of compute on surface-level details.
It memorizes patterns instead of learning the actual physics of reality.
He proposed a different path: JEPA (Joint-Embedding Predictive Architecture).
Instead of forcing the AI to paint the world pixel by pixel, JEPA forces it to predict abstract concepts. It predicts what happens next in a compressed "thought space."
But for years, JEPA had a fatal flaw.
It suffered from "representation collapse."
Because the AI was allowed to simplify reality, it would cheat. It would simplify everything so much that a dog, a car, and a human all looked identical.
It learned nothing.
To fix it, engineers had to use insanely complex hacks, frozen encoders, and massive compute overheads.
Until today.
Researchers just dropped a paper called "LeWorldModel" (LeWM).
They completely solved the collapse problem.
They replaced the complex engineering hacks with a single, elegant mathematical regularizer.
It forces the AI's internal "thoughts" into a perfect Gaussian distribution.
The AI can no longer cheat. It is forced to understand the physical structure of reality to make its predictions.
The results completely rewrite the economics of AI.
LeWM didn't need a massive, centralized supercomputer.
It has just 15 million parameters.
It trains on a single, standard GPU in a few hours.
Yet it plans 48x faster than massive foundation world models. It intrinsically understands physics. It instantly detects impossible events.
We spent billions trying to force massive server farms to memorize the internet.
Now, a tiny model running locally on a single graphics card is actually learning how the real world works.
I centri e le strutture nati con il PNRR stanno esaurendo i fondi. Le fondazioni che li gestiscono chiedono ai soci contributi per coprire i costi operativi. Non è un modello sostenibile.
Ne scrivo su #abassavoce. Link nel primo commento.
Lawyers for Trump's ICE provided false information to justify arresting and detaining thousands of people who had attended immigration courts. https://t.co/jgTto0GZBn
So, @Ubiquiti responded to our action. A few hours after we showed up at their headquarters in Manhattan, @Square - Ubiquiti’s partner company - deactivated the account we use to sell T-shirts at our gigs.
Going after Russian feminist activists in exile, but not after Russian war criminals. Cringe.
A nice podcast 'debate' with a colleague who has slightly different views about consciousness than me. (I had to leave 15 minutes before the end -- they ran over the allotted time -- in case you wonder why I suddenly disappear from the conversation!
https://t.co/GiRBd7AD9n
1. If you & your friend (same size, age, weight) ate the same 1,000-calorie surplus every day for 3 months, will you gain the same amount of weight? A landmark experiment on identical twins helps us answer this question and that our 🧬 direct the body's response to overeating 🧵
Volete un recap giornaliero dei commenti alle notizie di giornata senza stare su questo orrido social? Volete ascoltare il Phastidio Podcast senza pubblicità e prima degli altri? Volete leggere i post di Phastidio senza avere la pubblicità tra i piedi?
Avete uno one stop shop per farlo: https://t.co/2YQNMUmhtm
Ispirato da un recente tweet di @Cr1st14nM3s14n0, ed evitando di complicare troppo (ad esempio, evito tutta la pippa sull'honest assessment, la convalida, il rebalancing).
Immaginiamo di essere seduti su un’auto a guida autonoma. È sera, l’asfalto è bagnato, magari piove leggermente.
Davanti a noi, qualcosa si muove sulla strada: un oggetto scuro, poco definito. L’auto ha pochi istanti per decidere cosa fare.
Per il computer di bordo (sperando che la decisione sia solo locale), la domanda è sempre la stessa: “Quello che vedo è un pericolo oppure no?”
Se è pericoloso → STOP.
Se non lo è → VAI.
Fine. Due scelte, nessuna via di mezzo. Sono ancora oggetti manichei, in fondo.
Immaginiamo di avere un archivio di situazioni che l’auto ha già visto, una specie di memoria storica. Dentro ci sono 1000 casi. In 995 di questi, l’ostacolo era solo una busta di carta che volava o rotolava per strada, una cosa innocua che possiamo tranquillamente ignorare. Ma in 3 casi si trattava di una persona che attraversava la strada. In 2 casi, poi, c’era un muro, o comunque un ostacolo solido contro cui è decisamente meglio non andare a sbattere.
Quindi, in questo nostro piccolo mondo osservato, le situazioni “tranquille” sono 995 su 1000. Quelle veramente pericolose sono solo 5. Poche, rare, ma diremmo decisive.
Ora immaginiamo di costruire un modello banalissimo, quasi ridicolo. Un modello che “impara” una sola cosa dal passato: nella stragrande maggioranza dei casi l’ostacolo era una busta di carta, quindi conviene dire sempre la stessa cosa: VAI. Sempre. Qualunque cosa appaia davanti. (È un errore molto più comune di quello che possiate pensare).
Se applichiamo questo “modello” ai nostri 1000 casi, succede più o meno questo: nei 995 casi in cui l’ostacolo è una busta, dire VAI è giusto. L’auto passa, tutto bene. Nei 3 casi in cui compare una persona, dire VAI è tragicamente sbagliato. Nei 2 casi in cui c’è un muro, dire VAI è di nuovo una pessima idea. Ma se guardiamo solo i numeri, abbiamo 995 decisioni corrette su 1000: una percentuale di successo del 99,5%!
Se ci fermiamo a quel numero, il modello sembra praticamente perfetto: “Ha ragione quasi sempre!”. Eppure, basta un attimo di buon senso per accorgerci che è il peggior modello possibile: non riconosce mai un vero pericolo. Non è certo il modello da generalizzare e portare in produzione. Sbaglia il 100% dei casi critici. Ogni singolo errore corrisponde a una persona investita o a un incidente grave. Il problema è che la bellissima percentuale del 99,5% è gonfiata dai casi facili, dalle buste di carta, cioè da tutto ciò che, in fondo, non ci preoccupa davvero.
L’accuracy, quella percentuale di previsioni “giuste”, mette sullo stesso piano la busta di carta e la persona. Un errore su una busta vale quanto un errore su un pedone. Ma noi, istintivamente, sappiamo che non è così. Sbagliare una busta è fastidioso al massimo, sbagliare una persona è una tragedia. Il numero, da solo, non fa questa distinzione.
Per rendere il quadro ancora più chiaro, immaginiamo ora il modello opposto. Quello iper-prudente, ansioso, terrorizzato dall’idea di sbagliare. Questo secondo modello decide che il mondo è un posto pericolosissimo e che non si è mai troppo prudenti. La sua regola è semplicissima: fermiamoci sempre. Qualsiasi cosa vediamo, STOP, inchiodiamo.
In questo caso, i 5 scenari davvero pericolosi vengono tutti riconosciuti come tali: persona o muro, comunque l’auto si ferma. Nessun incidente, dal punto di vista della sicurezza funziona alla grande. Ma c’è un piccolo dettaglio: l’auto si ferma anche davanti alle 995 buste di carta. Risultato: sicurezza massima, ma esperienza d’uso disastrosa. Non arriviamo mai da nessuna parte, ogni situazione è un’emergenza.
Se facciamo i conti, il modello ansioso fa pochissime previsioni “giuste” in senso numerico. E quindi la sua percentuale di successo sarà bassissima. Ma dal punto di vista della sicurezza è molto meglio del primo. E qui sta l'apparente contraddizione: il modello con l’accuracy altissima è pericoloso, quello con l’accuracy bassissima è sicuro (anche se impraticabile).
Questo ci dice una cosa molto semplice: quel numerone in percentuale (99,5%), preso da solo, non basta a raccontare la storia. MAI.
Nella vita reale, non tutte le situazioni pesano allo stesso modo. E non tutti gli errori hanno le stesse conseguenze. Fermarci per una busta di carta è un falso allarme: ci fa perdere un po’ di tempo, ci infastidisce, forse ci fa venire voglia di insultare l’auto o i programmatori, ma non cambia il corso delle cose. Certo, fermarsi sempre diventa ridicolmente impraticabile.
Investire una persona in mezzo alla strada, però, è un errore che cambia tutto. Se mettiamo insieme tutte queste cose in un unico numero, senza differenze, stiamo mescolando pere e mele.
La stessa logica vale in tanti altri ambiti. In medicina, sbagliare una volta su cento può voler dire semplicemente confondere un raffreddore con un’allergia, ma può anche voler dire non riconoscere un tumore raro (e neppure troppo). In banca, un errore su mille può essere concedere un piccolo prestito di troppo, oppure lasciar passare una frode gigantesca. Nei sistemi di allerta per disastri naturali, ignorare un segnale raro può equivalere a non evacuare una zona prima di un’alluvione.
Gli eventi rari ma estremi sono pochi, spesso quasi invisibili nelle statistiche “medie”, ma sono quelli che contano di più. Se il nostro modello è bravissimo nei casi banali e fallisce proprio su quelli cruciali, il numero che misura la sua bravura rischia di essere una specie di trucco ottico: ci mostra il quotidiano, ci nasconde la potenziale catastrofe.
Un buon modello deve saper gestire molte situazioni differenti. Svilupparlo non è banale, è una scienza, ma anche un po' un'arte. Non credete a chi vi dice che tutto è ottenibile in modo data-driven, perché poi vi schiantate o non vi muovete più.
E allora, la prossima volta che qualcuno vi dirà: “Questo modello è fantastico, ha il 99% di accuracy”, forse vi tornerà in mente l’auto che non si ferma mai. Potrete chiedervi: “Sì, ma su cosa ha ragione? E soprattutto: su cosa ha torto?”. Perché tra una busta di carta e una persona in mezzo alla strada, un algoritmo tende a contarle come due casi qualsiasi. Un algoritmo non ha, di per sé, un sistema valoriale. Ma noi, al posto di guida, sappiamo benissimo che non valgono per niente lo stesso.
Un'altra volta vi (ri)parlo di sensibilità, specificità e compagnia cantando. E magari anche del paradosso della predizione.
Arriva anche il phastidioso Substack
Perché aprire un substack, quando si dispone del meraviglioso WordPress e non si ha alcuna intenzione di abbandonarlo? Ah, saperlo. E lo saprete
https://t.co/cncDs7IW1A
Oramai emergenza etanolo quando si fa Storia e Barberæ. Fra un po’ temo dovrà intervenire il ministero delle salute.
Allora, a forza di bere dalla bottiglia Barberæ si dicono due scemenze.
1) La prima è che noi ci stiamo armando e chissà cosa penserà la Russia.
Budapest 1994 la Russia si impegnava a garantire i confini dell’Ucraina. 1997 e 2002, la Russia si accordava con la NATO a vivere in pace e cooperazione. La NATO da allora ha ridotto truppe di terra in Europa, pensato ad altro (Afghanistan), ha smesso di fare esercitazioni per prepararsi ad attacco Russo, non ha messo un soldato ad Est e i suoi Paesi europei hanno tenuto la spesa militare a livello di sopravvivenza: nel 2012, la NATO Europea (=senza USA) era così pericolosa che non aveva le munizioni, i droni e il supporto per fare la guerra… alla Libia.
Nello stesso periodo, la Russia ha:
- violato spazio aereo dei baltici e dell’Islanda, 2005-
- ucciso oppositori politici in UK (Litvinenko)
- lanciato attacchi cyber (Estonia 2007)
- invaso Georgia
- violato accordo INF
invaso Crimea e sponsorizzato guerra in Donbas
- tentato uccisione oppositori politici in Uk (Skripal)
- cercato colpo di stato in Montenegro
- minacciato di usare armi nucleari contro Polonia, Danimarca e Svezia
- fatto saltare in aria fabbrica di munizioni in Repubblica Ceca
- corrotto vari politici europei, sponsorizzato disinformazione in Europa, penetraro vari servizi di intelligence
- prima di arrivare alla guerra in Ucraina, mentre la spesa militare europea rimaneva fondamentalmente piatta tra il 2001 e il 2021 (dopo essere stata pesantemente tagliata tra 2008 e 2014, dopo i già tagli significativi degli anni Novanta), la Russia tra il 2021 e il 2022 vedeva il proprio bilancio della difesa crescere di 6 volte.
Ebbene, quando c’è troppa Barberæ si finisce per pensare che i Russi si devono preoccupare della nostra spesa militare.
2) con il Barberæ si arriva però anche al delirio, ovvero che la storia sia fatta di automatismi e leggi, neppure fosse la fisica. Nel video si parla di risposta “automatica”: si chiama approccio teleologico alla storia, che viene giustamente rigettato… da tutti gli storici, ovvero l’idea che la storia non sia fatta di uomini e donne, idee e incentivi, volontà e capacità ma, appunto, da automatismi. Ma se la storia è fatta di automatismi, perché studiarla? E se ci sono automatismi, dove sta la responsabilità individuale, morale e politica: tutto ciò che succede è il prodotto di strutture, pressioni e meccanismi… e allora capite che con il Barberæ l’unica reazione logica dovrebbe consistere nell’ accettare queste dinamiche passivamente… ma invece lui le critica… ma se sono automatiche…?
Più che studiare la storia, urge una lavanda gastrica…
https://t.co/L0jqT2X9PY
Il costo di 38 miliardi "finito" per Sizewell C, è solo l'aggiornamento a quest'anno. Si partiva da 20. Non solo: sugli overrun, è previsto che, se il costo sale oltre 40,5 miliardi di sterline, gli extra costi vengano suddivisi tra investitori e consumatori. Se il costo eccede 47,7 miliardi di sterline, il governo britannico paga i restanti costi.