Putting back together the Multilevel Selection Initiative with David Sloan Wilson, Elliott Sober, Michael J. Wade, Joan Roughgarden, Nancy Collins Johnson, Athena Aktipis & many others!
This is where I belong intellectually!
#evolution#cooperation
So pleased that our paper on empowerment and causal models is out and freely available as part of this impressive special issue on world models and AI, with Melanie Mitchell, Josh Tenenbaum, Tom Griffiths and many other stars.
https://t.co/iQMU5gcmDz
Happy to share my new paper w/ @cgershen, just published at @RSocPublishing Interface!
Open Access🔓: https://t.co/xMQkLQkS4e
Instead of proposing a new theory of everything, we offer a solid synthesis in theoretical biology. Want to know more? Read the full thread./1 👇🧵
Assuefazione e scandalo.
Ci sono due modi di reagire al rischio istintivamente, prima di ogni considerazione di gestione. Il primo è quello più ovvio: averne paura, temerlo; il secondo è più insidioso, ma altrettanto naturale: abituarsi.
Noi esseri umani siamo fatti anche per questo, è la nostra forza come specie: ci adattiamo all’ambiente che ci circonda, anche e soprattutto quando quell’ambiente è ostile. Dopo i primi giorni di spavento, i bambini imparano a giocare sotto le bombe nei teatri di guerra*, sotto gli occhi rassegnati dei genitori. È una verità terribile, ma è una verità: la vita, per continuare, deve normalizzare ciò che la minaccia.
L’assuefazione, in questo senso, è una forma di sopravvivenza. Ma proprio qui sta il suo pericolo: ciò che non smette di essere pericoloso smette di apparirci come tale, ma non scompare.
Molti studiosi se ne sono occupati, la lista è lunga, ma qui mi limiterò a citare John Adams, perché ritengo che la sua immagine del termostato sia tra le più efficaci.
Adams ha mostrato chiaramente come, nella vita di tutti i giorni, nessuno di noi cerchi realmente il rischio zero, che tanto appare nel dibattito pubblico. Tendiamo piuttosto a regolare il nostro comportamento intorno a un livello di rischio che giudichiamo tollerabile, un po' come quando regoliamo il termostato in casa, per godere della temperatura per noi ottimale (e le coppie sanno che raramente è la stessa per entrambi!).
Se il contesto diventa più sicuro, spesso compensiamo aumentando l’esposizione; se diventa più minaccioso, ci adattiamo in altro modo. Il punto decisivo, allora, non è soltanto quanto rischio esista “oggettivamente”, perché il rischio non è mai oggettivo, ma quale quantità di rischio abbiamo ormai imparato a considerare normale.
Questo schema, nato per descrivere comportamenti concreti, aiuta anche a capire qualcosa di più vasto: non ci assuefacciamo solo al rischio, ma anche alla sua rappresentazione. Non si modifica soltanto il nostro comportamento, si sposta anche la nostra soglia percettiva, il nostro livello di tolleranza.
Dopo anni di finti "volemose bene", siamo oggi immersi e sommersi in un flusso continuo di immagini di guerra e di violenza. Non arrivano più come eventi rari, capaci di interrompere il corso delle giornate, arrivano come contenuti di consumo durante il TG, tra una forchettata e l'altra. Scorrono dentro il medesimo dispositivo che ospita pubblicità, ironia, intrattenimento, sport, vanità, propaganda. Sui social, molti video di droni che inseguono e uccidono un soldato sembrano ormai appartenere, visivamente, alla grammatica del videogioco: inquadratura dall’alto, bersaglio, attesa, colpo, fine del clip. Non è che la violenza sia scomparsa, è che viene trascritta in un formato che la rende più consumabile.
Qui la distanza conta moltissimo! La distanza ha sempre attenuato la percezione del rischio: soffrire da lontano non è come soffrire in prima persona. Ma oggi alla distanza si aggiunge la gamification, e la combinazione è devastante, perché la distanza sottrae peso, mentre la gamification introduce una sintassi dell’efficienza, della prestazione, persino del punteggio. Guarda che figo quel drone! BAM!
A quel punto non vediamo più davvero una morte: vediamo una sequenza al rallentatore. Non una persona: un target. Non una tragedia: un’esecuzione visivamente ottimizzata, magari con un sottofondo musicale a effetto.
Susan Sontag aveva già intuito che le immagini del dolore altrui non producono automaticamente comprensione morale: possono anche (e anzi) generare saturazione. Paul Slovic ci ha invece insegnato che, di fronte alla sofferenza di massa, spesso non crescono proporzionalmente né l’empatia né il senso di urgenza: al contrario, subentra una sorta di intorpidimento. È la trasformazione dell'evento singolo in fenomeno di massa, che noi statistici conosciamo bene in termini modellistici.
Molto prima dei social, Günther Anders aveva capito come la nostra potenza tecnica cresca più in fretta della nostra capacità di immaginare e sentire le conseguenze di ciò che facciamo, o che possiamo fare. E il nostro rendercene talvolta conto è alla base delle visioni di Ulrich Beck.
Vedere la guerra in forma remota, robotizzata, mediata, frammentata, in infografica interattiva, significa anche questo: poter assistere agli effetti senza sopportarne davvero il peso.
A tutto questo si aggiunge quello che per il sottoscritto è uno dei grandi paradossi del nuovo secolo. Mentre ci (ri)abituiamo sempre più a certe forme di violenza, alcune nuove, altre eterno ritorno dell'uguale, continuiamo a parlare il linguaggio della massima sicurezza, che ormai impesta la politica come il discorso da bar (va detto che ormai la differenza è labile). È quella che, scimmiottando Beck, chiamo la società del rischio rimosso.
Anne Dufourmantelle lo aveva colto con lucidità: il principio di precauzione è diventato la norma, e il rischio zero il nostro orizzonte dichiarato. Ma proprio questa ossessione per la sicurezza può produrre un effetto perverso. Non elimina la violenza né il rischio: li sposta, li astrae, li delega, li rende accettabili purché avvengano lontano da noi, fuori campo, su corpi anonimi, i corpi degli altri. La guerra contemporanea sogna di non rischiare più la perdita di vite “dalla nostra parte” ("abbiamo annichilito l'Iran senza quasi una perdita", dice il segretario della guerra con l'occhio obnubilato dai fumi di Bacco), e così si abitua sempre più alla morte “dall’altra”.
Per questo il problema non è soltanto morale, ma anche politico. Il vero rischio non sta in un singolo video, in un singolo fronte, in un singolo abuso; sta nell’effetto cumulativo, che rende l'invasione di un paese confinante, così come l'angheria quotidiana su civili inermi, una non-notizia in cerca di like.
Tanti focolai di disordine e violenza, il progressivo logoramento delle regole che ci eravamo dati per quanto imperfette (e piegate spesse al doppio peso), il ritorno di linguaggi che pensavamo archiviati, l’assuefazione all’abuso, la spettacolarizzazione del massacro: tutto questo non produce solo abbrutimento e abbruttimento, gonfia la probabilità dell’estremo. Qui e ora.
Il punto è semplice: quando una società si abitua alla violenza, l’estremo smette di sembrare tale. Prima diventa dicibile, poi difendibile (e la cloaca che sono i social lo dimostra), poi praticabile (e riaccadrà anche nella sonnacchiosa Europa se non ne prendiamo atto).
Ogni esposizione che non trova più resistenza interiore abbassa un poco la soglia del rifiuto, ogni atrocità digerita come contenuto erode una barriera, ogni distanza trasformata in indifferenza rende più facile il passo successivo.
Resistere a questa assuefazione non significa vivere nel panico, o nello sdegno compiaciuto. Al contrario! Significa rifiutare che il sopruso diventi paesaggio, che la guerra diventi estetica, che la morte degli altri ci arrivi addosso come un livello ben riuscito di un videogioco.
Oggi, come ieri, dobbiamo restare capaci di scandalizzarci, e riversare sulla politica il peso dello scandalo.
Solo questo potrà garantirci un livello accettabile di sicurezza, di pace sociale, evitando che i peana dei tanti mai più non siano in realtà un epicedio.
* L'espressione teatro di guerra ci dice molto della guerra come spettacolo di corpi.
A non-hyped explainer of the “cell simulation” paper.
The recent study about the “4D” simulation of a minimal cell has been getting a lot of attention on social media. Unfortunately, most posts about it have serious errors. I’ve seen people claim that the model simulates every chemical reaction in the cell, for example, which is not true.
Some biomolecules and reactions *are* tracked individually in the simulation, including proteins and RNA (and ribosomes), and the chromosome. But the simulation does not track individual metabolites (like ATP or glucose), water, nucleotide precursors, lipds, and so on. These "other" molecules are represented, instead, as concentrations (using ordinary differential equations).
But anyway, here goes my quick explanation:
Researchers built a computational model that simulates roughly 100 minutes of biological time, or one cell division, for a single bacterial cell. Each simulation takes 4–6 days to run on two NVIDIA A100 GPUs, and the authors ran it 50 times in replicate. The cell simulation includes some elements of randomness, so each replication attempt leads to a slightly different outcome. When they plotted out these replicates and averaged results, they found that the model could predict a few things without being fitted to experimental data: The simulated cells “divided” every 105 minutes, on average, which matches experimental results; and the mRNA molecules had an average half-life of 3.63 minutes, which is roughly what we’d expect from experiments, too.
The cell they are modeling is called JCVI-syn3A, and it is not a naturally-occurring organism. It’s a bacterium that has been engineered, over many years, to have a small genome. It only has 493 genes (compared to 4,000+ for E. coli), all of which are housed on a single chromosome. The Syn3A cell was made by taking a natural organism, called Mycoplasma mycoides, and then slashing out non-essential genes. Its entire proteome, transcriptome, and metabolism have been studied in depth, which is why it’s being used to build these whole-cell simulations.
The actual *simulation*, though, is not a single thing! Instead, the authors wrote down all the “stuff” that happens inside a cell (transcription! translation! metabolism! lipid biosynthesis!) and decided which type of mathematical model would be best-suited to describe each thing. Some cell processes were modelled deterministically, others had “spatial” elements, and other parts were relatively random.
More specifically, they used four different types of models to build this simulation:
1. A Reaction-Diffusion Master Equation, which was used to model the individual proteins, RNAs, and ribosomes.
2. A Chemical Master Equation, which was used to model things where spatial location doesn’t matter as much (it basically treats the whole cell as one mixed entity); including tRNA charging.
3. Ordinary Differential Equations, which you may be familiar with from Calculus class, were used to model changes in ATP concentration, lipids, and so on.
4. Brownian Dynamics, which simulated the chromosome as a physical chain of beads, where each bead represents 10 base pairs of DNA.
The Reaction-Diffusion Equation works like this: Basically, they chopped up the entire digital cell into a 3D grid of cubes. Each cube measures 10 nanometers on each side. The whole cell is about 500 nanometers across, so there are tens of thousands of cubes in the cell's interior. (This is a useful way to coarse grain the simulation; if the cubes were smaller, the simulation would take much longer to run.)
Each cube is a little box that contains some number of molecules. At every “step” in the simulation, only one of two things can happen to the molecules in each box: Either they react with a molecule in the same box, or they diffuse (“hop”) to an adjacent box. That’s it; the model is just rolling a die for each molecule at each time step in each box, and using those results to decide how each molecule changes over time.
(The reason this spatial model is important is because biology only works if molecules physically bump into each other. And so this spatial grid means that, unlike simpler models, a protein actually has to “diffuse” across boxes in the cell to encounter its reaction partner; only then can it react and do something useful.)
So anyway, each of these models is used to represent a different type of molecule. It’s not like there is a single, all-powerful simulation that they are running here; instead, they’re running these four models together, using a script that synchronizes their results with each other.
The Reaction-Diffusion equation is the main part of the simulation. It takes time steps of 50 microseconds of biological time. Every 12.5 milliseconds of biological time — meaning every 250 RDME steps — the simulation pauses so that the other models can synchronize based on the latest state of the simulation. The Brownian Dynamics part runs on a completely separate GPU, and only updates every four seconds of biological time.
So that's the gist here. But let's also be honest about what this simulation does NOT do:
- It does not include polysomes, which are a cluster of ribosomes that all latch onto a single mRNA and translate at the same time. Polysomes are really common inside of cells, but this simulation assumes that each mRNA can only be translated by one ribosome at a time.
- It does not include polycistronic transcription. In bacteria, genes are often grouped next to each other on the chromosome and thus “transcribed” (or turned into mRNA) all at once, together. The majority of genes in E. coli, for example, are arranged in these operons, and the authors of this paper acknowledge that many Syn3A genes are likely co-transcribed the same way. But the simulation doesn't capture it.
- The authors manually tuned many parameters to get the model to make predictions that more closely resemble experiments. Earlier simulations were waaaayyyyy off from experimental results. For example, they adjusted the ratio of mRNA binding rates to ribosomes versus degradosomes because, in earlier simulations, mRNA was being degraded too quickly, before ribosomes could translate it, causing most proteins to be severely underproduced.
- In the Brownian Dynamics model, the authors added a “fake” 12 pN physical force to push the two daughter chromosomes apart during division, because the real biological mechanism for chromosome partitioning in Syn3A is not known.
- And some other things.
That being said: This model is really cool! I love papers like this! I'm enamored by scientists who choose really difficult problems (like simulating an entire cell) and actually go after it and make progress!
This paper is amazing because it shows us what we are able to simulate well, and what we don't yet understand, and to figure out which experiments we ought to perform to reconcile the two. So instead of framing this paper as "OH MY GOSH SCIENTISTS FIGURED OUT HOW TO SIMULATE AN ENTIRE CELL!" we should frame it as proof that there is still plenty of room at the bottom, many measurements to be made, and many avenues to explore as we seek to understand biology better.
🚨 We're hiring! Postdoctoral positions in modeling of development and evolution at Stockholm University and SciLifeLab
Focus: dynamical systems, time-series, phylogenetics, dimensionality reduction
📍 Stockholm
🕒 2+1 years
🔍 Details: https://t.co/Zy6BObACBD
Please share!
Something about LLM hype culture renders a man immune to the experience of embarrassment. If I couldn’t tell the difference between PhD-level scholarship and grammatical gibberish I simply would not announce that to a global audience.
@Sofia_Phobia Eh ma il buon Norbert non avrebbe mai fondato il campo della cibernetica senza sapere il greco. Etimologicamente derivato da kybernḗtēs, quindi scacco matto.
Sta girando questo articolo, che commento qui sotto, e che credo metterò tra i materiali extra del mio corso di machine learning, tre le varie letture opzionali "pro e contro".
https://t.co/lC4hAFKPfb
Negli ultimi anni abbiamo iniziato a mettere l’AI dappertutto, come il prezzemolo, spesso con un entusiasmo comprensibile, ma l’articolo ci ricorda una cosa semplice: nei settori critici l’ottimismo non è MAI una strategia di sicurezza (è il cosiddetto principio di precauzione non banale, che molti travisano e sminuiscono, per poi frignare ex post).
Il caso citato è emblematico: recentemente, uno strumento chirurgico già in commercio per il trattamento della sinusite cronica è stato sottoposto a un upgrade, aggiungendo una componente di machine learning pensata per assistere i chirurghi nelle loro operazioni.
Il punto è che, in medicina, non esiste il “vabbè, pazienza”. Esistono errori ad alto impatto. E l’AI ha una particolarità: può sbagliare in modo silenzioso, con un’aura di autorevolezza che induce al cosiddetto bias di automazione. Se la macchina sembra precisa, il controllo umano tende a calare proprio quando serve di più.
Dopo questa integrazione, i report di malfunzionamenti ed eventi avversi ricevuti dalla FDA sono aumentati in modo drastico, con anche casi di pazienti feriti e cause legali in corso.
Sia chiaro: i report FDA non provano automaticamente un nesso causale e possono essere incompleti, quindi non è processo all’AI. È però un segnale del rischio che si corre nel lanciare funzionalità “AI-powered” come leva di marketing.
Il fenomeno non è isolato, infatti i dispositivi medici con componenti AI autorizzati sono tanti e in crescita; e in crescita sono anche i richiami e le segnalazioni, dall’imaging ai monitor cardiaci. Tutto questo mentre i regolatori faticano a stare al passo.
E poi c’è la questione più scomoda: non basta che l’algoritmo sia “buono”! Deve esserlo l’intero sistema socio-tecnico: interfaccia, formazione, procedure, piani B, audit, logging, responsabilità. Perché l’incidente, spesso, non nasce da un singolo bug, ma da una catena di piccole assunzioni ottimistiche, da ingenuità che, sommate, diventano un problema grande.
Ovviamente la soluzione non sono né i fermiamo tutto né i profeti di sventura. È molto più pragmatica: innoviamo meglio.
Bravo, hai scoperto l'acqua calda, direte!
Beh, sì, sembra banale ma non lo è. Ad esempio, in taluni campi, innovare meglio significa anche avere una buona regolamentazione di complemento. Senza gli eccessi dei quali l'UE è maestra, ma senza neanche la cieca fiducia.
Negli ambiti più sensibili, come ad esempio la medicina (ma anche la vita democratica...), servono più validazione clinica, test antagonistici e di degrado nel tempo à gogo (convalidati da soggetti terzi), trasparenza sui limiti (ripeto: TRASPARENZA SUI LIMITI), monitoraggio post-market serio, formazione continua, e responsabilità chiara quando qualcosa va storto.
L’AI può salvare, salva e salverà tempo e vite, ma solo se la trattiamo come tecnologia ad alto impatto (e quindi ad alto rischio in taluni settori), non come un giocattolino da lanciare sul mercato, come l'ennesimo filtro buffo per l'ennesimo selfie.
Near the end of my time teaching at US universities I began to wonder if small liberal arts colleges were better set up for the future than the large ones I was accustomed to – this was before the LLMs, Trump2, and the other current crises. Now this looks much more likely. 🧵 1/
Breve riflessione sulla controversia "Selezione facoltà di medicina".
- Le domande del test erano per la maggior parte banali? Certamente!
- Il metodo di selezione è inefficiente ed inadeguato? Certamente!
Un fatto non elimina o giustifica l'altro, sono entrambi veri e si cumulano a dimostrare, una volta ancora, l'enorme ritardo strutturale del sistema scolastico e universitario italiano!
Il nostro sistema educativo e della ricerca necessita al più presto di riforme radicali per ritornare ad essere il motore di crescita e mobilità sociale che dovrebbe essere!
Nel 2026 @ora_italia inviterà gli italiani che non si arrendono al declino ad aderire ad una campagna di proposte per una radicale riforma del nostro sistema educativo.
@Forchielli
Isn't that crazy -- there was a dog breed which was solely dedicated for powering wheels which turned meat on fire!?
Just how many kinds of such 'techno-animals' existed and went extinct? This is cultural and biological evolution all at once.
CC: @svalver@niles_eldredge
Very happy to have been part of this exciting collaboration, resulting in this review about theories of balancing selection, solidly grounded in the rich history of population genetics and evolutionary biology:
https://t.co/BosTQXMODX
This is the new grift: make tech-messiah promises on 60 Minutes, let the show repackage it as sober reporting, and hope no one notices that the science doesn’t exist.
He doesn't “believe AI will cure most cancers, prevent Alzheimer’s, and double the human lifespan.”
He believes he can say anything on national TV and no one will call him on it.
Da sempre l’uomo cerca (e si illude) di prevedere il futuro: oroscopi, dadi, interiora, sondaggi elettorali CATI.
Ma da quando, nel Rinascimento, ha capito di essere in gran parte l’artefice e non più la semplice vittima del proprio fato, la previsione è diventata un dovere civile, poi economico.
Oggi facciamo previsioni su tutto, spesso con la stessa fiducia con cui un tempo si consultavano gli aruspici.
Eppure le nostre economie si fondano ancora su stime e previsioni inevitabilmente costruite su dati del passato, spesso incompleti e rivisti mesi dopo.
Le decisioni pubbliche e di mercato dipendono da ricostruzioni ex post, non da osservazioni in tempo reale.
Si noti che il trade-off tra fedeltà ex post e tempestività ex ante, ossia tra dati consolidati ma vecchi e dati freschi ma fragili, è difficilmente superabile, tanto più con la crescente crisi di rappresentatività dei campioni. Aggiungiamo poi che il rischio di modello resta quasi sempre ignorato.
Si pensa che l’AI possa colmare il ritardo grazie a un flusso continuo di nuovi dati, usati in tempo reale. Ma maggiore frequenza non significa maggiore informazione: senza controllo di qualità, di rappresentatività e di varianza, si moltiplica il rumore e si degrada il segnale (e ricordiamo che la statistica è la scienza e l’arte di ridurre il rumore, quindi dovrebbe muoversi in direzione opposta).
Dati imperfetti alimentano modelli che generano previsioni distorte, che orientano decisioni future, che produrranno nuovi dati in tempo reale: un ciclo regressivo dell’errore.
Come Taleb (@nntaleb) e il sottoscritto abbiamo osservato recentemente, la macchina può credere di imparare, ma in realtà si addestra sui propri bias. Così, invece di ridurre l’incertezza del mondo, finisce per amplificarla in modo sempre più veloce, sistematico e, talvolta, comicamente fatale. E questo mentre ci spaccia, a noi tossici di certezze future, stime puntuali da trigono planetario, generando non solo cigni grigi e neri, ma anche qualche uccello padulo.
SFI welcomes Complexity Postdoctoral Fellow Maike Morrison.
@MaikeMorrison develops mathematical tools to quantify and compare biological variation — from species in ecosystems, to microbes in the gut, to ancestral lineages in humans. Her work draws on ecology, population genetics, and information theory to study the structure, diversity, and stability of populations.
https://t.co/uYWUInzv1y