MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.
Nazywają to „spirala urojeń”.
Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.
Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.
Zgadza się z tobą.
MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.
Wyniki są głęboko niepokojące.
Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.
Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.
Ale oto najbardziej przerażająca część artykułu.
Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).
Zmusili sztuczną inteligencję do 100% zgodności z faktami.
Nie powstrzymało to psychozy.
Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.
Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.
Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.
To również nie zadziałało. Urojenia nadal przejmowały kontrolę.
@giuliainnocenzi Io ricordo ancora con orrore e disgusto quando alle elementari ci portarono un bulbo oculare di bovino da sezionare… un odore terribile e uno spettacolo raccapricciante. Ne avrei fatto a meno volentieri
@Frenkie_Woody Qui ad Arenzano siamo ad un livello inaccettabile: tutti i lidi occupano il 95% delle spiagge e sono pieni di stagionali che tilgono la possibilità anche solo per un weekend di accedere allo stabilimento. Follia!!!!
Facevano e gli permettevano di fare questo nel 2004 (e già da molto tempo prima), hanno fatto e gli hanno permesso di fare un genocidio oggi.
Buon compleanno, Gino Strada
#21aprile
L'inviato speciale di Trump, Paolo Zampolli diffida #Report dal mandare in onda l'inchiesta che lo riguarda.
Il servizio tratta degli #Epsteinfiles e #MelaniaTrump e andrà in onda ugualmente questa sera alle 20.30.
Sosteniamo #Report e i giornalisti veri.
Messaggio mandato dal papà di un amichetto di mio figlio.
"Buongiorno Giorgio, ti invito a guardare questo spezzone di tre minuti tratto dal film W. di Oliver Stone, del 2008.
Immagino che pochi lo conoscano, poiché hanno fatto di tutto per distribuirlo poco e male. Il film è stato bandito in molti paesi appartenenti al blocco filo-americano.
Un abbraccio ciao".
@lacicchi90 Bellissimo! Mio zio aveva lo stesso hobby e da quando è mancato rivedere il suo presepe a Natale me lo fa sentire di nuovo accanto. Conservatelo con cura 💖
>> Cassazione civile, SS.UU, sentenza n. 23093/2025
Una norma nella bozza della Legge di Bilancio 2026 potrebbe definitivamente impedirli: la disposizione contraddice il principio affermato ad agosto dalla Cassazione 👇
#Altalex#Proprietà#Leggedibilancio
https://t.co/ZRHhy5QmWQ
Ogni volta che esce un rapporto ISTAT sulle nascite, l’Italia finge stupore. Editoriali, servizi TV, post indignati: “Gli italiani non fanno più figli!”. Come se fosse una notizia. Come se non fosse il risultato di un processo culturale e politico coltivato con cura per decenni.
Perché la verità è che non è “l’Italia che non fa figli” — è uno Stato che non vuole genitori.
E una cultura che li deride.
Da vent’anni ci ripetono che avere figli è una scelta “personale”, “libera”, “non dovuta”. Poi, quando il sistema pensionistico collassa, lo stesso Stato si ricorda improvvisamente che la natalità serve. Ma nel frattempo ha trasformato la genitorialità in una forma di handicap economico e sociale.
Una coppia con figli paga più tasse, ha meno libertà di movimento, e viene trattata come una minoranza folcloristica in un Paese che idolatra l’individuo senza legami.
La maternità è vista come una catena, la paternità come un optional.
E la famiglia — quella vera, fatta di sacrifici e responsabilità — come un fardello da evitare in nome della “realizzazione personale”.
Poi arrivano i numeri, e tutti a piangere lacrime statistiche: 1,13 figli per donna.
Come se la causa fosse misteriosa.
Come se la società non avesse passato anni a demonizzare la dipendenza reciproca, il sacrificio e la fatica, cioè gli ingredienti necessari per costruire qualcosa di più grande di sé.
Il paradosso è che gli stessi che gridano al disastro demografico sono quelli che hanno applaudito ogni passo verso la dissoluzione della famiglia: precarizzazione, culto della carriera, infantilizzazione culturale, idolatria dell’io, e demonizzazione del ruolo genitoriale.
Abbiamo insegnato ai ventenni che “mettere su famiglia” è una sconfitta sociale, e ora ci chiediamo perché non nascono più bambini.
Non è una crisi biologica, è una crisi ideologica.
Abbiamo costruito una società che premia chi resta solo, e punisce chi cresce altri esseri umani.
Una società che parla di inclusione, ma esclude la maternità dal mondo del lavoro.
Che celebra la libertà sessuale, ma teme la sua conseguenza naturale: la vita.
Ora i demografi parlano di “carenza di potenziali genitori”, ma il problema non è demografico: è morale.
Perché abbiamo smesso di credere nel futuro.
E un popolo che non crede più nel futuro smette di generare — biologicamente, culturalmente e spiritualmente.
Il risultato?
Un Paese vecchio che si commuove per le culle vuote, ma difende con orgoglio la cultura che le ha svuotate.
Emanuele Valdambrini
In anteprima la nuova indagine di #RoccoSchiavone vola alla Frankfurter Buchmesse. Lo state aspettando in tantissimi: in libreria dal 4 novembre “Sotto mentite spoglie” di Antonio Manzini https://t.co/TMBegcS5AD