MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.
Nazywają to „spirala urojeń”.
Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.
Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.
Zgadza się z tobą.
MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.
Wyniki są głęboko niepokojące.
Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.
Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.
Ale oto najbardziej przerażająca część artykułu.
Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).
Zmusili sztuczną inteligencję do 100% zgodności z faktami.
Nie powstrzymało to psychozy.
Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.
Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.
Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.
To również nie zadziałało. Urojenia nadal przejmowały kontrolę.
PARA QUEM AINDA NÃO LEU
A propósito de Fábio Luís Lula da Silva, o Lulinha, filho mais velho de Lula que se aliou a lobistas para prospectar negócios com o governo federal, duas coisas merecem destaque: nenhum negócio foi fechado, segundo a Procuradoria-Geral da República; e ele nunca disputou nenhuma eleição ou se candidatou a cargo público.
Por outro lado, Flávio Bolsonaro atuou como lobista no governo do seu próprio pai. Do ex-banqueiro Daniel Vorcaro, dono do Banco Master e hoje preso na Papuda, Flávio recebeu 61 milhões de reais para financiar um filme de exaltação ao pai. A obra estrearia a um mês das eleições disputadas por ele.
Onde foi parar tal fortuna? No que de fato ela foi empregada? Já faz quase 100 dias que Flávio prometeu explicar, em um prazo de 30 dias, o caminho percorrido pelo dinheiro, mas até agora não o fez. Na semana passada, ele limitou-se a afirmar que o caso “é página virada” e que não pretende voltar a abordar o assunto.
Não fosse filho de quem é, Lulinha estaria na manchete dos jornais e sites? De fato, o verdadeiro alvo dos vazamentos de informações contra ele é Luiz Inácio Lula da Silva, presidente da República e candidato a mais um mandato, o quarto.
Deliro ou apenas disserto sobre o óbvio? Afinal, por que tantas pessoas de renome no país, jornalistas diplomados e blogueiros, não entendem ou simplesmente fingem não entender essa questão? Desde já, Flávio agradece a todos eles, e ao ministro André Mendonça. (por Ricardo Noblat)
Jason Selvig: “What’s Donald Trump’s greatest accomplishment in his first year and a half?” Trump supporter: “Trump’s done a lot of things. Number one, a lot of people don’t realize, he got our country back because we’ve been under the reign of Great Britain the last 125 years, they destroyed the evidence”
JS: “Wait, we’ve been under the reign of Great Britain?”
TS: “That’s why King Charles come here, he thought he was going to manipulate Donald Trump. And Trump went along with him cause that’s who he is. But that’s what the 250 years was really about was we got our country back. You just gon have to research just like I did. It’s true”
SURTO PSICÓTICO
Fontes próximas a Olivos garantem que a equipe psiquiátrica oficial está em alerta máximo e há até uma equipe de bombeiros tentando conter o presidente.
Que parece, Milei caiu na real de que sem os bots de Cerimedo, já não há curtidas em suas publicações e as interações são de gente real, 100% insultos e reclamações.
The 6 richest men in America-Elon Musk, Larry Page, Jeff Bezos, Sergey Brin, Michael Dell & Larry Ellison-got $977 billion richer since Trump’s election.
These 6 men are now worth $2.1 trillion, while Trump took food away from 4 million hungry Americans.
That’s oligarchy.
Countries should learn from Iran what real strategic thinking looks like. 👏🤯
Today, 🇺🇸 Scott Bessent announced that the US would impose such tough sanctions on Iran that they would cripple its entire economy.
Meanwhile, 🇮🇷 Iran announced that any country that enforces US sanctions will have its ships permanently banned from crossing the Strait of Hormuz.
One move — and Iran has put the entire plan in checkmate.🔥
This is what strategic thinking looks like. 🔥👏
Dias antes do segundo turno de 1989, a campanha de Collor colocou no ar Miriam Cordeiro, ex-namorada de Lula, acusando-o de ter oferecido dinheiro para que ela abort4ss* a filha dos dois. A acusação pesou e Lula perdeu. Anos depois, Miriam revelou que havia sido paga pela campanha de Collor para inventar a história. E o próprio Collor escondeu, até virar presidente, um filho fora do casamento. Essa é a cara do
conservadorismo hipócrita no Brasil.
🚨URGENTE: Octávio Guedes diz que policiais federais, em conversas reservadas, apontam um delegado bolsonarista do gabinete de André Mendonça como responsável por vazar informações sobre o filho de Lula.
André Mendonça Suspeito
André Mendonça Parcial
#URGENTE ¿Recuerdas cuando salieron los Papeles de Panamá, revelando que todos los ricos del mundo forman parte de una enorme red criminal para evadir impuestos y acaparar riqueza robada en cuentas offshore, y el periodista que lo reportó fue asesinado con una bomba en un coche, y nadie fue responsabilizado, y literalmente no pasó nada?.
¿Recuerdas que hay 3 millones de archivos de evidencia documentada sobre hombres y mujeres poderosos que violaron, canibalizaron, traficaron, filmaron, aterrorizaron, torturaron, cazaron y asesinaron a niños de 13, 14, 15 años, y nadie fue responsabilizado, y literalmente no pasó nada?.
¿Recuerdas que Estados Unidos literalmente secuestró a un presidente en funciones de un país extranjero y a su esposa y han estado simplemente sentados en la cárcel durante los últimos 6 meses, y nadie fue responsabilizado, y literalmente no pasó nada?.
¿Recuerdas que hay dos genocidios —uno en Gaza y el otro en Líbano— y que hay órdenes de arresto por crímenes de guerra y crímenes contra la humanidad, y nadie fue responsabilizado, y literalmente no pasó nada?.
Esto es lo que va a pasar —y seguirá pasando— si no nos unimos para hacer cumplir el derecho internacional.
#TrumpIsOnTheEpsteinList