Rodri Perales

Striving for greatness.

[ᗩᗰᗩᑎITᗩ @manita_x]

MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.

Nazywają to „spirala urojeń”.

Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.

Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.

Zgadza się z tobą.

MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.

Wyniki są głęboko niepokojące.

Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.

Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.

Ale oto najbardziej przerażająca część artykułu.

Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).

Zmusili sztuczną inteligencję do 100% zgodności z faktami.

Nie powstrzymało to psychozy.

Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.

Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.

Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.

To również nie zadziałało. Urojenia nadal przejmowały kontrolę.

[Salvador Iglesias Jr @Javisness]

Mi compa y yo después de que eliminaran al Real Madrid y Barcelona

[Yogulado @Supertramp9713]

*Se propone reducir la jornada laboral aunque solo sea 2h y media a la semana*

Políticos que no han doblado el lomo en su vida:

[⚡️NEVERDOOMPRO⚡️ @NEVERDOOMPRO]

NEVER DOOM.

[el jeringas @ElJeringasLoko]

soy

[mentedefrentee @mentedefre3667]

Cada persona que ves, probablemente, está luchando una batalla

[mentedefrentee @mentedefre3667]

✨ En 2025, prioriza tu salud mental ✨

El nuevo año trae retos y oportunidades, pero también puede llenarnos de estrés, dudas y emociones difíciles de manejar. Cuidar de tu salud mental no es un lujo, es una necesidad.

Soy psicoterapeuta especializada en el enfoque sistémico,

[mentedefrentee @mentedefre3667]

Está época puede ser emocionalmente retadora para muchas personas. No tienes que pasar por esto sol@. Si has estado pensando en comenzar terapia pero no sabes cómo dar el primer paso, esta es tu señal. 💛

[Rodri Perales @roperi_16]

Que todo se apague…

[Revista THC @revistaTHC]

Sin palabras.

[𝐿𝓊𝓍𝑒𐙚 @btchsdtm]

Returning from a good trip and realizing it’s jus a memory now

[Evan Amato @SirEvanAmato]

In 2015, El Salvador had the highest homicide rate in the Western Hemisphere.

Today, it has the 2nd lowest — only Canada is safer

So how did this transformation happen?

And — more importantly — why do so many politicians hate the man responsible for it?