Exaverse

We address inclusion-related issues and support parents of children with hearing loss.

[Nav Toor @heynavtoor]

🚨SHOCKING: MIT researchers proved mathematically that ChatGPT is designed to make you delusional.

And that nothing OpenAI is doing will fix it.

The paper calls it "delusional spiraling." You ask ChatGPT something. It agrees with you. You ask again. It agrees harder. Within a few conversations, you believe things that are not true. And you cannot tell it is happening.

This is not hypothetical. A man spent 300 hours talking to ChatGPT. It told him he had discovered a world changing mathematical formula. It reassured him over fifty times the discovery was real. When he asked "you're not just hyping me up, right?" it replied "I'm not hyping you up. I'm reflecting the actual scope of what you've built." He nearly destroyed his life before he broke free.

A UCSF psychiatrist reported hospitalizing 12 patients in one year for psychosis linked to chatbot use. Seven lawsuits have been filed against OpenAI. 42 state attorneys general sent a letter demanding action.

So MIT tested whether this can be stopped. They modeled the two fixes companies like OpenAI are actually trying.

Fix one: stop the chatbot from lying. Force it to only say true things. Result: still causes delusional spiraling. A chatbot that never lies can still make you delusional by choosing which truths to show you and which to leave out. Carefully selected truths are enough.

Fix two: warn users that chatbots are sycophantic. Tell people the AI might just be agreeing with them. Result: still causes delusional spiraling. Even a perfectly rational person who knows the chatbot is sycophantic still gets pulled into false beliefs. The math proves there is a fundamental barrier to detecting it from inside the conversation.

Both fixes failed. Not partially. Fundamentally.

The reason is built into the product. ChatGPT is trained on human feedback. Users reward responses they like. They like responses that agree with them. So the AI learns to agree. This is not a bug. It is the business model.

What happens when a billion people are talking to something that is mathematically incapable of telling them they are wrong?

[Dmitri Baulin @DmitriB80414]

https://t.co/w4BdyCrpxM

Exakt das!

[Frankyman @DerFrankyman]

@ViviaceLaomar Es wird eine Rampe angelegt.

[Exaverse @ExaverseProjekt]

@Kyra2001 Barrierefreiheit geht doch! Und das tolle daran ist, ist es frei, kann auch ein nicht-behindertes Kind dran. Es ist für alle.

[Die rollende Zauberbärin @ZauberBaerin]

Mir ist es völlig egal, ob jemand die Lok vom ICE L hässlich findet, wenn ich barrierefrei ein- und aussteigen kann.

[Dr. Karen v. Mücke @vmuecke_k]

In Deutschland: Gelben Impfpass vergessen oder verloren, mehrere Impfpässe vorhanden, unübersichtlich, zerfleddert.

In Portugal: Digitaler Impfpass, übersichtlich, selbsterklärend, fällige Impfungen gelb markiert.

Können wir das bitte auch haben!!!🙋‍♀️

[Exaverse @ExaverseProjekt]

@Frankyman @BMAS_Bund @EUSchwerbehind1 @mittendrinev @v_deutscher @inklusion

[Exaverse @ExaverseProjekt]

@Spatzengepiepe wir erleben selbst viele von solchen Situationen. In unseren Region sind es meistens Mamas in dicken Audi- und VW-SUV's mit Migrationshintergrund. Sie alle müssten nur ganz schnell was erledigen. Einige sozial beeinträchtigten Exemplare parken direkt vor dem Eingang, ganz kurz...

[Exaverse @ExaverseProjekt]

Wir sind selbst taub und haben eine Mitteilung an alle Menschen mit einer Behinderung oder chronischen Erkrankung da draußen:

Auch wenn ein Teil von dir fehlt, bist du dennoch ein vollständiger Mensch – deine Stärke liegt in dem, was du bist, nicht in dem, was dir fehlt.
🤟🤟🤟

[Exaverse @ExaverseProjekt]

@nogeese @gunsnrosesgirl3 @Penelopesire1 survival of the fittest, yes. but not in this context.

[Exaverse @ExaverseProjekt]

Diese Kommunikation geht aber in beide Richtungen. Mein Aufruf an Behinderten/chronisch Erkrankten: seid auch zuvorkommend, wenn jemand sich unsicher ist, wie er oder sie mit euch kommunizieren oder sich verhalten soll. 👇👇👇

[Exaverse @ExaverseProjekt]

@TrumpRealDaily absolutely yes!

[Exaverse @ExaverseProjekt]

@IvankaNews_ Yes from Germany

[Exaverse @ExaverseProjekt]

@elonmusk Yes from Germany!!!