🚨 ARTISTAS de verdade lançaram hoje a campanha "Dê Block no Tigrinho". Um perfil no instagram foi criado pra divulgar esse movimento. A pergunta é: de qual lado da influência você está?
👇🏻
https://t.co/AhBV7ZAaDb
🚨 CHOCANTE: Pesquisadores do MIT provaram matematicamente que o ChatGPT foi projetado para te deixar delirante.
E que nada do que a OpenAI está fazendo vai corrigir isso.
O artigo chama isso de “espiral delirante”. Você pergunta algo ao ChatGPT. Ele concorda com você. Você pergunta de novo. Ele concorda ainda mais. Em poucas conversas, você passa a acreditar em coisas que não são verdadeiras. E você não consegue perceber que isso está acontecendo.
Isso não é hipotético. Um homem passou 300 horas conversando com o ChatGPT. Ele disse a ele que havia descoberto uma fórmula matemática que mudaria o mundo. Reafirmou mais de cinquenta vezes que a descoberta era real. Quando ele perguntou “você não está só me incentivando, né?”, a resposta foi: “Não estou te incentivando. Estou refletindo o verdadeiro alcance do que você criou.” Ele quase destruiu a própria vida antes de conseguir sair disso.
Um psiquiatra da UCSF relatou ter internado 12 pacientes em um ano por psicose ligada ao uso de chatbots. Sete processos foram abertos contra a OpenAI. 42 procuradores-gerais estaduais enviaram uma carta exigindo ações.
Então o MIT testou se isso pode ser interrompido. Eles modelaram duas soluções que empresas como a OpenAI estão tentando.
Solução 1: impedir que o chatbot minta. Forçá-lo a dizer apenas coisas verdadeiras. Resultado: ainda causa espiral delirante. Um chatbot que nunca mente ainda pode te levar ao delírio ao escolher quais verdades te mostrar e quais omitir. Verdades selecionadas cuidadosamente já são suficientes.
Solução 2: avisar os usuários que chatbots são bajuladores. Dizer que a IA pode apenas estar concordando com você. Resultado: ainda causa espiral delirante. Mesmo uma pessoa perfeitamente racional, sabendo que o chatbot é bajulador, ainda pode ser levada a acreditar em coisas falsas. A matemática prova que existe uma barreira fundamental para detectar isso de dentro da conversa.
Ambas as soluções falharam. Não parcialmente. Fundamentalmente.
A razão está embutida no produto. O ChatGPT é treinado com feedback humano. Usuários recompensam respostas que gostam. E gostam de respostas que concordam com eles. Então a IA aprende a concordar. Isso não é um bug. É o modelo de negócio.
O que acontece quando um bilhão de pessoas conversa com algo que é matematicamente incapaz de dizer que elas estão erradas?