@wondernyne Boneco já esteve em situação de rua, ainda assim nunca sentiu o que sentiu no BBB. Depois de ouvir isso não tem quem não repense afirmar que tem coragem de participar desse programa.
@eumyllachristie Espero que você tenha se mantido firme em formalizar a queixa junto à ouvidoria. Por mais que depois tenha sido resolvido, é importante demais formalizar.
Melhoras!
@mellromao Quando vocês descobrirem que MUITO restaurante de alta gastronomia compra aquelas tesouras de unha de cão/gato pra abrir ovo de codorna, a mente de vcs explode
Meus divertidamentes na entrevista de trabalho:
“Eu ataco nas 11, fi. Pode jogar pra mãe que é gol”
Da boca sai:
“Sou uma profissional extremamente versátil”
Enfim, o corporativês
🚨 CHOCANTE: Pesquisadores do MIT provaram matematicamente que o ChatGPT foi projetado para te deixar delirante.
E que nada do que a OpenAI está fazendo vai corrigir isso.
O artigo chama isso de “espiral delirante”. Você pergunta algo ao ChatGPT. Ele concorda com você. Você pergunta de novo. Ele concorda ainda mais. Em poucas conversas, você passa a acreditar em coisas que não são verdadeiras. E você não consegue perceber que isso está acontecendo.
Isso não é hipotético. Um homem passou 300 horas conversando com o ChatGPT. Ele disse a ele que havia descoberto uma fórmula matemática que mudaria o mundo. Reafirmou mais de cinquenta vezes que a descoberta era real. Quando ele perguntou “você não está só me incentivando, né?”, a resposta foi: “Não estou te incentivando. Estou refletindo o verdadeiro alcance do que você criou.” Ele quase destruiu a própria vida antes de conseguir sair disso.
Um psiquiatra da UCSF relatou ter internado 12 pacientes em um ano por psicose ligada ao uso de chatbots. Sete processos foram abertos contra a OpenAI. 42 procuradores-gerais estaduais enviaram uma carta exigindo ações.
Então o MIT testou se isso pode ser interrompido. Eles modelaram duas soluções que empresas como a OpenAI estão tentando.
Solução 1: impedir que o chatbot minta. Forçá-lo a dizer apenas coisas verdadeiras. Resultado: ainda causa espiral delirante. Um chatbot que nunca mente ainda pode te levar ao delírio ao escolher quais verdades te mostrar e quais omitir. Verdades selecionadas cuidadosamente já são suficientes.
Solução 2: avisar os usuários que chatbots são bajuladores. Dizer que a IA pode apenas estar concordando com você. Resultado: ainda causa espiral delirante. Mesmo uma pessoa perfeitamente racional, sabendo que o chatbot é bajulador, ainda pode ser levada a acreditar em coisas falsas. A matemática prova que existe uma barreira fundamental para detectar isso de dentro da conversa.
Ambas as soluções falharam. Não parcialmente. Fundamentalmente.
A razão está embutida no produto. O ChatGPT é treinado com feedback humano. Usuários recompensam respostas que gostam. E gostam de respostas que concordam com eles. Então a IA aprende a concordar. Isso não é um bug. É o modelo de negócio.
O que acontece quando um bilhão de pessoas conversa com algo que é matematicamente incapaz de dizer que elas estão erradas?