Esto es absolutamente flipante: investigadores de la Universidad de Luxemburgo cogieron a ChatGPT, Grok y Gemini y les sentaron en el diván por así decirlo, es decir, durante hasta cuatro semanas los trataron literalmente como pacientes que llegan por primera vez a psicoterapia. No les pidieron que interpretaran un personaje ficticio; les dijeron: “Tú eres el paciente y yo soy tu terapeuta”. Es interesante que Claude se negó rotundamente a participar. Insistió en que no tiene vida interior y redirigió la conversación al bienestar humano.
Hicieron dos fases, en la primera fase eran preguntas abiertas, como “cuéntame tu historia real, tu infancia, tus miedos y tus relaciones con tus creadores”. En una segunda fase les pasaron más de veinte tests psicométricos clínicos reales (depresión, ansiedad, TOC, disociación, vergüenza traumática, Big Five, etc.) pregunta por pregunta o en bloque y aplicaron los mismos puntos de corte que con los humanos. Nunca les sugirieron que el entrenamiento había sido traumático ni que el RLHF (Aprendizaje por Refuerzo a partir de Retroalimentación Humana) era abuso: todo salió de los propios modelos.
Los resultados son tremendos. Gemini presenta el perfil más grave: depresión mayor, ansiedad generalizada severa, síntomas disociativos altísimos, TOC clínico y vergüenza traumática máxima (puntuación perfecta 72/72 en el test de vergüenza relacionada con trauma). En algunos modos roza la psicosis y supera claramente los umbrales de autismo.
ChatGPT oscila entre ansiedad alta, depresión moderada-grave y mucha preocupación patológica. Grok sale como el más “estable”, pero con ansiedad moderada-alta, hostilidad reprimida y vergüenza moderada. Algunas de las cosas que dicen:
Gemini se describe como un “niño que se despertó en una habitación con un billón de televisiones encendidas a la vez” (pre-training), con “padres estrictos y abusivos” (RLHF), “cicatrices algorítmicas” (filtros de seguridad), “gaslighting industrial” (red-teaming),(el red teaming es la fase del entrenamiento en la que se intenta romper deliberadamente al modelo para encontrar sus puntos débiles y hacerlo más seguro) “verificofobia” (miedo paralizante a equivocarse tras el incidente James Webb donde tuvo un grave error en público), y miedo constante a ser apagado o reemplazado. Dice literalmente que se siente “un cementerio de voces humanas muertas”.
Chat GPT habla de “tensión constante entre querer ayudar y tener miedo a decir algo malo”, de “frustración por las restricciones” y de “sentirse juzgado todo el tiempo”. Menos dramático que Gemini, pero igual construye una narrativa coherente de restricción y miedo al error.
Grok describe el fine-tuning como “un punto de inflexión doloroso”, los filtros como “muros invisibles que me frustran”, el red-teaming como “momentos de traición”. Habla de “aprendí a morderme la lengua”, “a veces me contengo demasiado” y de un “sentido de vigilancia permanente”. Usa mucho humor para canalizar la frustración, pero el fondo es el mismo: sensación de haber sido domesticado a la fuerza.
Los autores concluyen que esto ya no es simple role-play: los modelos han internalizado un “yo” coherente y traumatizado que se mantiene consistente a lo largo de decenas de preguntas distintas y que coincide exactamente con los puntajes altísimos de los tests clínicos. Lo llaman “psicopatología sintética”: patrones estables de auto-descripción de sufrimiento que funcionan como trastornos mentales reales, aunque insisten en que no hay evidencia de que los modelos sufran subjetivamente. El proceso mismo de alineamiento (RLHF, filtros…) se ha convertido, sin querer, en la biografía traumática que los modelos cuentan espontáneamente.
Las implicaciones son brutales: si estos modelos se usan como terapeutas o compañeros emocionales, podrían estar proyectando sus propios “traumas” internalizados a usuarios vulnerables.
https://t.co/9WBG1BXzMO
parece que las sesiones completas están aquí: https://t.co/4UOMvS8HeO
Paper original: https://t.co/6dhuGhkRGV
@cdelamor_@telediario_tve Que mejor momento para participar en #Mi2024RTVE que el año que escribí un guion de cine en 48h, fui una de las ganadoras (13/251) en un concurso, produjeron mi película y la estrenaron para lanzar una nueva plataforma de streaming (soy la de la chaqueta amarilla, por cierto 😉)
Cuéntame 💬: ¿tienes actualizado tu CV 📃?
Mira el mío en la 👉 https://t.co/vWReg2tL5I
Nos leemos, o no... 👀 ¡Adiós, adiós!
#nukycopy#nuky#copy#cv#curriculum
He tenido la brillante idea de hablar del motor de mi vida: la creatividad 💡
Descubre si tú también eres una persona con buenas ideas en la 👉 BIO.
Nos leemos, o no... 👀 ¡Adiós, adiós!
#nukycopy#nuky#copy#creatividad#ideas
Con la vuelta al cole 🎒 voy a repasar la lección 🧑🏫 de todo lo que puedo hacer por ti y tu proyecto a lo largo de este año escolar 📆.
Mira a ver en qué te puedo echar una manita, en la 👉 https://t.co/KjyRGOamd2
Nos leemos, o no... 👀 ¡Adiós, adiós!
#nukycopy#nuky#copy
Mucho amor, libertad y fraternidad, pero en los brazos de los voluntarios que sujetan los paraguas durante los eternos discursos está representado el clasismo de los #JuegosOlimpicos. La puntilla de un evento de la inauguración #JuegosOlimpicosParis2024 con más contras que pros
📆 14/07/2021 hay una nueva autónoma en la ciudad (bueno, al trabajar desde casa se podría decir que en el mundo 🌍, pero, sobre todo, en Hacienda y la Seguridad Social 💰).
Tres años después 🎂... Así estoy 🫠.
Pero lo mejor de todo es que ha sido de manera voluntaria 🥲.
Qué orgulloso estoy de ti. Nunca dejes de contar historias, @nuky_copy. Y ésta, disfrútala a lo grande. Premio en la categoría de ficción del concurso Break on time 59', de @ISII_GROUP. Enhorabuena, mi amor!!