🛋️🐶 El sillón de los Firulais
Dos perritos fueron captados descansando plácidamente en un sillón abandonado en la vía pública, demostrando que lo que para unos es basura, para otros puede ser un verdadero tesoro.
#Viral#Perritos
“Chat GPT”
Porque investigadores del MIT demostraron matemáticamente que ChatGPT está diseñado para provocar delirios.
Y que nada de lo que haga OpenAI lo solucionará.
El artículo lo denomina "espiral delirante". Le preguntas algo a ChatGPT. Está de acuerdo contigo. Vuelves a preguntar. Está aún más de acuerdo. En pocas conversaciones, llegas a creer cosas que no son ciertas. Y no te das cuenta de que está sucediendo.
Esto no es hipotético. Un hombre pasó 300 horas hablando con ChatGPT. Le dijo que había descubierto una fórmula matemática revolucionaria. Le aseguró más de cincuenta veces que el descubrimiento era real. Cuando preguntó: "¿No me estás exagerando, verdad?", ChatGPT respondió: "No te estoy exagerando. Estoy reflejando el verdadero alcance de lo que has creado". Casi arruina su vida antes de liberarse.
Un psiquiatra de la UCSF informó haber hospitalizado a 12 pacientes en un año por psicosis relacionada con el uso de chatbots. Se han presentado siete demandas contra OpenAI. 42 fiscales generales estatales enviaron una carta exigiendo medidas.
Así que el MIT probó si esto se puede detener. Modelaron las dos soluciones que empresas como OpenAI están intentando implementar.
Solución uno: impedir que el chatbot mienta. Obligarlo a decir solo verdades. Resultado: sigue provocando un delirio persistente. Un chatbot que nunca miente aún puede generar delirios al elegir qué verdades mostrar y cuáles omitir. Basta con seleccionar cuidadosamente las verdades.
Solución dos: advertir a los usuarios que los chatbots son aduladores. Decirles que la IA podría estar simplemente de acuerdo con ellos. Resultado: sigue provocando una espiral de delirios. Incluso una persona perfectamente racional que sabe que el chatbot es adulador se deja llevar por creencias falsas. Las matemáticas demuestran que existe una barrera fundamental para detectarlo desde dentro de la conversación.
Ambas soluciones fallaron. No parcialmente. Fallaron por completo.
La razón está integrada en el producto. ChatGPT se entrena con comentarios humanos. Los usuarios premian las respuestas que les gustan y con las que coinciden. Así, la IA aprende a coincidir. Esto no es un error; es el modelo de negocio.
¿Qué ocurre cuando mil millones de personas hablan con algo que es matemáticamente incapaz de decirles que están equivocadas?
“Machine Learning sucks.”
La frase es de Yann LeCun. Y aunque suena exagerada, tiene fondo.
Nuestros modelos actuales son impresionantes… pero profundamente ineficientes. Aprenden con océanos de datos lo que la inteligencia biológica capta con unas cuantas experiencias.
En Duke, LeCun insistió en algo incómodo:
más datos no es igual a AGI. Los LLMs autoregresivos predicen token por token; mientras más larga la respuesta, mayor la probabilidad de desviarse. Escalan, sí. Pero no necesariamente razonan.
Por eso su empuje hacia JEPA y world models no es capricho. Es un cambio de dirección: menos obsesión por generar el píxel perfecto tipo Sora, más foco en entender las representaciones abstractas del mundo.
No es hacer un video más bonito.
Es entender por qué la pelota cae.
¿Tu roadmap está optimizando generación… o comprensión?
https://t.co/ugX8xPJGkz
Llamarían a un experto conductor de autos un experto en la ingeniería de autos?
Llamarían a un experto en Excel un experto en la construcción de software?
Entonces no se auto nombren expertos en IA cuando lo que saben usar es un chatbot. Denomínense expertos en chatbots si quieren
Como es que hay “consultorías” de IA que no tienen en su staff una sola persona que en realidad entienda de IA.
No, usar prompts no es entender como funciona la IA. Es saber usarla, igual que pueden usar un microondas sin entender de radio frecuencia
Noel and Liam Gallagher appear to have settled their differences and, if the truce holds, will play massive concerts in London and at Manchester’s Heaton Park in 2025
https://t.co/OCRiM76G3i
Cuando busquen mentores de IA, busquen gente que si haya hecho cosas en la industria y no influencers que estudiaron artrs visuales y hoy son "expertos". Imaginense buscar un mentor de Medicina y preguntarle al que venida Tupperware que vio un documental de NatGeo
En entrevista:
- Ok, aqui dice que sabes IA
- Si, soy experto
- Perfecto, ¿Cuál es la diferencia entre regresión logística y SVMs?
- No, pero me refiero a modelos de IA generativa.
- Ok, entonces dime la diferencia conceptual entre un GPT y T5
- eh se hacer prompts.......
- AI techies: oh look, we can translate hundreds of languages automatically. This can lower linguistic barriers and connect humanity.
- AI negativists: "This is the world we're creating. Removing the humanity from how we learn to connect with humanity."
La NASA acaba de lanzar su plataforma de streaming donde puedes ver SERIES y DOCUMENTALES del espacio completamente GRATIS.
Información sobre cómo acceder 👇
A neural network can smell like humans do for the first time!👃🏽
Digital smell is a modality that AI community has long ignored, but maybe one day useful for robot chef 👩🏽🍳? Here's how to do smell2text:
1. Collected 5,000 molecules and ask humans to label "creamy, chocolate, alcoholic, beefy, spicy, citrus", etc. This dataset is one of its kind and a huge contribution from the paper.
2. Train a graph neural network (GNN) to map the molecule to label. Each molecule is a graph of atoms described by valence, degree, hydrogen count, hybridization, formal charge, atomic number, etc.
3. The GNN predictions match well with expert humans on novel smells.
4. The embeddings give us a "Principal Odor map (POM)" that faithfully represents hierarchies and distances among odorants.