🚨ÚLTIMA HORA: OpenAI publicó un artículo que demuestra que ChatGPT SIEMPRE se inventará cosas.
No es un fallo temporal ni falta de datos. Es un problema matematico estructural. Incluso con potencia ilimitada y datos perfectos, los modelos de IA seguiran afirmando falsedades con total seguridad.
El deterioro por modelo es notable:
• El modelo o1 alucina el 16% de las veces.
• El modelo o3 sube al 33%.
• El nuevo o4-mini llega al 48%.
Casi la mitad de sus respuestas son inventadas.
La razon es que estos sistemas funcionan por probabilidad. Al no estar seguros, no se detienen: adivinan. Ademas, los sistemas de evaluacion actuales castigan la honestidad. Decir "no lo sé" otorga la misma puntuacion que dar una respuesta falsa: cero. La IA ha aprendido que la estrategia optima es fingir seguridad absoluta siempre.
OpenAI sabe como mitigarlo, pero la solucion mataria el producto. Si el sistema admitiera su incertidumbre, dejaria de responder al 30% de las preguntas de los usuarios. Comercialmente, la honestidad es un suicidio.
Institutos como DeepMind y la Universidad de Tsinghua han llegado a la misma conclusion de forma independiente. Tres de los laboratorios mas importantes del mundo coinciden: las alucinaciones son permanentes.
La proxima vez que recibas una respuesta de la IA, recuerda que podria ser simplemente una conjetura estadistica muy bien presentada.
Tenlo en cuenta.
#Entel antes eras chévere… ahora solo guateando… se corta la luz y hay que pedirle a Dios que funcionen los datos móviles… mal ahí #Entel, en una emergencia real quizás tendremos que mandar señales de humo… no da ni para Wsp. Este mensaje se subirá cuando vuelva la luz 🤦🏼♀️
Y si el plan de Xabi es ayudar a que Rodrygo llegue a los 480 partidos sin hacer goles y por eso es su cambio por defecto en todos los partidos aunque siga sin hacer nada?
#RealMadrid#Rodrygo
Lo peor es que el agrandado este va a sacar pecho por hacer en el segundo tiempo lo que debió hacer desde el inicio del partido 🙄
Como diría el Pipo Gorosito, puro Biri biri el manco de Cordova 🙄
#MundialSub20#LaRoja