L. Maria Lois

Director at @cragenomica and head of SUMOlab

[Nav Toor @heynavtoor]

🚨BREAKING: OpenAI published a paper proving that ChatGPT will always make things up.

Not sometimes. Not until the next update. Always. They proved it with math.

Even with perfect training data and unlimited computing power, AI models will still confidently tell you things that are completely false. This isn't a bug they're working on. It's baked into how these systems work at a fundamental level.

And their own numbers are brutal. OpenAI's o1 reasoning model hallucinates 16% of the time. Their newer o3 model? 33%. Their newest o4-mini? 48%. Nearly half of what their most recent model tells you could be fabricated. The "smarter" models are actually getting worse at telling the truth.

Here's why it can't be fixed. Language models work by predicting the next word based on probability. When they hit something uncertain, they don't pause. They don't flag it. They guess. And they guess with complete confidence, because that's exactly what they were trained to do.

The researchers looked at the 10 biggest AI benchmarks used to measure how good these models are. 9 out of 10 give the same score for saying "I don't know" as for giving a completely wrong answer: zero points. The entire testing system literally punishes honesty and rewards guessing.

So the AI learned the optimal strategy: always guess. Never admit uncertainty. Sound confident even when you're making it up.

OpenAI's proposed fix? Have ChatGPT say "I don't know" when it's unsure. Their own math shows this would mean roughly 30% of your questions get no answer. Imagine asking ChatGPT something three times out of ten and getting "I'm not confident enough to respond." Users would leave overnight. So the fix exists, but it would kill the product.

This isn't just OpenAI's problem. DeepMind and Tsinghua University independently reached the same conclusion. Three of the world's top AI labs, working separately, all agree: this is permanent.

Every time ChatGPT gives you an answer, ask yourself: is this real, or is it just a confident guess?

[CRAG @cragenomica]

We appear in the Nacional croatian news in a reportage about Catalonia and climate change 🌍🌡️🌱

Thanks @dragnikolic for your work!

@iCERCA
@CataloniaIntl
@recercauniscat

[CRAG @cragenomica]

It was great welcoming this group of foreign journalists to explain our work on plant genomics and agriculture adapted to climate crisis🌱🧬🌍

Thanks @CataloniaIntl and @iCERCA to make it possible!

[CRAG @cragenomica]

El divendres vam rebre la visita de la Directora General de Recerca @recercauniscat Teresa Sanchis Estruch.

Un plaer poder mostrar la nostra recerca i compartir opinions i visions sobre el sistema de recerca català.

[L. Maria Lois @LMariaLois]

@IBMCP enhorabuena!!

[Ivan Reyna-Llorens @MCLlorens]

@cragenomica #CRAGOpenDay25 was amazing thanks to the organisers!

[CRAG @cragenomica]

💡 Mujeres al mando de los centros de investigación catalanes

Seis directoras, entre ellas la nuestra @LMariaLois, explican a @elperiodico las mejoras que están implementando en sus centros y cómo están cambiando la forma de liderar

Lo puedes leer aquí: https://t.co/atVy5l3PPu

[CSIC en Catalunya @CSICCat]

Ahir @som3cat ha explicat la recerca de @Ana_CanoDelgado @CSIC @cragenomica

La identificació d'un gen clau en la resistència a la sequera de la melca i noves eines d'edició genòmica, no transgèniques, obren camí a l'agricultura futura #canviclimàtic

https://t.co/sdbmlPLTXC

[CRAG @cragenomica]

Comença la trobada amb una presentació de @JoanGodia, Director general d'Empreses Agroalimentàries, Qualitat i Gastronomia del @agriculturacat

Seguidament es parlarà de la regulació de les NTG i els OMG, i es presentaran diversos exemples de recerca aplicada al sector agrícola

[CRAG @cragenomica]

@JoanGodia @agriculturacat @LMariaLois Concloem la jornada amb la directora del CRAG, @LMariaLois, presentant #nGENIA el projecte d’assessorament científic conjunt amb el @gobmapa.

La trobada ha finalitzat amb un recorregut per les nostres instal·lacions, reforçant ponts entre recerca i agricultura.

[CRAG @cragenomica]

🌾 What are NGTs and why they are a new chance for european agriculture?

🎥 This video explores key challenges and the EU regulation around them

🧬 Produced as part of #nGENIA, a project offering expert advice on genomic innovation in agriculture

https://t.co/aMGjc3BuIp

[CRAG @cragenomica]

La investigadora del CRAG @Ana_CanoDelgado entre las finalistas del Premio Vanguardia de la Ciencia 2025 por su pionera investigación en sorgo ✨

Ha identificado una proteína clave en la resistencia de este cereal frente a condiciones extremas 📖👇

https://t.co/m44x1WuO5O

[CRAG @cragenomica]

Ayer @rne entrevistó a @LMariaLois para conocer de primera mano la jornada para iniciar el proyecto #nGENIA. Un proyecto de asesoramiento científico al @gobmapa sobre las nuevas técnicas genómicas #NTG

📻 Escucha la entrevista entera aquí: https://t.co/zy0HQimbxd

[CRAG @cragenomica]

✨ Avui hem tingut el plaer de visitar els companys i les companyes de l’@ICMCSIC per dialogar sobre possibles col·laboracions entre els dos centres.

🤝 Ha estat un intercanvi molt enriquidor!

[CRAG @cragenomica]

@LMariaLois @gobmapa También ha presentado un vídeo de presentación del proyecto 👇

🎥 Si queréis conocer más sobre las NTG, míralo aquí: https://t.co/bfSavnUDk3

[CRAG @cragenomica]

@LMariaLois @gobmapa @redPAC_ Turno para la exposición de varios proyectos de investigación con NTG 🧬

Después se llevará a cabo un diálogo para conocer el contexto regulatorio, y finalmente una mesa redonda para entender el impacto en el sector agroalimentario.

👇En directo aquí:

https://t.co/RK0F0t3I7b

[CRAG @cragenomica]

🎙️@LMariaLois, directora del CRAG en @aragonradio: "Este proyecto nos permitirá crear una base de datos para divulgar resultados científicos de centros nacionales, fomentando sinergias entre investigación y sector agrario"

Más sobre el proyecto, a partir del min 44:20 👇

[L. Maria Lois @LMariaLois]

Digital Workplace & IT Specialist offer👇
https://t.co/1qngjRnTec

[CRAG @cragenomica]

Nuestra doctoranda Leire Rivero recibió una beca INPhINIT de la @FundlaCaixa

Hoy se ha celebrado la ceremonia de entrega de estas becas del 2024 y Leire ha ido con nuestra directora @LMariaLois 🚀

#Becas #FundaciónlaCaixa #becariasFundlaCaixa #becariosFundlaCaixa

[CRAG @cragenomica]

@EUCouncil 🔗 I si vols saber més sobre els diferents tipus de modificacions genètiques de plantes, tenim aquesta web a on trobareu tota la informació: https://t.co/1LvJX4c6gQ