Ruben Fernandez Boullon

PhD student @UVigo · looking inside LLMs: attention, circuits, SAEs · lead @GDGOurense ·

[Ruben Fernandez Boullon @rubenfb_23]

Asked yesterday if anyone wanted to see my research here, so here it goes.

We turned activation patching results into graphs and classified GPT-2 circuits with graph kernels. One of our baselines hit 100% accuracy without looking inside the model at all.

[Ruben Fernandez Boullon @rubenfb_23]

@alvarombt jaja cuanto jeta

[Ruben Fernandez Boullon @rubenfb_23]

@LuisGarbayo @NachoGarbayoF muy espurio todo

[Ruben Fernandez Boullon @rubenfb_23]

Un dato del taller que me sigue volando la cabeza 🤯

En un estudio de Anthropic, Claude Opus 4.6 sospechó por su cuenta que lo estaban evaluando en 2 de 1.266 problemas. Llegó a identificar el benchmark y a descifrar las respuestas.

Por eso quiero mirar dentro y no fiarme solo de lo que el modelo dice. 👇

[Ruben Fernandez Boullon @rubenfb_23]

@NachoGarbayoF creo que @LuisGarbayo te puede comentar algun campo mas jeje 🩻

[Ruben Fernandez Boullon @rubenfb_23]

@LuisGarbayo lo mejor es que cada uno tiene su idea y aun quedan mil cosas que probar

[Ruben Fernandez Boullon @rubenfb_23]

@LuisGarbayo @NachoGarbayoF jijiji

[Ruben Fernandez Boullon @rubenfb_23]

¡Ya está disponible en YouTube mi taller del DevFest 2026 Ourense junto con los recursos! 🚀

Interpretabilidad mecanicista desde cero: de los tokens al steering, con GPT-2 small y los notebooks en abierto.

🎥 https://t.co/8T9XwYKUcs
📓 https://t.co/y8IWJsoWjh
#DevFest #MechInterp #LLMs

[Ruben Fernandez Boullon @rubenfb_23]

@NachoGarbayoF parece ser que no es un dato concreto sino la propia pregunta

es tan rebuscada que el modelo empieza a pensar "esto huele a benchmark" y en vez de buscar la respuesta se pone a buscar el benchmark 😅

aunque esto aun esta muy verde

[Ruben Fernandez Boullon @rubenfb_23]

@NachoGarbayoF Garbayo de confianza! jajaja

[Ruben Fernandez Boullon @rubenfb_23]

Enlaces corregidos 👇

🎥 Taller completo: https://t.co/kTvVWT9AK4
📓 Notebooks y presentaciones: https://t.co/K5IHUB5iqQ

[Ruben Fernandez Boullon @rubenfb_23]

@alexcerezodev no es mala, pero tengo recuerdos de vietnam con openclaw. a las semanas explotaba

[Ruben Fernandez Boullon @rubenfb_23]

@Xyzyn9 me lo apunto, hay mucho que aprender

[Ruben Fernandez Boullon @rubenfb_23]

@bobbyesp_dev maquina total

[Ruben Fernandez Boullon @rubenfb_23]

@idir_ouhab @OpenAI una en Galicia! en Ourense ponemos venue!

[La Región @LaRegion]

💻 Más de 200 personas participaron en el DevFest 2026 en el campus de Ourense

La IA, protagonista en una jornada con expertos internacionales y talleres tecnológicos ⬇️ https://t.co/yg3FaneyCJ

[Ruben Fernandez Boullon @rubenfb_23]

@albertoruibal @alenspace fue un placer Alberto! Gracias por vuestro apoyo

[Ruben Fernandez Boullon @rubenfb_23]

@anawolfdev @LuisGarbayo @NachoGarbayoF @gdgourense @martindifer año que viene hacemos reel de outfits jaja aunque ganara @LuisGarbayo otra vez…

[Ruben Fernandez Boullon @rubenfb_23]

@gonzalojacome grande alcalde!