mi💚

[Pedro Carvalho @pedrocarvalhoTW]

Todos hemos utilizado ya alguna vez «una IA». Metemos en ese saco cosas como ChatGPT, Claude, Grok y muchas otras. Pero ¿sabemos realmente qué estamos utilizando?

Voy a tratar de explicarlo de forma sencilla...

La inteligencia artificial no es una tecnología concreta, sino un término general que agrupa sistemas capaces de realizar tareas que asociamos con la inteligencia humana. Reconocer una cara, traducir un texto, conducir un coche o mantener una conversación son problemas muy distintos y deben resolverse mediante diferentes tipos de IA. La que es buena en una cosa no tiene por qué serlo también en otra.

ChatGPT, Claude o Grok son asistentes construidos alrededor de modelos de lenguaje de gran tamaño, los llamados LLM, siglas de Large Language Model. El modelo es el motor que procesa y genera lenguaje. A su alrededor puede haber buscadores, sistemas de memoria, calculadoras, intérpretes de código, filtros de seguridad y otras herramientas.

Conviene distinguir, por tanto, entre el modelo y el producto completo. ChatGPT no es únicamente un LLM, del mismo modo que un ordenador no es únicamente su procesador.

Un LLM se entrena, en esencia, aprendiendo a predecir qué fragmento de texto debería aparecer a continuación. El principio recuerda al teclado predictivo del móvil, que intenta anticipar la siguiente palabra, aunque un LLM lo hace a una escala y con una complejidad incomparablemente mayores. Estos fragmentos se llaman tokens y pueden ser palabras completas, partes de una palabra, signos de puntuación o combinaciones de caracteres.

Puede parecer un proceso demasiado sencillo para producir resultados tan complejos. Sin embargo, para predecir correctamente el siguiente token en cantidades inmensas de textos, el modelo necesita aprender regularidades gramaticales, relaciones entre conceptos, estilos de escritura, estructuras argumentales y muchos otros patrones presentes en el lenguaje. Es decir, no almacena una lista explícita de reglas, sino que las aprende indirectamente durante el entrenamiento. Esto es importante porque a veces se explica un LLM comparándolo con una gigantesca biblioteca. Es una analogía útil, pero puede inducir a errores si nos la tomamos de forma demasiado literal.

Para entender qué son realmente estos modelos (y qué no son) debemos comprender que ChatGPT, Grok o Claude no responden buscando un libro en una estantería. Si fuera así, cada respuesta sería una búsqueda documental. Y eso no es lo que hace por sí solo un LLM.

Durante el entrenamiento, el modelo «lee» cantidades inmensas de texto. Sin embargo, no almacena esos documentos como una biblioteca ordenada y preparada para ser consultada. Lo que de verdad hace es modificar miles de millones de valores numéricos, los llamados parámetros, hasta aprender patrones, relaciones y regularidades presentes en esos textos.
O sea, que esa biblioteca de la analogía no representa exactamente el modelo, sino su «educación».

Los parámetros tampoco equivalen al número de libros. Son las huellas matemáticas que ese aprendizaje ha dejado en la red neuronal. Podríamos compararlos, con muchas cautelas, con los cambios que se producen en el cerebro de una persona después de años leyendo, estudiando y practicando.

Así que no, cuando le hacemos una pregunta, el modelo no recorre pasillos buscando el volumen adecuado. Genera la respuesta utilizando los patrones que aprendió durante el entrenamiento y la información que tiene en ese momento dentro de su contexto.

Y esto explica también otra diferencia importante. Una persona puede recordar algo mal, mezclar dos recuerdos o rellenar inconscientemente un hueco. Puede dar una respuesta incorrecta aunque todos los libros que hubiera leído fueran perfectos. Un LLM puede producir un resultado parecido. No porque recuerde como un ser humano, sino porque genera una continuación plausible sin disponer necesariamente de un registro documental que le permita comprobar cada afirmación.

Eso es lo que solemos llamar una alucinación. Y el gran problema es que las alucinaciones no son una avería ocasional, sino una consecuencia posible de la forma en que estos modelos generan texto.

Una alucinación no significa necesariamente que hubiera información falsa en el conjunto de entrenamiento. El modelo puede combinar datos correctos de manera incorrecta, atribuir una frase a la persona equivocada, inventar una referencia que parece plausible o responder con demasiada seguridad sobre algo que conoce de forma insuficiente.

Y llegados a este punto, mucha gente formula una objeción que, a primera vista, resulta razonable. Si los LLM a veces inventan información, ¿para qué sirven? Yo no quiero preguntar por una resolución judicial y que el modelo se invente la sentencia, ¿verdad?

La respuesta es bastante más matizada y depende de la tarea.

Hay cosas para las que, evidentemente, no deberíamos utilizar sin más un LLM. Un modelo aislado no es una enciclopedia infalible, una base de datos ni una autoridad documental. Tampoco puede garantizarnos por sí solo que una cifra sea exacta, que una cita sea literal, que una sentencia exista realmente o que un dato siga estando actualizado, pero, y esto es importante, eso no lo convierte en inútil. Todo lo contrario.

Un LLM puede ser extraordinariamente eficaz para resumir documentos que le proporcionamos, reescribir textos, traducir, clasificar información, extraer datos, comparar argumentos, explicar conceptos, generar borradores, localizar contradicciones, proponer estructuras o ayudar a escribir código que después pueda probarse.

En esas tareas no dependemos tanto de que el modelo «recuerde» correctamente un dato externo. Trabaja principalmente sobre el material que tiene delante o produce una transformación cuyo resultado podemos revisar.

El riesgo aumenta cuando le pedimos información factual precisa que no aparece en el contexto. Por ejemplo, el contenido exacto de un informe, la jurisprudencia vigente, el estado actual de una investigación, una cifra económica reciente o una referencia bibliográfica concreta. Un LLM puede conocer esos datos y responder correctamente, pero no es una base documental diseñada para garantizar su exactitud, actualidad o procedencia. Esa es la diferencia esencial.

Ahora bien, también podemos proporcionarle fuentes externas para que no dependa exclusivamente de lo aprendido durante el entrenamiento. Una de las formas de hacerlo es mediante los sistemas RAG, siglas de Retrieval-Augmented Generation, o generación aumentada mediante recuperación de información.

En un sistema RAG, primero se busca información en una colección externa de documentos. Después se seleccionan los fragmentos aparentemente relevantes y se incorporan temporalmente al contexto del modelo para que elabore la respuesta a partir de ellos.
Es decir, no se reentrena el modelo ni se añaden permanentemente esos documentos a sus parámetros. Es más parecido a permitirle consultar unos apuntes antes de responder.

Por ejemplo, podríamos conectar un LLM a los informes oficiales de la CIAIAC, el BEA o la NTSB. Ante una pregunta sobre un accidente aéreo, el sistema buscaría los párrafos relevantes, se los proporcionaría al modelo y le pediría que respondiera utilizando esas fuentes.

También podría conectarse a la documentación interna de una empresa, un archivo jurídico, una colección de manuales técnicos o una base personal de conocimientos.

En esos casos, el RAG convierte al modelo en una interfaz para consultar y relacionar documentos. Permite formular preguntas en lenguaje natural, resumir varias fuentes y localizar información que mediante una búsqueda convencional podría resultar difícil de encontrar.

Sin embargo, cuidado: el RAG tampoco garantiza por sí solo una respuesta correcta.

El sistema de recuperación puede seleccionar un documento equivocado, encontrar un fragmento incompleto o utilizar información desactualizada. El modelo también puede interpretar mal el texto, omitir una excepción importante o añadir conclusiones que la fuente no sostiene.

Por eso un buen sistema RAG debe mostrar las fuentes, permitir comprobar los fragmentos utilizados y, cuando sea necesario, obligar al modelo a distinguir entre lo que aparece expresamente en los documentos y lo que constituye una inferencia.

Hay, además, tareas para las que el RAG aporta poco. No necesitamos consultar una biblioteca para corregir el estilo de un párrafo, traducir una carta, cambiar el tono de un texto o proponer diez titulares. En cambio, resulta muy útil cuando queremos trabajar con un conjunto documental concreto y verificable, como una colección de informes técnicos, un archivo jurídico o la documentación interna de una organización.

Y más allá del RAG existen otras herramientas.

Un asistente puede utilizar un buscador para obtener información reciente, una calculadora para realizar operaciones exactas, un intérprete de código para analizar datos, una base de datos para recuperar registros concretos o una API para conocer el tiempo, la cotización de una acción o el estado de un vuelo.

Cuando ocurre eso, ya no estamos utilizando únicamente un LLM. Estamos utilizando un sistema compuesto en el que el modelo interpreta la petición, decide qué información o herramienta necesita y redacta la respuesta utilizando los resultados obtenidos.

Esa distinción permite entender por qué un mismo asistente puede comportarse de maneras tan distintas. A veces responde utilizando exclusivamente el conocimiento aprendido durante el entrenamiento. Otras veces trabaja con los documentos que le hemos proporcionado. Y, cuando tiene acceso a herramientas, puede buscar información, ejecutar código o consultar servicios externos antes de contestar.

No todo lo que hace ChatGPT, Claude o Grok lo hace, por tanto, el modelo de lenguaje por sí solo.

Así que, volviendo a la analogía de la biblioteca, quizá la comparación más fiel sería esta:

- La biblioteca es el material con el que el modelo se educó.
- Los parámetros son las huellas matemáticas que dejó ese aprendizaje.
- El contexto son los documentos y las instrucciones que tiene ahora mismo sobre la mesa.
- El RAG es el bibliotecario que vuelve a las estanterías para localizar fuentes concretas.
- Y las herramientas son la calculadora, el ordenador o el buscador que puede utilizar cuando necesita hacer algo que el lenguaje, por sí solo, no puede resolver con garantías.

Comprender estas diferencias nos permite aprovechar aquello en lo que los LLM resultan extraordinariamente útiles y desconfiar de ellos precisamente cuando más convincentes parecen. No son "el Oráculo de Delfos", sino herramientas increíblemente útiles cuando sabemos utilizarlas… y peligrosamente convincentes cuando no. Por eso, preguntar a Grok (o a cualquier otro LLM) si algo «es verdad» y asumir su respuesta como válida sin comprobar sus fuentes es como consultárselo a un adivino de feria: puede acertar… o no.

[UnNeurocx @Unneurocx]

Fin: la solución NO es quitar las guardias de 24 horas, sino racionalizar las guardias, pagarlas como horas extraordinarias y justificarlas

[Jordi Sabaté Pons @pons_sabate]

Si quieres que hoy España gane el Mundial...

Haz un Bizum al 12239 para la investigación de ELA @elados_asoc

*97% de probabilidad de que gane si lo haces.

[María José Saco @keka_saco]

@Hipocresiaroja @harryelsocio Una cosa es la fecundación in vitro y otra la gestación subrogada. Esta última presenta bastantes matices éticamente MUY cuestionables. Yo, mientras no se solucionen, estoy en contra. Hay otras formas de ser padres. Y los hijos no se tienen para ser felices (aunque den felicidad)

[LadyCrocs @ladycrocs]

Los que estamos en los juzgados, a los que hay que llamar ahora tribunales, decimos que es un fiasco que ha aumentado el coste y retrasado el acceso.

Pero bueno, a Félix le importa más lo que dice que dicen los demás.

Y ustedes ¿a quién creen, a Félix o a nuestros ojos?

[Mirian Peralta @mirianperaltag]

Hubo un tiempo en q me dolía decir los años q cumplías. No ponía la vela con el número en la tarta xq era un doloroso recuerdo de cuántas cosas de tu edad no podías hacer. DIEZ años. Cuánto has aprendido. Y sobre todo, cuanto me has enseñado, Julio.
Qué bonito sostenerte 💙🎂

[Natalia Velilla 🇪🇺 @natalia_velilla]

Este verano me despido de vosotros un poco antes. Espero veros a la vuelta en septiembre, traeré buenas noticias. Siento no acabar la serie especial, pero no tengo ánimos para ello. Descansad los que podáis y disfrutad de vuestra gente. Lo único que importa no se paga con dinero

[Sebastián Puig ⚓ @Lentejitas]

El valor del trabajo en equipo no está sólo en sumar esfuerzos, sino en multiplicar capacidades.

Buenas noches, buena gente.

[La Madre de Satán @LaMadreDeSatan]

Hace 29 años.
A esta hora.
Pamploneses atan sus pañuelos en el Ayuntamiento, en señal de homenaje.
(por la noche fueron quemados por los batasunos).
Contra el olvido.

[Loretta 🍺🎾🎸 @FPJ_Loretta]

Puede usted informarse sobre temas jurídicos por un juez que no se mete con nadie o por Antonio Maestre, conocido jurista y persona moderada donde las haya.

[Natalia Velilla 🇪🇺 @natalia_velilla]

Si alguna vez tenéis tú o algún familiar un grave problema penal, mi consejo es elegir al abogado/a que batalla en los juzgados, que sabe derecho penal (y ¡sobre todo! procesal). El buen abogado no monta circos.

[marie @MarieBensimon]

Tuve yo largo y trabajoso pleito con mi señor esposo acerca de los aires acondicionados, del cual hice sabedores a los buenos amigos de esta plaza. Desenvainé armas de razón, ciencia y números, que son munición de escaso provecho cuando el contrario se halla bien atrincherado en sus convicciones. Ninguno de mis argumentos logró abrir brecha, pues estaba el buen hombre bien adoctrinado en la piadosa doctrina de que sudar ennoblece y refrigerarse envilece, siempre que el sudor fuese del prójimo.

No siendo yo de tan ascética condición, acabé por notificarle hace dos días que habría de climatizar media casa para alivio de mis carnes y que la otra mitad quedaría a su disposición, por si deseaba perseverar en la santidad de cocerse lentamente como mártir de la virtud gala. Y medio reñidos andábamos con este asunto.

Mas quiso la fortuna que acudiesen en mi socorro nuestros esclarecidos gobernantes. Viéndolos mi marido tan vehementes en negar al vulgo el alivio de la climatización, mientras ninguno imagina que sus señorías suden bajo sus propios techos, recibió súbita iluminación. "Si estos hideputas ponen tanto empeño en que no nos refresquemos, será porque refrescarse conviene", díjose para sus adentros.
Y cayose del caballo.

Así que hoy me complazco, cosa rarísima, en alabar a nuestros próceres. Donde fracasaron la física, la lógica y mi perseverancia, triunfó su hipocresía. Gracias a ella, esta casa será climatizada de la bodega al tejado y, si llegare el calor a mayores extremos, aun un split en cada nalga habríamos de ponernos por mejor conservar la vida que la doctrina.
Por fin han servido para algo, los muy bellacos.

[Tom @Tomy_Rohde]

Pero dejen de hacer el gelipollas en la comisión europea

Que los lee todo el mundo y se van a pensar que todos los europeos somos gilipollas y les juro que no es así de verdad de la buena

[Natalia Velilla 🇪🇺 @natalia_velilla]

Pues se ha ampliado a dos chic@s más y se ha vuelto a batir!!!! 9 jóvenes tendrán campamento ❤️❤️❤️

[Natalia Velilla 🇪🇺 @natalia_velilla]

Cada vez que recurro a la solidaridad de mis seguidores, me doy cuenta de que hay más gente buena de lo que creemos. Hoy os pido ☀️🌈 ¡Ayudadme a conseguir que 7 niños y jóvenes con discapacidad disfruten de un verano lleno de sonrisas! 🌈☀️ para Fundación MasNatur (sigo)

[LadyCrocs @ladycrocs]

Me ha parecido un hilo tremendamente útil y muy trabajado.

Muchas gracias por tomarte el tiempo para ilustrarnos, Adrián, sobre todo a nuestros guardianes: policía y guardia civil.

[LadyCrocs @ladycrocs]

Probablemente haya a quien no le guste lo que aquí se dice.

Hasta que nos prohíban la ironía y el sentido del humor, pues yo lo comparto.

[Natalia Velilla 🇪🇺 @natalia_velilla]

Capítulo #3 del especial #10TipsDeJueces “desmintiendo y corrigiendo informaciones sesgadas”. Hoy, la historia de una invención, como la de Ricky Martin y el perro. Cómo la manipulación colectiva da por cierto el bulo de que la justicia no sabía quién era “M. Rajoy” hilo 🧵va 👇🏻

[LadyCrocs @ladycrocs]

¿Por qué no puedo cantar la de Pedrá de Extremaduro en clase de música?

Porque dura media hora y hay más compañeros que quieren cantar.

¿Por qué no puedo quedarme tumbado en el pasillo del instituto?

Porque está prohibido.

¿Por qué?

----------

[LadyCrocs @ladycrocs]

Vivir con el autismo es sobrevivir a las circunstancias.

Para los autistas es una prueba de fuego cada segundo de su existencia: deben adaptarse a convenciones y situaciones que no comprenden ni comparten.

Para los familiares es la eterna intermediación entre ellos y esas circunstancias.