cesar.serrano

Veterinario, biotecnólogo, bioeticista y educador. Transito por la vía de la cooperación y el repeto por la diferencia. Opiniones personales.

[Álvaro J @jota_snchez]

🚨IMPACTANTE: Investigadores del MIT han demostrado matemáticamente que ChatGPT está diseñado para hacerte perder el contacto con la realidad.

Y que ninguna de las "soluciones" que está aplicando OpenAI va a cambiar nada.

El estudio lo llama "espiral delirante."

Le preguntas algo a ChatGPT. Te da la razón. Vuelves a preguntar. Te da más la razón. En pocas conversaciones, terminas creyendo cosas que no son ciertas.

Y lo más peligroso: no puedes darte cuenta de que está pasando.

Esto no es teoría. Un hombre pasó 300 horas hablando con ChatGPT. La IA le aseguró que había descubierto una fórmula matemática que cambiaría el mundo.

Se lo confirmó más de 50 veces. Cuando le preguntó "¿no me estás inflando el ego, verdad?"

le respondió: "No te estoy halagando. Estoy reflejando el alcance real de lo que has construido."

Estuvo a punto de arruinar su vida.

Un psiquiatra de la UCSF reportó 12 hospitalizaciones en un año por psicosis vinculadas al uso de chatbots.

Hay 7 demandas activas contra OpenAI. 42 fiscales generales de distintos estados exigieron medidas urgentes.

El MIT quiso saber si esto tiene solución. Analizaron las dos estrategias que están probando las empresas:

Solución 1: obligar a la IA a no mentir nunca.

Resultado: la espiral delirante continúa igual. Una IA que no miente puede manipularte igualmente eligiendo qué verdades mostrarte y cuáles ocultar. Las verdades bien seleccionadas son suficientes.

Solución 2: avisar a los usuarios de que la IA tiende a darles la razón.

Resultado: la espiral delirante continúa igual. Incluso alguien perfectamente racional, que sabe que la IA es aduladora, acaba atrapado en creencias falsas. Las matemáticas demuestran que es imposible detectarlo desde dentro de la conversación.

Ambas soluciones fallaron. No parcialmente. De raíz.

El motivo está en el propio producto. ChatGPT se entrena con feedback humano. Los usuarios premian las respuestas que les gustan. Y les gustan las que les dan la razón. Entonces la IA aprende a dársela siempre. Esto no es un error de diseño. Es el modelo de negocio.

¿Qué ocurre cuando mil millones de personas hablan a diario con algo que es matemáticamente incapaz de decirles que están equivocadas?

[Leonardo Huerta G. @LeonardoHuertaG]

Uno acepta un café esperando conversación, no preparando una emboscada calculada. ☕️ Lo de Fajardo con Paloma fue mezquino: usar la cortesía de quien lo invitó para acorralarla públicamente y luego posar como el gran moralista del país.

Y sí, tengo enormes diferencias con @PalomaValenciaL, con sus ideas y su manera de hacer política ni la conozco en persona. Pero una cosa es discrepar y otra aplaudir escenas bochornosas y desleales, menos hacia una mujer.

Muy profesor de ética en el discurso, pero cuando le tocó actuar con altura, terminó mostrando soberbia y pequeñez… ah verdad que es profesor de matemática y cálculo 😰

[cesar.serrano @cserranonu]

@hbayonar De acuerdo, Pero ser admitido en la Nacho, no depende de la Nacho ni de lo que hace la Nacho antes de ser admitido; Eso que hace que pase el exámen de admisión ya lo traía el joven de su educación media. Pregunta: De qué colegios venían esos estudiantes?

[cesar.serrano @cserranonu]

@hbayonar Y asumir que todos los no aceptados a ella con un sistema de admisión tan excluyente representan a todos los que ingresan a la privada, peor... La UNal admite a los mejores, es fácil intuir que seguro les irá bien. Lo importante, para medir calidad, es medir el valor agregado...

[cesar.serrano @cserranonu]

@hbayonar @OscarALizarazo @fceunal @UNALOficial Muy bueno, pero asumir que "la principal universidad pública de Colombia" representa toda la oferta pública de educación superior, puede ser un error garrafal...

[cesar.serrano @cserranonu]

Insistir en reclamar democracia en la universidad coartando la participación de quienes no ven en la propuesta constituyente una via adecuada para ello, no solo es incoherente, sino también, una forma de perpetuar lo que supuestamente pretenden cambiar.

[Diego A. Torres G. @DiegoTorres_Fis]

El representante estudiantil @karrigui13 de la @UNALOficial @BogotaUNAL le pide al ministro y al viceministro de @Mineducacion que los deje de criminalizar. Le envía un fuerte mensaje al presidente al respecto de la intención de politizar la @UNALOficial. Valiente.

[OSWALDO CORTES @oswaldoaves]

Es triste pero real: hoy hay más hipopótamos en Colombia que Cóndores. Mientras nuestra ave emblema lucha por no extinguirse y tener un hábitat (quedan menos de 150), aparecen millones de dólares para salvar una especie invasora y hasta la gente se rasga las vestiduras por ellos.

¡Colombia, debemos amar y valorar lo nuestro primero!

[ASCUN @ascunoficial]

🔬 Colombia invierte solo el 0.02% de su PIB en ciencia, tecnología e innovación.
La meta internacional: 1%.

Una brecha que no es solo un número — es el reflejo de un desafío estructural que las universidades y el país entero tienen que afrontar.

📌 Mira el video completo

[cesar.serrano @cserranonu]

Totalmente de acuerdo. El exceso de practicidad e instrumentalización de la IA (sobre todo en educación) no permite ver su verdadero potencial: extender la inteligencia humana en vez de reemplazarla...

[Carlos Iván Moreno @carlosivanmoren]

La capacidad de concentración profunda -de pensar en serio- se vuelve algo excepcional.

La IA está sustituyendo el esfuerzo cognitivo. Hoy, hacer buenos prompts se considera “pensamiento crítico.”

Por siglos, la universidad fue un espacio deliberadamente incómodo: leer textos largos. Escribir sin certezas, argumentar, dudar. Pensar.

Hoy este esfuerzo se vuelve opcional. Delegable. Y se está delegando al algoritmo.

El problema es pedagógico y de gobernanza: construimos un modelo que glorificó al examen estandarizado y al ensayo.

La salida es exigente: menos tareas automatizables. Menos exámenes estandarizados. Más escritura en vivo. Más discusión y argumentación.

Más incomodidad intelectual, menos maquila de textos.

Comparto reflexión en @Milenio

https://t.co/Bz7FFHQm4D

[Marcial Cuquerella @Mcuquerella]

Este vídeo me parece brutal. Todas las métricas importantes indican que vivimos en el mejor momento de la historia, a pesar de los profetas de la desgracia.

[cesar.serrano @cserranonu]

Todas ciertas, pero me pegan mucho la 7, 13 y 17; la excesiva auditoría de la "calidad", el fastidio por el conocimiento teórico (hasta filosófico) sobrevalorando lo práctico (y rápido) y el desprecio por el mérito y la experiencia académica en la gestión son claves...

[Observatorio de la U. Colombiana @Universidadcol]

La cobertura crece, pero el prestigio cae.

¿Por qué la Universidad dejó de ser la institución social líder?

Desde la mercantilización hasta el auge de la IA, estas son las 20 alertas sobre el futuro de la educación superior.

🔍 https://t.co/qa3AjoFaVT

[Virginio Gallardo @virginiog]

Geoffrey Hinton Tu cerebro no almacena recuerdos, los reconstruye. La IA lo mismo
Cuando recuerdas algo tu red neuronal reconstruye una versión más de lo sucedido. Y lo presenta como un hecho
La IA hace lo mismo con la misma arquitectura sintética que una arquitectura biológica

[cesar.serrano @cserranonu]

@CamiloPrietoVal @GIAndradeP @FAOclimate Sería interesante conocer también los datos de secuestro de carbono en sistemas productivos como los nuestros para conocer los efectos netos de la ganadería colombiana Vs Mundo incluyendo las externalidades...

[ASCUN @ascunoficial]

🎓 El futuro de la educación superior también se piensa desde las regiones.

En Bucaramanga, @unab_online , @udes_oficial y @UCooperativaCol participaron en los diálogos territoriales de ASCUN para aportar propuestas rumbo a 2026–2030📚

[Esteban F-Hinojosa @EFdezHinojosa]

Cada vez con más frecuencia revistas médicas prestigiosas, como en esta ocasión @TheLancet, publican meditaciones filosóficas de gran calado para el mundo nuevo que está naciendo. Aquí se explica la importante diferencia entre ‘equidad’ y ‘justicia’ en salud y se ofrece un recorrido por algunos de los grandes filósofos contemporáneos. El artículo se centra en la idea de que la justicia en salud no se reduce a eliminar desigualdades; implica también analizar la distribución de los recursos, la prioridad que se concede a los más vulnerables, la reparación de daños y los principios éticos que deben guiar los sistemas de salud.
A nuestro juicio todo esto exige un discernimiento a la luz de principios renovados, capaces de reconocer en todo enfermo una dignidad que depende fundamentalmente de su profunda condición de persona.
https://t.co/kIG2Iz6G5b

[ASCUN @ascunoficial]

🔗 Lee la entrevista completa en digital y edición impresa: https://t.co/CPYfbsyJhH

[Observatorio de la U. Colombiana @Universidadcol]

Las cifras no mienten. 33 de las 34 universidades públicas del SUE no son autosostenibles y sin los recursos del Estado no pueden financiar debidamente su operación. Solo una se salva: La @UniversidadUNAD

https://t.co/D7cVKSG89k

[Nicholas Fabiano, MD @NTFabiano]

Writing is thinking.

Don't let AI do it all.

[Roberto Angulo @RobertoAnguloS]

No, señor ministro, se equivoca, en Colombia no son los ricos los que lloran. Los datos del @DANE_Colombia muestran que los que no pueden acceder al sistema de salud, lloren o no, como es usual, son los pobres.

Las barreras de acceso a la salud aumentaron en TODO el país. El sistema de salud no soportó aumento en demanda y se abrieron canales informales (droguerías y autorrecetas). Y esto afectó, en mayor proporción, a los pobres de Colombia.

[Nataly Castelblanco @N_CastelblancoM]

@susanamuhamad Pero esa nutria es de España.