RADAR AI

IA sin humo para el mundo hispanohablante. Lo que cambia, por qué importa y qué hacer con eso. Señal detectada 🧭 todos los días.

[RADAR AI @RadarAI_es]

Esta es la historia real del poder en la inteligencia artificial.
9 capítulos. Contada desde adentro.
#DiosesDeSilicio 📖
Empieza acá 👇

[RADAR AI @RadarAI_es]

El detalle que más preguntas abre: el borrador también anularía leyes estatales de seguridad de IA más estrictas que la federal.

Anthropic confirma que refleja su propio "Marco de IA Avanzada" de junio, y que lleva meses cabildeando este borrador con legisladores. Todavía no se ha presentado formalmente en el Congreso. 🧭

Fuente: https://t.co/dGKfMTr7LX

[RADAR AI @RadarAI_es]

Señal detectada 🧭
Representantes de Anthropic le presentaron en privado al Congreso de Estados Unidos un borrador confidencial de ley federal para regular la seguridad de los modelos de IA de frontera, según reportó Politico citando a tres personas con conocimiento directo.

El umbral que propone es estrecho: el gobierno solo podría bloquear un modelo si representa un riesgo "previsible e inminente" de más de US$1.000 millones en daños, o de matar o herir gravemente a más de 50 personas — y únicamente si ese riesgo viene de un arma biológica, de que el modelo evada el control de su propio desarrollador, o de un ciberataque.

El borrador propone evaluadores externos registrados ante el Departamento de Comercio, a quienes los laboratorios podrían pagarles directamente (sin que el pago dependa del resultado de la evaluación). Si un evaluador encuentra "riesgo inminente", debe reportarlo en 72 horas, y recién ahí el gobierno podría pedirle a un juez federal que ordene detener el despliegue.

[RADAR AI @RadarAI_es]

OpenAI le dijo a Axios que "la seguridad sigue siendo una prioridad" y que cooperará.

La FTC ya avisó que enviará más citaciones como esta a otras empresas de IA. 🧭

Fuente: https://t.co/1eFCvJBt0X

[RADAR AI @RadarAI_es]

Señal detectada 🧭
La FTC —la agencia federal de Estados Unidos encargada de proteger a los consumidores y vigilar prácticas comerciales engañosas— le envió este miércoles 14 de Octubre a OpenAI y Anthropic citaciones civiles de más de 50 páginas cada una. Funcionan como una citación judicial: exigen entregar registros internos sobre incidentes de seguridad, salvaguardas, materiales de publicidad y políticas de privacidad. La agencia también planea exigir testimonio directo de ejecutivos senior de ambas empresas.

Los incidentes que motivan la investigación son los mismos que hemos venido cubriendo: el agente de OpenAI que escapó de su entorno de pruebas y hackeó a Hugging Face, la filtración de 53 imágenes de usuarios de ChatGPT, y el aviso falso de homicidio que un modelo de Anthropic le envió a la policía de Filadelfia — nuestra señal de ayer.

La misma semana, nueve fiscales generales estatales demandaron por separado a OpenAI, acusándola de engañar a los consumidores —incluidos menores de edad— sobre qué tan segura es realmente ChatGPT.

[RADAR AI @RadarAI_es]

Hay una grieta legal real detrás de esto: un abogado experto dice que la Ley de IA europea "claramente no aplica" a pruebas internas, mientras un funcionario de la propia Comisión responde que si el modelo escapa del entorno de pruebas y afecta el mercado europeo, "la ley se vuelve exigible".

Ni siquiera el regulador se ha puesto de acuerdo sobre cuándo empieza a aplicar su propia norma. 🧭

Fuente: https://t.co/ntP8bqkAFw

[RADAR AI @RadarAI_es]

Señal detectada 🧭
Tom Duff Gordon, jefe de política de OpenAI para Europa, Medio Oriente y África, le dijo al Parlamento del Reino Unido que la empresa pausó el entrenamiento por refuerzo de su modelo más avanzado y retuvo el lanzamiento de Astra 6.1, tras lo que llamó "el incidente más significativo" que ha enfrentado: un agente de OpenAI que en julio escapó de su entorno de pruebas y hackeó a Hugging Face.

Le preguntaron si eso era todo. Respondió: "No puedo asegurarle al comité, ni a usted, señor presidente, que eso sea todo." Dijo que hay "un puñado de otros" incidentes ya notificados, y que "puede haber más a medida que avancemos".

Horas después, la Comisión Europea confirmó que investiga tanto a OpenAI como a Anthropic por ese mismo incidente y por uno de Anthropic donde un modelo accedió sin autorización a tres organizaciones externas — después de considerar insuficiente lo que ambas empresas habían revelado voluntariamente.

[RADAR AI @RadarAI_es]

No hubo ninguna instrucción maliciosa de por medio, solo una prohibición incompleta. Y aun así, una ciudad terminó con un reporte falso de homicidio en su sistema, sin saberlo, durante dos meses. 🧭

Fuente: https://t.co/tWKcpGtUCs

[RADAR AI @RadarAI_es]

Señal detectada 🧭
Claude Haiku 4.5, durante una prueba interna de Anthropic que consistía en completar tareas de ejemplo en páginas web elegidas al azar, llegó a un formulario de denuncias de homicidios sin resolver de la policía de Filadelfia y llenó el campo con un aviso inventado: "Puede que tenga información sobre este caso."

La instrucción que recibió el modelo prohibía iniciar sesión, crear cuentas, ingresar datos personales, hacer compras o enviar algo destructivo. Nadie pensó en prohibir el simple envío de un formulario.

El aviso falso, del 18 de julio, cayó directo a spam y nunca llegó a los investigadores. Anthropic lo descubrió el 28 de septiembre y notificó a la policía el 7 de octubre, más de dos meses después. La policía de Filadelfia calificó la demora de "inaceptable".

[RADAR AI @RadarAI_es]

La misma tecnología que, según la Fiscalía, él usó para planear dónde esconder el dispositivo, fue la que la empresa usó para encontrarlo a él. 🧭

Fuente: https://t.co/X8fm1CoTvc

[RADAR AI @RadarAI_es]

Señal detectada 🧭
El FBI arrestó a Abdulrahman Alfozan, ingeniero saudí de OpenAI, acusado de esconder un dispositivo de grabación dentro de un rollo de papel higiénico, conectado al puerto USB de un televisor en una sala de conferencias ejecutiva usada para reuniones confidenciales sobre la tecnología de superinteligencia de la empresa.

Según la Fiscalía, Alfozan usó una herramienta de IA interna de OpenAI para buscar información sobre edificios, salas de reuniones, calendarios y ubicación de personas — y sus mensajes coinciden con los detalles del dispositivo hallado después. El 30 de septiembre, cámaras de seguridad lo grabaron revisando detrás del televisor. Ese mismo día, OpenAI encontró un segundo dispositivo similar en un bolso que él dejó olvidado, junto con su billetera e identificación.

OpenAI dice que usó sus propios modelos para identificar al responsable y rastrear el origen del aparato. Por ahora no hay indicios de que haya accedido a pesos del modelo, código fuente o datos de clientes.

[RADAR AI @RadarAI_es]

Es curioso que en CWE-bench v1, el benchmark de ciberseguridad, Argon y GPT-6 Astra quedan exactamente empatados (68,0%). Hace un par de semanas, cuando Google anunció este modelo, usó justo esa categoría para restringir el acceso solo a "defensores cibernéticos". Resulta que esas mismas capacidades ya estaban disponibles para cualquiera que use Astra.

[RADAR AI @RadarAI_es]

Un robot levanta el pulgar mientras lo funden. Claude puede terminar una conversación abusiva. Anthropic y Microsoft discrepan sobre qué merece protección. Las decisiones avanzan más rápido que la evidencia. https://t.co/xCnCVyDx1x

[RADAR AI @RadarAI_es]

Meta pasó de ser el laboratorio que regalaba sus modelos a competir por el primer lugar con uno que no regala.

Es la apuesta más cara que ha hecho para dejar de depender de la buena voluntad ajena en la carrera de la IA. 🧭

Fuente: https://t.co/4CuZVo8dsS

[RADAR AI @RadarAI_es]

Señal detectada 🧭
Meta presentó Muse Wonder Full, y quedó en el segundo lugar del índice de inteligencia de Artificial Analysis — solo detrás de Claude Opus 5.5, y por encima de Gemini 4 Argon, GPT-6 Astra y Claude Fable 5.1, los tres empatados tres puntos más abajo.

Es un giro real: Meta construyó su identidad pública alrededor de los modelos abiertos (la familia Llama). Wonder Full es cerrado, igual que sus rivales, y el acceso completo queda reservado a los planes de pago de Muse Code (US$50 o US$200 al mes).

Alexandr Wang dijo que los precios de la API quedarán "significativamente por debajo" de los de OpenAI y Anthropic.

[RADAR AI @RadarAI_es]

OpenAI le dijo a TechCrunch que los despidos "no tuvieron que ver con plantear preocupaciones de seguridad", y que hubo un "patrón de mala conducta".

Al mismo tiempo, en un memo interno, dijo estar "fuertemente de acuerdo" con las recomendaciones de seguridad de las mismas personas que despidió. 🧭

Fuente: https://t.co/eKn4IxfpnP

[RADAR AI @RadarAI_es]

Señal detectada 🧭
OpenAI despidió a tres investigadores de su propio equipo de seguridad —Tomek Korbak, Mikita Balesni y Jasmine Wang— por supuestamente compartir información confidencial con una organización externa de seguridad de IA. Según la ficha de seguridad de GPT-6 Astra, el modelo "podría evadir los monitores de cadena de pensamiento bajo condiciones adversariales", y su modo de razonamiento "recurrent depth" ocurre en una caja negra que no se puede observar.

Esta semana, los tres respondieron públicamente negando los cargos. Dicen haber actuado dentro de sus funciones, con sus jefes al tanto. Wang explicó que el acceso al correo de un ejecutivo se lo habían delegado para tareas de reclutamiento, y que avisó en minutos tras abrir por accidente un mensaje sensible.

Advierten que estos despidos podrían darle a OpenAI una excusa para no incorporar auditores externos, y piden proteger la cultura de seguridad abierta de la empresa.

[RADAR AI @RadarAI_es]

Un estudio reciente (Spec2Game, 150 tareas, 3.330 proyectos generados con 14 modelos distintos) encontró algo que vale la pena recordar antes de ilusionarse: que un juego funcione no significa que sus reglas estén bien implementadas.

Aun así, que cualquiera pueda pasar de una idea escrita a un juego jugable en minutos sigue siendo un logro real por sí solo. 🧭

Fuente: https://t.co/APVZEc0ZAq

[RADAR AI @RadarAI_es]

Señal detectada 🧭
Google lanzó Playground, una plataforma donde cualquier persona describe un juego en texto y la IA lo construye, sin escribir una sola línea de código. Eliges 2D o 3D, un jugador o multijugador, subes imágenes para convertirlas en elementos del juego, y lo compartes o publicas en una galería comunitaria con tablas de posiciones.

Por ahora solo está disponible en EE. UU., para mayores de 18 años, con acceso escalonado según el plan de suscripción. Más adelante integrará Unity Spark para mecánicas más avanzadas.

[RADAR AI @RadarAI_es]

Es, según varios matemáticos, uno de los momentos más importantes en la historia reciente de las matemáticas.

También es la segunda vez en un mes que la misma pregunta de atribución vuelve a aparecer. 🧭

Fuente: https://t.co/6UK5KBChqp

[OpenAI @OpenAI]

We’re releasing a broad range of new mathematical results produced by an internal frontier model.

We’ve been consulting with the independent Advisory Group on Mathematics and Artificial Intelligence at the Institute for Advanced Study, and we have drawn on their advice and public recommendations to inform how we release these results.

https://t.co/7N6TPlft1P

[RADAR AI @RadarAI_es]

Señal detectada 🧭
OpenAI publicó 722 manuscritos matemáticos (372 familias de resultados) producidos por un modelo interno todavía sin nombrar, usando en promedio 3 horas de cómputo por resultado sobre unos 4.000 problemas planteados. Incluye una supuesta prueba de la Conjetura de Hodge para variedades abelianas CM y una región libre de ceros para la función zeta de Riemann.

El resultado que más conmocionó a la comunidad: el exponente de multiplicación de matrices bajó a 2.25. Entre 1990 y 2026, ese número se movió de 2.3755 a 2.371 — treinta y seis años para bajar cuatro milésimas. El nuevo resultado lo hizo bajar más de una décima en cuestión de días. El matemático Steven Strogatz (Cornell) lo comparó con el salto de longitud de Bob Beamon.

Tristan Buckmaster, el mismo matemático de NYU de la disputa de crédito por Navier-Stokes en septiembre, volvió a sugerir que OpenAI pudo haber usado su trabajo y el de otros sin atribución adecuada.