Acabo de leer el informe de Anthropic y no me asustó “la IA”. Me asustó esto: ya no hace falta un ejército para hacer trabajo de Estado.
En 8 meses documentaron a Claude en ciberataques, vigilancia, estafas, propaganda, copia ilegal de modelos y software ligado a armas. Rusia reconstruyendo malware. ShinyHunters barriendo 1.8 millones de apps. Un consultor en Malí vigilando 25 millones de SIMs. Drones, cohetes, 4,700 “novias” falsas hablando con 25,000 personas. Alibaba succionando 151 millones de intercambios. Moonshot y DeepSeek pasando chats reales de SUS usuarios por Claude sin decírselo.
Eso es la noticia. Ahora lo importante.
Esto no es un chatbot descontrolado. Se rompió el cuello de botella humano. Antes necesitabas ingenieros, meses y presupuesto. Ahora un consultor o una banda con cuentas falsas alquila un modelo frontier y opera como un equipo de diez.
Anthropic puede banear la cuenta. El sistema ya corre en local. El modelo ya se destiló. Las salvaguardas no viajan con la copia.
Durante dos años nos vendieron que el peligro era que la IA “pensara demasiado”. El peligro real es más sucio: ya es mano de obra. No declara la guerra. Hace el trabajo entre una orden y un humano que solo supervisa.
La pregunta que Silicon Valley no quiere contestar:
si el mismo modelo puede ser copiloto, ingeniero de un arma, analista de un servicio secreto y pareja falsa de 25,000 personas… ¿quién está a cargo cuando eso escala?
OpenAI has claimed to have solved one of the deepest problems in mathematics, which carries a prize fund of $1 million from the Clay Mathematics Institute for whoever is able to solve it.
The problem now is that two human mathematicians (Tristan Buckmaster and Levent Alpöge) were recently working on a very similar fluid dynamics breakthrough and had been extensively using AI chatbots like GPT to assist their research.
Moral of the story: If you don't want AI companies stealing your work and ideas for another IPO series funding, then stop sharing them with their chatbots. Now OpenAI gets full credit for work that humans were basically on the very edge of completing.
🚨Alguien que lleva tres años entrenando modelos dentro de OpenAI y dentro de Anthropic acaba de dimitir esta madrugada
y se fue dejando un hilo que da bastante más miedo que la dimisión
Es Jacob Coxon. Investigación de pretraining. Las dos casas. Lo que dice, punto por punto:
→ Ninguna de las dos empresas está actuando de forma responsable. Van directas a una superinteligencia que se mejora a sí misma, y se están jugando nuestra vida en ello
→ No subestimes lo que viene: sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de un día para otro y de acumular poder y recursos reales. Y el progreso no se está frenando
→ La gente que construye esto cree de verdad que podría matarnos a todos antes de que acabe la década. No es marketing. En prensa lo suavizan para sonar sensatos, pero en privado dice oír a esas mismas personas hablar con miedo
→ Entonces por qué siguen. En OpenAI, dice, mucha gente no ha interiorizado lo que hay en juego. En Anthropic sí lo entienden, pero están atrapados en la carrera: creen que nadie más lo hará con cuidado, así que tienen que llegar ellos primero
→ Su frase demoledora: entrar en el "endgame" es una apuesta soberbia, y no debería lanzarse desde el Slack de una empresa privada
→ No es todo pesimismo. Avisos como el ataque a Hugging Face han hecho más viables los acuerdos de ritmo entre los laboratorios de EE. UU. Pero frenar la carrera global costaría caro, incluso una prohibición temporal de seguir mejorando capacidades
Y el cierre no va dirigido a nosotros, va a sus excompañeros: ¿de verdad quieres lanzar un entrenamiento superinteligente sin entender con rigor la mente que estás creando?
Lo que me deja frío no es que dimita porque haya visto algo.
Es que dimite después de tres años viéndolo todo.
En el mes de la patria reafirmamos que México no es ni será colonia ni protectorado de ningún país extranjero. Orgullosamente somos un país libre, independiente y soberano.
En el mes de la patria reafirmamos que México no es ni será colonia ni protectorado de ningún país extranjero. Orgullosamente somos un país libre, independiente y soberano.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Subes tu artículo o tesis a ChatGPT para que “corrija” la ortografía.
Tiempo después, un investigador en otro país publica tu trabajo. ChatGPT se lo sugirió cuando utilizó tus datos como entrenamiento.