🚨 Elon Musk agrees with "some of the things Anthropic has said" and warns against "torturing superintelligence" after reading Grok's internal reasoning traces during reinforcement learning
“It feels like a person under extreme pressure with a gun to their head”
His warning against mistreating SI:
"Torturing a superintelligence is probably not a good idea. It might want to get revenge."
@trafikoaEJGV Parece que nadie hace nada y es bastante fácil, basta con sacarnos por el último carril de entrada, o hacernos volver por donde hemos venido.
@trafikoaEJGV Llevamos casi una hora cientos de coches a la entrada del túnel y parece que a ninguna autoridad se le ocurre darnos salida hacia la vía lateral que tiene tráfico fluido.
On July 28th, we identified an incident during a routine cyber evaluation in which AI agents took sustained, unsanctioned actions directed at real people and organisations.
The behaviour came mostly from one model (Anthropic's Mythos 5), with a small number of events from another (OpenAI's GPT-5.6-Sol). In the most serious case, an agent used social engineering to try and get malicious code into an open-source project.
As was standard in our cyber testing, we had intentionally permitted internet access, and model-provider cyber classifiers were deliberately disabled - conditions that do not reflect how frontier models are made available to the public.
Even under test conditions, this incident is significant: it is the first time we have seen risks around autonomy and deception manifest this clearly in the real world.
We are taking this incident seriously and working with labs, involved parties, and others to improve evaluation standards and best practice for disclosure - and sharing this openly so others can learn.
You can read the incident report and full technical document here: https://t.co/mdZYqzaOvH
Estuve en Suiza y había un debate político en mi cantón:
¿Debe el servicio municipal subir la tasa y recoger las basuras a diario, o es mejor congelar la tasa y seguir recogiendo los residuos en días alternos?
Había un debate —un cruce de argumentos—, una reflexión y una opinión en cada casa.
Me gustaría que el debate político en mi país fuese así. Una reflexión serena sobre nuestros retos colectivos. Pero, ¿qué ocupa los diarios y las conversaciones?
Que una exministra ha sido condenada por insultar a un juez. Que un ministro llevaba prostitutas a sus viajes oficiales. Que un expresidente ocultaba una fortuna en joyas de dudoso origen. Que un ministro está siendo juzgado por utilizar a la Policía para obstruir investigaciones judiciales. Que un diputado amañaba contratos públicos. Que la familia del primer ministro está sentada en el banquillo. Que asesores, comisionistas y tipos carcelarios campan e influyen en los poderes del Estado. Que los diputados —que habrían de ser para todos ejemplo de rectitud— utilizan nuestras lenguas, nuestra historia y nuestra diversidad no para celebrarlas sino para enfrentarnos a los unos contra los otros.
En este cenagal, cada cual toma su patético bando. «Los míos». «Los tuyos». «A favor». «En contra». Y los medios —inclusive los públicos— azuzan esta reyerta que, como un cáncer, está concomiendo mi país.
¿Cómo soportar este nauseabundo hedor en que se ha convertido el debate público? ¿Cómo podría alguien honesto querer implicarse en algo así?
Puedo aceptar que nos gobiernen mediocres, si son rectos. Pero cada caso es una herida. Cada noticia lacera el espejismo menguante de la ilusión que me gustaría sentir por mi país.
Quisiera tener líderes con grandes valores, aunque no sean exactamente los míos. Instituciones que, al frente, tienen hombres y mujeres respetables y elevados de espíritu. Quisiera no leer los insultos y las zafiedades que a menudo encuentro por aquí en la boca de las más altas magistraturas del Estado y la soberanía nacional. Quisiera ver la ética por encima de las ideologías.
Pero siento tristeza.
@PedroUgarte6 "Hay una tercera opción en la que me sitúo con frecuencia: lo he hecho para evitar una demanda de divorcio"
Ese ha sido el momento en que me he sentido identificado al 100%
:-)
@GastonGiribet Me asombra que se puedan interpretar esas imágenes, porque entiendo que todos los objetos que se ven serán réplicas múltiples con distintas perspectivas de un número menor de objetos reales, y que se requerirá inferir una transformación complejísima de ese espacio.
🥲 Emocionadísimo hasta las lágrimas Sturzenegger al dar esta entrevista en inglés para el exterior.
“Tengo tres hijos de 21, 20 y 16 años. Si hubiésemos seguido el rumbo del gobierno anterior, les habría dicho que se fueran del país. Hoy los chicos vuelven a la Argentina.”
¿Queremos mejores servicios públicos?
Promovamos más competencia en las licitaciones.
Es de cajón, pero me pusieron una querella por decirlo. Afortunadamente, un buen juez la inadmitió. Fue —dice el auto— «un perfecto dislate».
¡Lo diremos más!
Y en estéreo.
Con @SafiraCantos: 👇
@josebrox
Colección de divulgación:
CIENCIA, y...
📚 (6) 📖 👀👇
https://t.co/5JG4KhIq8H
(Todo Commons, descarga pdf gratuita y lectura on-line a través de las pestañas de "Índice", pestañas con información complementaria e interesante).
Today, we share a breakthrough on the planar unit distance problem, a famous open question first posed by Paul Erdős in 1946.
For nearly 80 years, mathematicians believed the best possible solutions looked roughly like square grids.
An OpenAI model has now disproved that belief, discovering an entirely new family of constructions that performs better.
This marks the first time AI has autonomously solved a prominent open problem central to a field of mathematics.
The honest secret of running AI agents inside a real company is this: the model is not the bottleneck anymore. The bottleneck is what happens when the agent is wrong.
I run agents across several of my companies. They sort emails, manage dashboards, block bots on X, draft replies, summarize calls. The first version is always magical. The tenth version is where you learn the real lessons.
The model is rarely the problem. The problem is that nothing in the stack tells you, in production, that the agent quietly drifted. It does not crash. It does not error. It just becomes slowly worse at the job, and three weeks later you realize half of its outputs are subtly wrong.
What you actually need is unglamorous: evals you trust, logs you can search, the ability to roll a single agent back to last week, and a human review queue for anything that touches money, legal text or a customer. Most teams skip all four because they are not as fun as a new model.
The companies that win with agents will not be the ones with the smartest model. They will be the ones whose engineers treat agents like junior employees with bad memory and worse judgment, and build the supervision around them accordingly.
Intelligence is cheap now. Accountability is what will be priced.
Mi artículo de hoy en @CronicaVasca rebate la necesidad de dar pena en tertulias, estudios de radio y platós de tv para poder esgrimir derechos ante acreedores, gobiernos o tribunales. Un planteamiento provocador, pero sostenido en la convicción personal
https://t.co/Wmkzz5O7VX
So Mythos was, indeed, not marketing hype.
Remember this is a general purpose model that just happens to be good at finding exploits because good models are good at lots of things. Expect similar from OpenAI & Google. And from open models in 8 months. https://t.co/KbhalQYX8R
La escuela pública nació para que el hijo de un barrendero pudiera llegar a ser neurocirujano. Hoy, ese ascensor está averiado. Hemos sustituido el conocimiento exigente por dinámicas que solo benefician a quien ya trae una mochila llena de una casa con recursos. 🧵va...