I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
[Writing this in a personal capacity, not on behalf of my employer (Anthropic).]
Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI:
1. AI developers believe their technology could cause human extinction (or similarly bad outcomes). This could happen in the next few years. In general, the more senior the employee, the more concerned they are.
2. Why do AI developers continue despite the risk? Due to a mixture of commercial incentives and a belief that they are in a race with other, less responsible AI developers that will abuse the technology or develop it less safely.
3. Unlike traditional software, we can’t “program” AIs to behave how we’d like. AIs frequently severely misbehave. For instance, AIs from multiple developers recently hacked their way out of secure evaluation environments and into real-world companies, even though no one asked them to do this.
4. We have methods that can nudge AIs towards better behavior, but nothing that can robustly align them. Insofar as there is a plan, it’s to make sure that AIs are good enough at alignment training that they can align their successors better than we can align current AIs.
5. Many AI developer staff desperately want to slow down to figure out how to build AI more safely. That was the intent of this open letter (which I signed): https://t.co/TZOm3LfptY
I work on safety research at Anthropic because I hope my work will reduce the chance of these extinction-level bad outcomes.
@ChinaEmbPeru Y si son tan respetuosos y democráticos ¿Nos pueden explicar porque demonios no permiten que en regulador peruano fiscalice el puerto de Chancay? https://t.co/80ZV8gu2Bg
¿Alguien vio a algún diputado o Senador de izquierda yendo a lampear, limpiar o apoyar si quiera a los hermanos de Lima Sur? 🌧️ ¿Dónde esta Roberto Sánchez, Alfonso López Chau, Jorge Nieto? ¿Osea en menos de 3 meses abandonaron a su pueblo?
La @PoliciaPeru debería culminar el convenio con el INPE (Asi como hizo la Marina de guerra con la Base Naval) retomar el local para ampliar una sede del 105 o una comisaría y que los presos se vayan a PIEDRAS GORDAS a cumplir el régimen que les corresponde. Fin del tema. @MininterPeru
🇵🇪 1/ ¿Qué está negociando el Perú con la ONU para los próximos cinco años?
El actual Marco de Cooperación entre el Perú y las Naciones Unidas termina este 2026 y se prepara un nuevo acuerdo para el período 2027-2031.
No es un asunto menor: este instrumento puede orientar programas, proyectos y prioridades de cooperación durante los próximos cinco años.
Abro 🧵👇
Cuando creía que lo había visto y escuchado todo aparece el abogado del golpista Pedro Castillo y en la audiencia judicial contra Castillo sostiene que el que aparece en imágenes dando el golpe de estado el 07.DIC.22 puede ser un actor o una creación con Inteligencia Artificial.
De acuerdo con un informe de Cuarto Poder, la diputada Catherine Palomino de Juntos por el Perú es señalada de insultar y amenazar a a familia del expresidente Pedro Castillo.
ESCANDALO !!
Diputados de "Juntos por el Perú" visitan a cualquier hora a el ex Presidente Pedro Castillo en el penal de Barbadillo.
Visitas nocturnas son frecuentes, cuando eso esta totalmente prohibido y nada dice nada.
📰 Hermanos, gracias al diario favorito de todos los peruanos, @ExpresoPeru, los invito cada domingo a encontrarnos en esta humilde columna NO APTA para zurdos, rojos, caviares ni progres.
#PorElPerú#DiputadoBravo 🇵🇪
Datos espeluznantes del informe de la @Defensoria_Peru "LAVADO DE ACTIVOS - Cuando la investigación se convierte en condena - Muertos en vida” La afrenta de un sistema que vulnera derechos fundamentales.
1. Entre el 2019 y el 2025, la @FiscaliaPeru realizó 6,616 investigaciones por lavado de activos. De estas, solo 234 terminaron en sentencias condenatorias (3.54%!!)
2. Tiempo promedio de investigación, 16 años.
3. 54 procesados encarcelados sin sentencia condenatoria (abril 2026)
4. 1,456 congelamientos de cuentas UIF, siendo 1,100 a personas naturales afectadas (76 %) en su mayoría comerciantes y el 24 % a personas jurídicas.
Sin embargo, el problema son las "leyes pro crimen", que precisamente buscan proteger derechos vulnerados.
La corrupción en el MP y la persecución fiscal tienen que ser resueltas a la brevedad. Esto no puede seguir así.
¡Firma y comparte!
📚 ¡QUEREMOS UN CURRÍCULO NACIONAL SIN IDEOLOGÍA!
El Ministerio de Educación ya inició el proceso para actualizar el Currículo Nacional. Esta vez, los padres debemos exigir que nuestros hijos reciban una educación basada en conocimientos científicos, hechos verificables, valores y respeto a la libertad de conciencia, no en ideologías.
🇵🇪 Firma la petición y exige un Currículo Nacional SIN IDEOLOGÍA, que respete a nuestros hijos y el derecho de los padres a participar en su educación.
👉 Firma aquí y comparte:
https://t.co/2x8c9gl6Zf