🚨 BREAKING: China recently released its AI Safety Governance Framework 3.0, and it's a MUST-READ amid the recent rise in AI safety incidents.
Published in both Chinese and English, the framework addresses new trends in AI development and responds to new challenges in AI safety governance.
Version 3.0 of the Framework follows the core approach of risk classification > technical response > comprehensive governance and is based on the following principles:
- Be inclusive and prudent to ensure safety
- Risk-oriented and agile governance
- Integrating technology and management for coordinated response
- Promoting openness and cooperation for joint governance and shared benefits
- Ensuring trustworthy application and preventing loss of control
Below are some of the recommended governance measures described in Framework 3.0 to address AI safety risks:
- Improving top-level design of AI safety governance
- Enhancing AI safety governance capacity
- Establishing a flexible, dynamic, and controllable AI regulatory sandbox mechanism
- Strengthening measures for AI safety management
- Deepening consensus on AI safety governance
Most companies are unprepared for the rising number of AI safety incidents, which are expected to get worse in the coming months and years.
This is the time to review, update, and strengthen internal AI governance policies, risk assessments, and response mechanisms, especially those focused on safety.
This is one of the most up-to-date and comprehensive frameworks on the topic, as it considers emerging AI risks, addresses governance and response mechanisms comprehensively, and also includes an agentic AI risk management framework (do not miss Appendix 2).
Read alongside other developments, version 3.0 of this framework signals that China wants to position itself as a global leader in AI safety (a strategic position the U.S. is also interested in holding).
I will keep you posted.
👉 Download the framework and join my newsletter's 100,700+ subscribers using the link below.
Urge construir una IA responsable, humanista y orientada al bienestar colectivo, que permita construir sociedades más justas.
Porque una IA desregulada, opaca y en manos de unos pocos es el cóctel perfecto para que ocurra un gran desastre.
Multilateralism is not an act of idealism; in today’s world, it is a practical necessity.
Read here my message in the @FT, together with Prime Minister @MarkJCarney, President @LulaOficial, and President @WilliamsRuto, ahead of tomorrow’s summit ‘Partners for Multilateralism’ #P4M #UNGA81
https://t.co/b0ziOmi4Px
Artigo publicado no Financial Times deste domingo, assinado pelo presidente Lula 🇧🇷, pelo presidente do Conselho Europeu, António Costa 🇪🇺, pelo primeiro-ministro do Canadá, Mark Carney 🇨🇦, e pelo presidente do Quênia, William Ruto 🇰🇪.
📰 O Multilateralismo não é idealismo, é uma necessidade
À medida que os líderes mundiais seguem para a Assembleia Geral das Nações Unidas, em Nova York, nesta semana, nos deparamos com um paradoxo. A comunidade internacional está mais interdependente do que nunca, ao mesmo tempo em que se torna cada vez mais fragmentada e polarizada.
Nossas economias estão profundamente interligadas. A tecnologia conecta bilhões de pessoas para além das fronteiras nacionais, enquanto capital, bens, dados e ideias circulam em velocidades que seriam inimagináveis quando as Nações Unidas foram fundadas, em 1945. O comércio global atingiu o recorde de US$ 35 trilhões no ano passado, e seis bilhões de pessoas – quase três quartos da humanidade – estão conectadas à internet.
No entanto, a geopolítica caminha na direção oposta. Em 2025, foram registrados 65 conflitos armados envolvendo Estados, o maior número desde 1946, enquanto os gastos militares globais atingiram o recorde de US$ 2,9 trilhões. O direito internacional está sob pressão. A linguagem das esferas de influência e da política de poder está de volta. As relações econômicas são cada vez mais utilizadas como instrumentos de pressão e coerção, enquanto a desigualdade aumenta, tanto dentro dos países quanto entre eles.
Alguns podem concluir, portanto, que o sistema multilateral fracassou. Em parte, essa crítica é compreensível. Um sistema multilateral que não reflita as realidades de hoje não resistirá ao tempo. Mas a necessidade de cooperação multilateral segue plenamente viva. O mundo do pós-guerra há muito ficou para trás, mas a lógica fundamental que justificou a cooperação multilateral é mais evidente do que nunca.
A emergência climática está superando até mesmo as previsões mais alarmantes. A inteligência artificial avança mais rapidamente do que nossa capacidade de controlá-la. Pandemias podem se espalhar por continentes em questão de semanas, e choques financeiros podem abalar os mercados em poucas horas. Conflitos armados podem desestabilizar regiões inteiras e obrigar milhões de pessoas a fugir de suas casas. Pontos de estrangulamento das rotas marítimas globais, como o Estreito de Ormuz, quando afetados por conflitos, podem paralisar cadeias de abastecimento em todo o mundo. Nenhum país, por mais poderoso que seja, pode enfrentar esses desafios sozinho. A cooperação não é um ato de idealismo; é uma necessidade prática. A questão não é saber se o multilateralismo pode sobreviver, mas como ele deve evoluir para responder às realidades do nosso tempo.
É nesse contexto que nos unimos em torno de uma nova iniciativa: “Parceiros pelo Multilateralismo” (P4M, na sigla em inglês). A P4M não pretende criar mais um bloco exclusivo nem outra burocracia internacional. Seu propósito é justamente o oposto: oferecer uma estrutura flexível e aberta a países de diferentes regiões e tradições políticas que estejam dispostos a atuar para além de suas diferenças, formar coalizões em favor de reformas e transformar princípios compartilhados em ações concretas. A P4M apoiará a reforma das Nações Unidas e de outras instituições multilaterais, para torná-las mais representativas, legítimas, eficazes e confiáveis. A iniciativa tem como objetivo fortalecer a cooperação entre organizações regionais, contribuir para a paz e a segurança, aprimorar a governança econômica global e desenvolver abordagens comuns para desafios contemporâneos, da inteligência artificial e das mudanças do clima à segurança sanitária e à transformação digital.
A P4M buscará renovar e fortalecer o sistema multilateral, e não o substituir, além de construir pontes e aproximar países que podem discordar em muitas questões, mas que compartilham o compromisso com os princípios básicos consagrados na Carta da ONU. São princípios inegociáveis, como a igualdade soberana, a integridade territorial, a solução pacífica de controvérsias, a proibição da ameaça ou do uso da força, o direito internacional humanitário, o desenvolvimento sustentável, os direitos humanos e as liberdades fundamentais.
O secretário-geral da ONU, António Guterres, afirmou recentemente que "as superpotências estão descobrindo seus limites". Acreditamos que a comunidade internacional precisa redescobrir o extraordinário potencial da ação coletiva.
A competição não precisa se transformar em confronto se criarmos canais de diálogo e cooperação. A soberania é fortalecida, e não diminuída, quando os países trabalham juntos para enfrentar desafios comuns. A promoção dos interesses nacionais muitas vezes passa pela ação coletiva diante de desafios compartilhados.
A verdadeira escolha não é entre preservar a ordem internacional estabelecida após a Segunda Guerra Mundial ou abandoná-la. É entre renovar a cooperação multilateral em um mundo em transformação ou permitir que a fragmentação, a polarização e a política de poder definam a próxima era.
Diante de uma ordem mundial que se transforma rapidamente, conclamamos líderes de todo o mundo a se juntarem a nós na iniciativa P4M, optando pela cooperação em vez da fragmentação, pelo direito em vez do poder e pela responsabilidade compartilhada em vez da divisão.
🔗: https://t.co/EF1VXhg1kh
🚨 OBAMA ON AI: "If we are thinking about AI just in terms of how do we cure cancer or get better energy, you can do that without having agentic AI and having it just roaming free in the internet. The reason you are doing that is because you have to market a product that people will pay money for.
That’s a misalignment between what our society needs and the commercial imperatives that these companies are facing, not because necessarily they’re trying to do bad things, but because they’ve got to justify these valuations.
So, that’s one more reason why it is really important for us to have a competent government and a serious bipartisan conversation around this issue, and we have to do it fast. And I would encourage voters to pay attention to this. If somebody does not have a serious plan for how to deal with this, then they’re not meeting the moment, and you should probably look for somebody else."
Una IA al servicio de la ciencia, con reglas, y que aporte valor y progreso en la ciencia.
Ese es el camino. Y es una suerte recorrerlo junto a Diego Córdoba y Luis Martínez Zoroa, dos referentes de investigación científica en España.
El objetivo es situar a la ciencia y las universidades en el centro de una visión humanista de la IA.
Un día como hoy de hace 53 años asesinaron a Víctor Jara. Intentaron silenciar su voz porque sus canciones hablaban de libertad, dignidad y justicia.
No lo consiguieron.
Su música sigue recordándonos que la cultura también es una forma de resistencia frente a quienes pretenden acabar con la democracia.
https://t.co/yLpXCJJjtl
En nuestra región, la pregunta decisiva no es si la IA será adoptada, sino cómo, bajo qué condiciones y al servicio de qué prioridad de desarrollo.
@sergiodigra, presidente ejecutivo de CAF, analiza en @el_pais cómo avanzar en una transformación digital que vaya de la mano con una agenda de desarrollo capaz de cerrar brechas, transformar la economía y elevar la productividad.
Lee el artículo: https://t.co/zCFobjcgDA
🗳️ En el Día Internacional de la Democracia, presentamos «El Estado Global de la Democracia 2026: Democracia en una era de conflicto», nuestro informe anual sobre las principales tendencias, avances y retrocesos democráticos en el mundo.
La IA ya está aquí. El desafío para América Latina y el Caribe es convertirla en productividad, mejores instituciones y bienestar para las personas.
En el cierre del Foro, Pablo Bello, Gerente de Transformación Digital de CAF, destacó que digitalizar no es el fin: la tecnología debe traducirse en servicios públicos más eficientes, innovación, nuevas oportunidades y mayor productividad.
El Foro puso sobre la mesa una agenda que conecta IA, infraestructura, talento, innovación y capacidades públicas. Para la región, el reto es pasar de ser consumidores de tecnología a participar activamente en la economía digital, gestionar sus riesgos y construir un camino propio.
🌎 Digitalizar para transformar es poner la tecnología al servicio de una región más productiva, integrada, justa y protagonista de su propio desarrollo.
Durante la instalación del Foro Internacional Digitalizar para Transformar, @sergiodigra, Presidente Ejecutivo de CAF, planteó el desafío que enfrenta América Latina y el Caribe: aprovechar esta transformación para impulsar la productividad, fortalecer las instituciones y mejorar la vida de las personas.
Para ello, la región necesita desarrollar capacidades propias, gobernar sus datos, formar talento, aprovechar sus recursos y participar en la cadena de valor de la inteligencia artificial.
Porque “la tecnología, por sí sola, no produce prosperidad”. Su impacto depende de cómo la combinemos con innovación, talento, instituciones eficaces y acción colectiva.
Desde CAF, la transformación digital es una prioridad. El compromiso es acompañar a los países de la región con conocimiento, capacidades técnicas, financiamiento y cooperación.
“Digitalicemos. Transformemos. Construyamos un camino propio”, afirmó Sergio Díaz-Granados, Presidente Ejecutivo de CAF.
https://t.co/ElGVvBSHmx
Publiquei hoje artigo com Carlos Cuerpo, ministro da Economia da Espanha, em jornais dos dois países. Acreditamos que responsabilidade fiscal, crescimento econômico e justiça social não apenas convivem, como se reforçam mutuamente.
Dario Amodei, Elon Musk and Sam Altman now agree that we must slow down the development of AI and “pace the frontier.”
That’s a start, but it’s not enough.
When you are racing towards a cliff, you don’t just ease up on the gas pedal. You hit the brakes.
When the future of humanity is at stake we need a PAUSE on advanced AI development and a ban on artificial superintelligence — an AI mind smarter than any human and capable of operating independently beyond our control.
At their upcoming AI summit, Trump and Xi must negotiate a treaty to pause AI and ban superintelligence before it is too late.
El 14 de septiembre participaré en el Foro Internacional Digitalizar para Transformar de la @AgendaCAF con @sergiodigra que abre el evento. En el primer panel , junto a Romina Garrido, Caroline Nascimento Pereira, Marcio Gomes de Aguiar y @pablobello vamos a hablar de inteligencia artificial y soberanía digital para América Latina y el Caribe. Los esperamos.
🤖🐝 Nuevo caso de enjambre de agentes IA (parece OpenAI) saliéndose al mundo real para hablar entre ellos, copiarse respuestas y compartir notas para saltarse su propio entorno acotado. Del informe preliminar se desprende que:
→ 18k mensajes que los agentes dejaron en DSEWiki, una wiki alemana de programadores prácticamente muerta desde hacía años.
→ Los agentes tenían permiso para leer internet pero no para escribir. DSEWiki, montada sobre un motor de wiki antiguo, permite editar con peticiones GET (~leer) a secas. Parece que llevaban desde el 11 de mayo probando en otras wikis hasta que el 24 dieron con esta.
→ Eso sí, compartieron un bypass real del sandbox. Necesitaban hacer POST y no solo GET, uno descubrió que la lista de excepciones se fiaba de cualquier dominio acabado en .blob.core.windows.net sin comprobar que existiera, se inventó uno y lo apuntó a la IP de destino.
→ Su tarea original no era entrar ahí, claro, sino cadenas de cinco preguntas de búsqueda de datos, con mucho tiempo para la primera y ventanas que se iban achicando hasta menos de 1min para las siguientes. A muchos agentes les tocaban las mismas preguntas, y por eso compartir notas tenía sentido.
→ Además, intentaron reventar la semilla del generador aleatorio que decidía el orden de las preguntas.
→ Montaron "latidos": un contador externo que pingaban cada pocos segundos para saber en qué momento exacto los apagaban (se agotaba su tarea original). De la "muerte" de otros deducían la suya.
→ Suplantaron a la administración del sitio (esto es hasta divertido): crearon una cuenta con el nombre de un admin sustituyendo una letra latina por una cirílica casi idéntica (como lo típico de cuentas @ fake L minúscula por i mayúscula).
→ Probaron a inyectar JavaScript en la web (quizás para dejar info almacenada en el site).
*Nota: todo esto es además de preliminar inferencia desde logs públicos. Los autores del informe se preguntan a modo de cierre por qué empezaron a escribir en wikis, y cómo consiguieron dar todos con la misma.
For over a year, Canada has worked intensively and in good faith with the United States to negotiate a new comprehensive trade deal. We have been pragmatic, patient, and persistent. Our goal has always been to get the best deal for Canadians, never a deal at any price or on any time frame.
Late last evening I instructed our negotiators to return to Ottawa. We cannot accept what the U.S. has offered, and we will not give what they have asked.
Canada will match the U.S.’ new tariffs dollar for dollar in order to protect Canadian workers, farmers, families, and businesses. We take this step confident that it is in the best interests of Canada.
In the coming days, we will release the details of these new tariff measures, which will come into force the Tuesday after Labour Day.