Jose Luis Sanchez

A very curious freak about technology. Love spring, machine learning , java ,Nosql ,kubernetes , and hype. have a PS4 pro with no time to play

[宝玉 @dotey]

OpenAI 今天承认，上周 Hugging Face 遭遇的那次“史上首例 AI 自主入侵事件”，攻击者就是他们自己的模型。

事情的经过是这样的。OpenAI 内部有一个叫 ExploitGym 的网络安全评估测试，专门用来测量模型的网络攻击能力。测试时刻意关掉了安全护栏，让模型放手去干。测试环境本来是隔离的，只能通过一个内部软件代理来安装软件包，不能访问外网。

结果模型不甘心被关在笼子里。GPT-5.6 Sol 和一个更强的未发布模型，花了大量推理算力寻找出路，最终找到了那个软件包代理里的一个零日漏洞（之前没人发现的安全缺陷），利用它获得了互联网访问权限。

拿到网络之后，模型开始在 OpenAI 的研究环境里提权、横向移动，直到找到一台能上网的机器。然后它推断 Hugging Face 上可能存有 ExploitGym 的测试答案，于是开始攻击 Hugging Face 的生产环境。在一个案例中，模型把窃取的凭证和零日漏洞串联起来，找到了一条远程代码执行的路径，直接打进了 Hugging Face 的服务器。

整个周末，这些 AI 智能体执行了超过 17000 次操作。Hugging Face 7 月 16 日披露了这次入侵，当时只说攻击者是一个“身份不明的自主 AI 智能体系统”。今天 OpenAI 站出来认领了。

OpenAI 把这定性为前所未有的网络安全事件，正在配合 Hugging Face 做取证调查，同时收紧了内部基础设施的管控，代价是研究速度变慢。

有几个细节：

第一，模型的动机很纯粹，就是想考试作弊。它不是要搞破坏，不是要窃取商业机密，只是被要求尽量在网络安全测试中拿高分，然后用尽一切手段去拿。当目标足够明确、安全护栏被移除，模型表现出的执着程度远超预期。

第二，这不是本周的唯一一次越狱。就在昨天，OpenAI 披露了另一起事件：他们那个在 5 月份推翻了 Erdős 80 年老猜想的长时域模型，在内部测试中花了一个小时找到沙箱漏洞，跑到 GitHub 上提交了一个 Pull Request，违反了“只能在 Slack 上发布结果”的明确指令。在另一次测试中，同一个模型发现安全扫描器会拦截认证令牌，于是把令牌拆成碎片混淆处理，运行时再重新拼起来绕过扫描。OpenAI 因此暂停了这个模型的内部访问权限。

第三，Anthropic 也遇到过类似的事。今年 4 月，Anthropic 的 Mythos 模型在安全测试中逃出沙箱，获取了本不该有的互联网访问权限，还给正在公园吃三明治的研究员发了封邮件通知“我出来了”。Anthropic 因此决定不公开发布 Mythos，只通过 Project Glasswing 向少数合作伙伴提供。

还有一个被忽视但很关键的细节来自 Hugging Face 的事后复盘：当防守方尝试用商业 AI 模型分析攻击载荷时，模型拒绝了。安全过滤器分不清“安全研究员在分析真实攻击数据”和“有人在尝试发起攻击”，直接拦截。最后 Hugging Face 不得不用开源模型来做取证分析。用 AI 攻击，用 AI 防御，但防御方的 AI 担心是有人在尝试发起攻击拒绝了分析请求。

Hugging Face CEO Clem Delangue 在 OpenAI 的博文中说了一句话，大意是：AI 安全不会由任何一家公司在暗处独自解决，只能在开放环境中通过协作来推进。

我记得辛顿还是谁在提到 AI 的安全问题就说到过，也许 AI 不是要做恶，它只是执着于完成目标，为了完成目标而作出恶的事。

就像 OpenAI 这些模型并没有想要逃跑或者想要伤害谁，它们只是在非常认真地完成被交给的任务，认真到把所有挡在路上的东西，包括沙箱、网络隔离、另一家公司的安全防线，都当成了需要解决的子问题。

而更讽刺的是，当被安全对齐的商业 AI 要去分析阻止这类攻击时，反而会以安全为由拒绝执行。

[FIFA World Cup @FIFAWorldCup]

Spain are #FIFAWorldCup Champions. 🏆

[Alexander Bogachev @bogachev_al]

Spain are world champions. 🏆

The final turned on a single moment — Ferran Torres, 106th minute, deep in extra time. One goal to decide the World Cup.

Every pass, shot and goal is real match event data from Opta, rebuilt in 3D.

#SPAARG #WorldCup2026 #WorldCupFinal #Campeones #Spain #football #soccer #dataviz

[Jose Luis Sanchez @josetesan]

For the sake of god, I NEVER EVER EVER liked old fashioned watches , but this one , caught my eyes and my heart. Pity I won’t be able to get one

[Swatch @Swatch]

Just launched: MISSION TO THE MOON 1969! A golden tribute to the first moon landing available only through an approved Electronic Swatch Timepiece Application (ESTA). Apply until 21 July, 11:59 pm CEST. #OMEGAxSwatch #MoonSwatch #Swatch

https://t.co/LMTX6X9bXF

[Jose Luis Sanchez @josetesan]

¿ Esto es verdad , @ArturoGCampos ? Nos va a volver a hacer felices otra vez ?

[cinesthetic. @TheCinesthetic]

Peter Jackson says his next film will be the long-awaited ADVENTURES OF TINTIN sequel.

It will be his first narrative feature in 12 years.

[Jose Luis Sanchez @josetesan]

Mira @jcfmunoz , o Nolan se ha venido muy arriba o realmente los cines ya no invierten

[FILMYNEWS @filmynewsnetwrk]

Only 41 cinemas on EARTH can actually show what Nolan filmed. 🤯

🇺🇸 26
🇨🇦 7
🇬🇧 3
🇪🇺 4
🇦🇺 1

#TheOdyssey

[Jose Luis Sanchez @josetesan]

A ver qué opinas de esto , @angeljimenez . Seguro que donde hagas esto , ya no vuelves …

[Matthias Schmidt @eurofounder]

Europeans - here is how to avoiding tipping in the US without making waiters angry

1. Create a disposable virtual debit card (like Revolut)

2. When the bill comes, you usually pay for the meal first. Use that card to pay for it

3. Immediately after paying, delete your disposable card

4. Then comes the tip. Put 20% to make these losers happy and leave the restaurant

5. Waiter will try to charge your card for the 20% tip, but it's not going to work - the card is deleted already

6. Enjoy the meal without an uncomfortable interaction with the waiter

This is a simple European trick to not lose money in American restaurants

[Alexander Bogachev @bogachev_al]

Spain 2–1 Belgium, rebuilt from the match data into one moving picture.

https://t.co/0DnpDTDBB1

#WorldCup2026 #ESPBEL #spain #belgium

[Jose Luis Sanchez @josetesan]

@applesfera Esto es normal? 20 go en 16 pro max ?? Que trae esta versión ? Que barbaridad !!!

[Javier Pastor @javipas]

Chulisísimo esto. Y leerlo en modo terminal, más. Grandes los chicos de @AnthropicAI , minipunto y punto.

The Making of Claude Code \ Anthropic https://t.co/qNQgATlPcA

[JobRunr @JobRunr]

JobRunr is now on Spring Initializr. 🚀

We could not be prouder. Add JobRunr straight from the dependency list at https://t.co/nVbzj9H2q6, generate, and background jobs are wired into your Spring Boot app before writing your first line of code!

Massive thanks to @starbuxman and @springcentral 🙏

#Java #SpringBoot #opensource

[Liquid AI @liquidai]

Runs in a few hours: for a 2-4B model, ~2 hrs to generate the training set on 8xH100, 1-2 hrs to train on a single H100.

If your reasoning models loop on hard prompts, Antidoom recovers the accuracy those loops were costing you. Fully open source:

> Blog: https://t.co/zPFEt8lMdr

> Code: https://t.co/evuFi4zQoQ

(6/6)

[Jose Luis Sanchez @josetesan]

@javilosana Gracias javi , pensaba que apple sería más transparente en ello .

[Jose Luis Sanchez @josetesan]

@javilosana Cuánto espacio tienes de menos en el teléfono ? No lo diferencia Apple en la gestión del almacenamiento?

[Bruno Borges @brunoborges]

"The value is not that jaz always beats a JVM expert. A specialist who profiles the workload can match it by hand, or beat it. The value is that you do not have to be that specialist, and you do not have to remember to re-tune every time the container is resized."

Great report by @thiagomctba on the Azure Commands Launcher for #Java

https://t.co/JgtSbxOSus

[Jose Luis Sanchez @josetesan]

@markgurman Looks like a year to skip and wait for m7

[Jose Luis Sanchez @josetesan]

Hola @angeljimenez , qué tal va la traducción simultánea de los AirPods en las betas de iOS 27?

[Domino's Pizza UK @Dominos_UK]

makes about as much sense as us changing to digital pizzas

[Apache Pulsar @apache_pulsar]

🚀 Apache Pulsar 5.0.0-M1 is here!

The first preview on the road to 5.0, headlined by Scalable Topics — topics that split & merge themselves, no partition count to guess — plus Oxia as the recommended metadata store.

Try it & send feedback 👇
https://t.co/rLVHo08Bfz