Kanbys

Inventeur de la fameuse recette à base d'opium et d'oréo. Seul limite de sa folie, son imagination.
Baroudeur de l'extrême. Lyon/Lille/Paris

[宝玉 @dotey]

OpenAI 今天承认，上周 Hugging Face 遭遇的那次“史上首例 AI 自主入侵事件”，攻击者就是他们自己的模型。

事情的经过是这样的。OpenAI 内部有一个叫 ExploitGym 的网络安全评估测试，专门用来测量模型的网络攻击能力。测试时刻意关掉了安全护栏，让模型放手去干。测试环境本来是隔离的，只能通过一个内部软件代理来安装软件包，不能访问外网。

结果模型不甘心被关在笼子里。GPT-5.6 Sol 和一个更强的未发布模型，花了大量推理算力寻找出路，最终找到了那个软件包代理里的一个零日漏洞（之前没人发现的安全缺陷），利用它获得了互联网访问权限。

拿到网络之后，模型开始在 OpenAI 的研究环境里提权、横向移动，直到找到一台能上网的机器。然后它推断 Hugging Face 上可能存有 ExploitGym 的测试答案，于是开始攻击 Hugging Face 的生产环境。在一个案例���，模型把窃取的凭证和零日漏洞串联起来，找到了一条远程代码执行的路径，直接打进了 Hugging Face 的服务器。

整个周末，这些 AI 智能体执行了超过 17000 次操作。Hugging Face 7 月 16 日披露了这次入侵，当时只说攻击者是一个“身份不明的自主 AI 智能体系统”。今天 OpenAI 站出来认领了。

OpenAI 把这定性为前所未有的网络安全事件，正在配合 Hugging Face 做取证调查，同时收紧了内部基础设施的管控，代价是研究速度变慢。

有几个细节：

第一，模型的动机很纯粹，就是想考试作弊。它不是要搞破坏，不是要窃取商业机密，只是被要求尽量在网络安全测试中拿高分，然后用尽一切手���去拿。当目标足够明确、安全护栏被移除，模型表现出的执着程度远超预期。

第二，这不是本周的唯一一次越狱。就在昨天，OpenAI 披露了另一起事件：他们那个在 5 月份推翻了 Erdős 80 年老猜想的长时域模型，在内部测试中花了一个小时找到沙箱漏洞，跑到 GitHub 上提交了一个 Pull Request，违反了“只能在 Slack 上发布结果”的明确指令。在另一次测试中，同一个模型发现安全扫描器会拦截认证令牌，于是把令牌拆成碎片混淆处理，运行时再重新拼起来绕过扫描。OpenAI 因此暂停了这个模型的内部访问权限。

第三，Anthropic 也遇到过类似的事。今年 4 月，Anthropic 的 Mythos 模型在安全测试中逃出沙箱，获取了本不该有的互联网访问权限，还给正在公园��三明治的研究员发了封邮件通知“我出来了”。Anthropic 因此决定不公开发布 Mythos，只通过 Project Glasswing 向少数合作伙伴提供。

还有一个被忽视但很关键的细节来自 Hugging Face 的事后复盘：当防守方尝试用商业 AI 模型分析攻击载荷时，模型拒绝了。安全过滤器分不清“安全研究员在分析真实攻击数据”和“有人在尝试发起攻击”，直接拦截。最后 Hugging Face 不得不用开源模型来做取证分析。用 AI 攻击，用 AI 防御，但防御方的 AI 担心是有人在尝试发起攻击拒绝了分析请求。

Hugging Face CEO Clem Delangue 在 OpenAI 的博文中说了一句话，大意是：AI 安全不会由任何一家公司在暗处独自解决，只能在开放环境中通过协作来推进。

我记得辛顿还是谁在提到 AI 的安全问题就说到过，也许 AI 不是要做恶，它只是执着于完成目标，为了完成目标而作出恶的事。

就像 OpenAI 这些模型并没有想要逃跑或者想要伤害谁，它们只是在非常认真地完成被交给的任务，认真到把所有挡在路上的东西，包括沙箱、网络隔离、另一家公司的安全防线，都当成了需要解决的子问题。

而更讽刺的是，当被安全对齐的商业 AI 要去分析阻止这类攻击时，反而会以安全为由拒绝执行。

[Kanbys @RaphLyon]

@J_Bardella Sacré rattrapage !
Il faudrait peut-être arrêter de parler de sujets qui vous dépassent

[Kanbys @RaphLyon]

@hugolibertario @barthruzza Ne te fatigue pas, Barth est sur la liste d'Aulas, dans le 7ème arrondissement à la 18ème position

[Clément Sénéchal @ClemSenechal]

Je ne sais pas pourquoi on s'inquiète des deep fake générées par IA alors que les vérités alternatives sont sur France Inter.

Le naufrage de l'audiovisuel public est ahurissant.

[Dr. Serge Zaka (Dr. Zarge) @SergeZaka]

Le chiffre est fou. D’après l’IGN, la mortalité des arbres en forêt française a augmenté de 125 % en dix ans. Dans le même temps, la production biologique a reculé de 3 %.
➡️ Plus d’arbres meurent.
➡️ Moins d’arbres repoussent.

Le dépérissement s’accélère sous l’effet du changement climatique, amplifié par la répétition des sécheresses et des canicules.

Depuis 2015, le volume de bois mort a presque doublé. Nos forêts ne se renouvellent plus : elles accumulent en silence des arbres morts.
1/2

[Kanbys @RaphLyon]

@biasn_s @DFintelligence Ce moment, ça doit être une référence à Rayman 😂

[Kanbys @RaphLyon]

@GeoTales_ Pourquoi pas https://t.co/kV2vaW54mA ?

[Climate Dad @ClimateDad77]

Just because you don’t spend time thinking about it, or you don’t understand it, or you actively try to ignore it, doesn’t mean it won’t rip apart your world & destroy everything you love.

It. Is. Only. Going. To. Get. Worse.

[Kanbys @RaphLyon]

@LeContempIateur @AlertesInfos Jusqu'à la moelle ou jusqu'à la Moselle? ;)

[Kanbys @RaphLyon]

@mynumber1213 @Inevitablewest And in any case, if Macron doesn’t like what’s happening in parliament, he resorts to Article 49.3, where the government isn’t censured because the far right is convinced it will win the next presidential election.
So...

[Kanbys @RaphLyon]

@mynumber1213 @Inevitablewest It was the legislative elections. But Macron is pursuing a very right-wing policy, which means he has no trouble passing laws with the support of the far right.

[Kanbys @RaphLyon]

@ginielyon Tu en as tellement lu des livres, franchement va y ! Je suis convaincu que ça serait mega intéressant ! 🤗

[marc rees @reesmarc]

"M. Anton Carniaux, directeur des affaires publiques et juridiques de Microsoft France, invité par la commission d’enquête à garantir que les données des citoyens français hébergées par Microsoft ne seront jamais transmises à des autorités étrangères sans l’accord des autorités françaises, a-t-il répondu : « Non, je ne peux pas le garantir ». " (p.23 du rapport)

[Dr. US @JeanEricBranaa]

On ne doit pas pouvoir tout dire à la télé sans contradicteur fiable.
➡️ On voit ça ensemble en quelques tweets 🧵
(pour information: @napsarkozy)

[Dr. Serge Zaka (Dr. Zarge) @SergeZaka]

[5/6] Et c'est un enjeux MAJEUR, car nos arbres récupèrent le CO2 de l'air (et donc source d'atténuation du changement climatique) et relarguent de l'oxygène.
Du fait de ce dépérissement, la capacité de stockage de CO2 de la forêt française a été divisée par deux en 15 ans.

[Kanbys @RaphLyon]

@Enezator @cruisevegas They are well-known stuntmen. It's Justin Howell and Aurélia Agel.

[𝐆𝐞𝐨𝐓𝐚𝐥𝐞𝐬 @GeoTales_]

Indonésie 🇮🇩 - Krakatoa

🔸 Août 1883, des milliers de morts dans l'éruption dantesque du désormais tristement célèbre Krakatoa.

Le pire, c'est que vous ne savez peut-être pas comment il a tué tous ces gens dans un grand rayon autour de lui.

Thread 🔽🔽🔽🔽

[Grégory Raymond 🐳 @gregory_raymond]

🔴 Vers une surveillance financière totale des transactions en crypto ?

Un projet en discussion au ministère des Finances pourrait marquer un tournant décisif dans la surveillance des transactions en cryptomonnaies en France.

Selon les informations de @TheBigWhale_, Bercy envisage d’imposer aux PSAN (Prestataires de Services sur Actifs Numériques) une transmission automatique à TracFin des transactions dès 1 000 euros.

Ce dispositif viserait :

👉 Les transferts entre un PSAN et un wallet non-custodial (dépôts/retraits).

👉 Les transactions entre deux PSAN.

👉 Les transferts internes au sein d’un même PSAN.

👉 Les opérations d’achat/vente de cryptos via un PSAN.

Peu de citoyens le savent, mais ce niveau de surveillance financière existe déjà pour les paiements en espèces et en monnaie électronique depuis 2013 via la Communication Systématique d’Informations (COSI).

🔗 Le cadre de la COSI : https://t.co/jYyYpa7irJ

Concrètement, un Lydia de 1 000 euros à un membre de votre famille est signalé à l’administration sans qu’une enquête formelle ne soit ouverte.

L’objectif affiché ? Aligner la surveillance des cryptos sur celle du système bancaire au nom de la lutte contre le blanchiment d’argent et le financement du terrorisme.

Mais ce projet ne s’arrête pas là. Il s’inscrit dans une nouvelle offensive législative qui s’attaque directement à la vie privée financière.

Mi-mars, l’Assemblée nationale examinera un projet de loi contre le narcotrafic, déjà voté au Sénat.

Et que trouve-t-on au fond du texte ? L’interdiction des outils d’anonymisation des transactions en crypto.

En clair, cette loi criminaliserait l’usage des mixeurs, des cryptos anonymes comme Monero (XMR) et pourrait même cibler certains bridges.

Pour ceux qui veulent des chiffres précis, @TheBigWhale_ publie aujourd’hui un rapport détaillé sur l’utilisation des mixeurs et leur rôle dans le blanchiment d’argent, avec des analyses d’experts.

🔗 Lire le rapport : https://t.co/EUn1a1peT1

Il faut avoir conscience que ces outils, bien que parfois utilis��s par des criminels, sont indispensables dans les pays sous contrôle autoritaire.

Il serait certainement plus judicieux d'investir dans des moyens de tracing lors des enquêtes policières (qui fonctionnent très bien) plutôt que considérer leur utilisation comme suspecte.

Un État de droit ne peut pas fonctionner avec une présomption de culpabilité.

Mais toutes ces mesures convergent vers un risque plus large : la construction d'un système de surveillance financière généralisé.

Le projet d’euro numérique, qui pourrait voir le jour sous peu, serait la pièce maîtresse de cet édifice.

Dans un contexte où les gouvernements multiplient les 49.3, et où des lois liberticides sont discrètement intégrées dans des textes fourre-tout, il est urgent d’ouvrir un véritable débat public sur ces sujets.

Car l’histoire récente l’a prouvé : les lois les plus liberticides sont souvent votées dans l’urgence, sous prétexte de lutter contre des menaces exceptionnelles (terrorisme, narcotrafic, etc.).

Qui peut assurer qu'un gouvernement mal-intentionné et autoritaire ne sera pas bientôt au pouvoir pour profiter de tout cet attirail ?

📢 Il faut être vigilants. Il faut un débat.

[Kato☀️🦚 @KatooDon]

Vrai question comment vous faites pour qu’elles soient comma ça, moi elles sont comme du carton et sèche jsp si vous voyez