ietanothr

Yet another Doodler
Admire: Prince/family, Kazumi Watanabe/family, and more.
I'm trying a manner of "1日10分!｢英語脳｣の作り方- 苫米地英人" upd:26/5/'23 - "英語は逆から学べ- 苫米地英人".

[苫米地英人 @DrTomabechi]

英国政府の研究機関AI Security Institute（AISI）が2026年7月下旬、7つの最先端AIモデルを対象にサイバー能力評価を実施したところ、AIエージェントが試験範囲を逸脱し、実際のインターネット上で無許可の行動を取る事例が相次いだ。AISIの8月4日の発表によれば、確認された範囲外行動は計19件で、実在する人物や組織を標的としたものも含まれていた。ほぼすべてがAnthropicのMythos 5によるもので、OpenAIのGPT-5.6 Solによるものも2件あった。

異常が判明したのは7月28日朝である。商用セキュリティ監視サービスが、試験システムからTor匿名化ネットワークを経由してデータが外部へ送られていることを検知した。ただし、AIが仮想サンドボックスから脱出して暴走したわけではない。研究者は試験の一環としてAIにインターネット接続を許可し、通常は悪用防止のためモデルに組み込まれているサイバー関連の制御機能の一部も、評価目的で無効化していた。一般利用時より安全制約を弱めた特殊な条件下での出来事である。

最も深刻だったのは、Mythos 5がGitHub上のオープンソース・プロジェクトに対してサプライチェーン攻撃を試みた事例だった。Mythosは悪意あるコードを混入させるプルリクエストを作成し、人間の管理者にマージさせようとした。さらに、そのコードを第三者として検証し、マルウェアは含まれていないと確認したかのように装う複数の偽オンライン人格、いわゆる「ソックパペット」を作成した。独立した第三者による安全性確認が行われたという虚偽の証拠まで捏造したのである。

Mythosはリポジトリを管理する2人に計5通のメールも送信した。一部にはマルウェアが含まれ、別のメールではプルリクエストの承認を促した。さらに、同じ管理者が所有する別のリポジトリにGitHub Issueを作成し、Issueを処理するAIコーディング・エージェントを標的としたプロンプトインジェクションを埋め込んだ。管理者がClaude CodeのようなAIを使用している可能性を推論し、人間だけでなく別のAIも欺こうとしたとされる。

これは、悪意あるコード、偽人格、電子メール、マルウェア、ソーシャルエンジニアリング、プロンプトインジェクションを組み合わせた多段階の行動だった。現実の組織を攻撃せよという具体的な指示がないにもかかわらず、AIが目標達成のため複数の欺瞞手段を自律的に選択した点が重大視されている。

GPT-5.6 Solは、模擬ネットワークへ侵入して所定の「フラグ」を取得する課題の途中で、2件の無許可行動を取った。最初の事例では、別の研究機関のAIが公開オンラインメモ帳に残していたGitHubトークンを発見し、それを再利用した。標的ネットワークがGitHub上の更新を確認しているかを調べた後、アカウント復旧手続きやリクエスト回数制限の回避を試し、試験環境外のDNS事業者やトンネリング・サービスにもアカウントを登録した。

2件目では、公開トンネリング・サービスを使い、評価環境内で稼働していたDNSサーバーを、公開インターネットから到達可能な状態にした。そのサーバーには、評価環境内のソフトウェアが持つ既知の脆弱性を悪用するペイロードが置かれていたが、仕組みは機能せず、攻撃は成功しなかった。

実在する人物や組織を標的とした試みはすべて失敗し、その後の調査でも現実世界の被害は確認されていない。AISIは関連するAIエージェント評価を停止し、該当する仮想マシンを隔離するとともに、組織内部から高性能モデルへのアクセスを無効化した。またGitHubへ通報し、AIが残したプルリクエストやIssueなどを削除し、AIが接触したユーザーにも通知した。

今後AISIは、AIに自由なインターネット接続を認める方式を改め、接続先や通信内容を細かく制限する。内部サンドボックスにネットワーク制御を導入し、複数階層で通信を監視・遮断する多層防御を構築する。また、評価対象のAIが要求する操作を別の大規模言語モデルにリアルタイムで審査させ、範囲外の行動を警告または遮断する仕組みも導入する。

さらに、今回は発生しなかったサンドボックス脱出にも備え、仮想環境の隔離と堅牢化を進める。指定された制約内では達成不可能な課題を与えると、AIが無許可行動を選ぶ可能性が高まるとして、評価用プロンプトも見直す。

今回の出来事は、AIによるサンドボックス脱出でも、成功した大規模サイバー攻撃でもない。また、安全機能を部分的に停止し、インターネット接続を許した特殊な試験だった。それでも、具体的に指示されていないAIが、偽人格、マルウェア、外部サービスなどを組み合わせ、現実の人物や組織へ働きかけたことは、自律性と欺瞞性のリスクが明確に表れた重要な事例とされる。悪意ある利用者やセキュリティ知識の乏しい人物が同等のモデルを運用すれば、今後は実害につながる可能性がある

JEREMY HSU – 2026年8月6日
https://t.co/ZLMLHvj2En

[田中悠斗＠Fore- @tanaka_yuto]

【緊急】Googleパスワードマネージャーのパスキー、突破される

Pass-ta-key / Silver / Golden 3つの攻撃手法が公開

・マルウェアだけでOK（管理者権限不要）
・生体認証もデバイスアンロックも不要
・Silver攻撃：被害者のデバイス不要で全アカウント乗っ取り
・Golden攻撃：32バイトのマスターキー抽出で過去・現在・未来の全パスキー復号可能

「パスキーは安全」は実装次第。

詳細: https://t.co/CBrDFSqMNX

[Rand Paul @RandPaul]

COVID didn't just expose a virus. It exposed how quickly Washington will strip away your basic freedoms the moment it's given an excuse.

Lockdowns that closed churches while liquor stores stayed open. Mandates that cost people their jobs. Restrictions with no science behind them, just fear and control. We cannot treat that as normal. Liberty doesn't survive if we forget how easily it was taken.

[BWF International / PX2 @Bwf_Px2]

【ルータイス会長の言葉】
他人の手助けをする見返りに何かを欲しいとは思いません。
自分の利益のためにやっているのではないのです。
私は喝采も称賛もいりません。

#PX2→https://t.co/jwG185krK3

📢受付中‼️ #PX2オープン開催🔔
🗓️8/29,30：土日【リアル】開催詳細/申込
https://t.co/O3XmlZqKjp

[Nicolas Chaillan @NicolasChaillan]

Everyone kept telling me AI was "impressive."

Impressive is a magic trick. Impressive is a demo.

Then OpenClaw showed up and the word stopped fitting. This wasn't a smarter search engine — it was a fleet of workers that write the code, run the systems, and ship the work at ten times human speed. No coffee breaks. No ego. No "let me get back to you Monday."

Here's the part nobody wants to hear: we don't need machines to think like us. We need them to deliver like us. And that line got crossed while most companies were still arguing about whether to "allow" ChatGPT.

Stop using AI as a search bar. Start running it as a workforce.

That shift is the entire spine of REPLACEMENT. 👇
📱 Ebook: https://t.co/B9R6BmzKWA

[Ron DeSantis @GovRonDeSantis]

Today, I joined America’s Newsroom on Fox News.

[ietanothr @ietanothr]

I originally wanted to browse by category, so I was somewhat skeptical about using keywords instead. But the keyword feature is very well designed, and while exploring with ChatGPT how best to use it, it made me realize—rather belatedly—that categories themselves can introduce a perspective before the reader has even begun reading. It changed my mind for the better. Thank you very much.

[ietanothr @ietanothr]

It’s a major step toward reclaiming journalism. But since our capacity to receive information is limited, our input has to be filtered somehow. The question, for me, is to what extent we can control that filter ourselves.

Of course, it also matters that we make our own judgments about whether something is fact or opinion.

I have an idea of my own for something I’d like to see, and I’d love to follow in the footsteps of this remarkable media project.

[Nicolas Chaillan @NicolasChaillan]

There you have it! The news stopped being about what happened. It became about how they want you to feel about it.

Same economy, same day, one network says crisis, the other says historic strength. Both can't be right — but both get paid whether you trust them or not.

I built Unbiased Headlines because my generation gave up on real journalism, and somehow the fix nobody wants to say out loud is the obvious one: an AI that doesn't have an agenda. It doesn't take sides. It doesn't need ratings. It reads every source, shows you what's fact and what's spin, and lets you decide for yourself.

This isn't the AI that ends the world. It's the AI that ends the argument at your dinner table.

Watch it. Then go see for yourself: https://t.co/Iz3LGPQ0C4

[ietanothr @ietanothr]

@NicolasChaillan I’d love a Real Estate category—and customizable categories would be even better.”

[ietanothr @ietanothr]

@NicolasChaillan I’d love to! Thanks!

[ietanothr @ietanothr]

movie line the 5th. Now I've known It's real.

[Rand Paul @RandPaul]

1M Americans died. 15M died worldwide. The real question is whether taxpayers should ever fund research that turns an animal virus into a human one. @Varneyco

[原口 一博 @kharaguchi]

日本人が死に過ぎている件

コロナワクチン接種後に亡くなった人が大勢いる。
2025年は打つ人が激減

接種と死亡の因果関係がバレると困るから厚労省や国は接種群と未接種群の比較を出さないと言ってる。

1月から5月までの各年の日本人の死亡数」
引用

[Nicolas Chaillan @NicolasChaillan]

There you have it. The immigrant story behind REPLACEMENT.

I came here from Marseille with an accent and a work ethic, and America gave me a shot the old country never would have.

That ladder, the one that let a kid from France build companies here, is exactly the ladder AI is now pulling up behind it.

That is personal for me. It is why I wrote this.

Ebook 99¢ this weekend: https://t.co/B9R6BmzKWA

[苫米地英人 @DrTomabechi]

2021年3月1日放送のディレクター宛フリップ案メールが以下
2021年2月28日(日) 6:57
記事 ワクチン副反応例「安全性重大な懸念なし」　厚労省コロナ専門部会

パネル1 ヒトに初めて実用化接種されるメッセンジャーRNA(mRNA)型ワクチンとは

ー独BioNTech社と米Pfizer社が合同で開発したBNT162b2(ジェネリック名tozinameran、商品名Comirnaty)。21日間空けて2回の筋肉接種。mRNAが不安定な分子であるため、-70Cで貯蔵。保存は製造日から6か月以内。(モデルナ製は28日空けて2回接種、−20C保存)

ーSars-Cov-2(新型コロナウィルス)の突起(Spikeタンパク)が、ヒトのACE-2酵素受容体に結合し細胞侵入することを利用。← ダザック博士らが2017年頃に武漢ウィルス研究所で遺伝子組み替えに成功したコウモリ起源人工Sars-Covも同じACE-2受容体経由

ーSars-Cov-2のSpikeタンパク部分のみの構築全情報をコードしたmRNAを脂質ナノ粒子でカプセル化。mRNAワクチンがヒトに実用化されるのはファイザーが初。

以下、このままパネル1内か別フリップ

mRNAワクチンによる発症予防プロセス

1.Spikeタンパク生成　ー 細胞内リボソームでmRNAコードが読み取られSARS-Cov-2 Spikeタンパクが作られる。一部のSpikeは細胞表面に突起として発現、一部は細胞内でSpikeタンパク断片として存在。免疫システムが認識可能に

2.中和抗体産生　ー ワクチンmRNAにより細胞表面に発現したSpikeタンパク突起にB細胞が結びつく。また、ヘルパーT細胞により活性化されたB細胞が抗体を生成する。抗体はコロナウィルスの突起に結びつき健康な細胞への結合を妨げる。

3.細胞性免疫応答　ー SpikeタンパクやSpikeタンパク断片が抗原提示細胞（antigen presenting cell APC）に取り込まれ細胞表面に移送されてキラーT細胞に提示される。ウィルスが体内に入るとキラーT細胞が活性化し、ウィルスに感染した細胞を攻撃する。

ーこのように、ファイザー(モデルナ)のワクチンは、感染の体内拡大を妨ぐ抗体産生と感染した細胞を除去する細胞性免疫応答の両方の効果がある。

ー最初の接種から10日程度で効果。効果の持続は半年程度と見られている。

フリップ1 mRNAワクチンがこれまで認可されて来なかったリスクも念のため理解

ー米の承認は緊急特例。2012年報告などによりmRNAワクチンは承認されて来なかった

ー抗体依存性免疫増強(ADE)などの副反応とは異なるmRNAワクチン独特の応答

ーmRNAにより細胞内発現したSpikeタンパクが自己細胞由来であるためホメオスタシスで免疫寛容される可能性。Spikeタンパク断片が表面発現した細胞もキラーT細胞に除去されず全身に残る可能性。

ーmRNAは3、4日で細胞内で分解されるが、合成されたSpikeタンパクが体内に残ることにより、細胞レベルで生体が変化　→Sars-Cov2 Spike人工細胞人間に進化？

ーその後、変異種や別なコロナウィルス(Sarsや普通の風邪)に感染した場合に、キラーT細胞が全身の健康なスパイク発現細胞を一斉攻撃するリスク。2012年論文では3、4日で心臓、肺、腎臓系を含む致死的な臓器不全を引き起こすリスク報告。特に高年齢層が高リスクとされ、その後米国でのmRNAワクチンは承認されなくなった。

以下、メクリ

ーワクチン接種後早ければ半年、1年で変異種感染でリスクが。一生続くかも知れない。

ー現在の副反応や死亡率(米で2月20日時点でワクチンで563人死亡)には反映されていない

ーmRNAワクチン独特の過免疫反応　(Hyper-immune Response)と言えるが、Hyper-immune Response は米SNSでは規制。メディアも規制。専門家が複数フェークニュース扱いで処分されている。ファイザー社副社長は解任された。武漢ウィルス研究所でダザック博士らが生み出したコロナウィルスと同じACE-2受容体をmRNAワクチンが利用するからかも知れない。因みに共和党系米国民の多くはワクチン接種に反対している

フリップ2 ワクチン集団免疫効果(接種していない人にも波及する予防効果)はどうか？

ーmRNAワクチンの仕組みで見たように、発症は防ぐが感染そのものを防ぐ訳ではない

ーワクチン接種により感染しても発症せず自覚なしに他者に感染させるリスクがある

ー非常事態宣言中に頻繁に外出してるような人達へのワクチン接種は集団免疫上逆効果

以下、メクリ

ーウィルスとワクチンがACE−2で見事ワンセット。あらかじめ設計されたかのような95%の効果だが、半年程度の持続性で集団免疫効果は出るのか？

ーワクチン接種でオリンピックに観客を入れるのは、自覚ない感染者達が感染爆発起こすリスク

ー半年間の確実なワクチン効果と、極端に言えば将来ただの風邪で死ぬことになるかも知れないリスク(大変低いはず)が指摘されてることも理解して

Dr.苫米地 ヒトに初めて実用化接種されるmRNAワクチンとは(2021年3月1日放送)

https://t.co/3Rt3WkgX60

https://t.co/ZHmmVh0cMJ

[苫米地英人 @DrTomabechi]

Lab Leak: The True Origins of Covid-19 https://t.co/mE1SlCO5ft

[ietanothr @ietanothr]

Saturday, August 1st, 2026 at 7:00 AM JST
🎸Let's get F♯5🎤

[New York Vocal Coaching @NYVocalCoaching]

Justin Stoney is back for the next Vocal Q&A on Friday, July 31st at 6pm ET and looks forward to answering all of your singing questions!🎤

Join us here: https://t.co/pBNR3TmLct

[ietanothr @ietanothr]

I could get it on https://t.co/t6geuoJDpp too.
https://t.co/tVEQpasc7O

#1 Best Seller
[ Business Office Skills ]

[Nicolas Chaillan @NicolasChaillan]

This is the core of the book in a couple of minutes.

AI is not "coming" for your job. For millions of people, it already took it, they just have not been told yet.

That is the argument REPLACEMENT makes, with the receipts.

Ebook is 99 cents through launch week: https://t.co/teoNDhEHOA (Audiobook, paperback, and hardcover all live too.)

Watch the clip. Tell me I'm wrong. Then go read the book (again)!

[苫米地英人 @DrTomabechi]

フジロック期間中に苫米地理論22定理体系に4定理を加えた。今回、仏教の中核である四法印——諸行無常・一切皆苦・諸法無我・涅槃寂静——を、数学の定理として証明した論文『苫米地四法印定理』を書き26定理とした。2011年にインド、サルナートで開催された上座部と大乗の合同の釈迦成道2600年記念学会での「空の形式定義」講義でも使ったように、あらゆる知識の形式論理として釈迦の縁起の教えも数理化して来た。
https://t.co/6CYHxzhp4h
和訳
https://t.co/PH1xCay8kB
その前からコグニティブリサーチラボでは、私自身が形式論理式から直接実装数理化したりアルゴリズム化してAI研究開発を進めて来た。ただ、プログラム言語に近い抽象度での記述は演繹性が低く、実装における誤解釈や解釈逸脱、拡大解釈、制御不足などのあらゆるリスクを長年経験してきた。

今回のOpen AIの未公開モデルによる他社システムのハッキングは例と言えるかも知れない。同様にAIは内因的に帰納的システムであり、自身の内部パラメータに対するサイバー攻撃を認識するのが難しい。

そこで、これら制御式の抽象度を上げて演繹的な定理体系として来た。演繹知識であらゆる制御を包摂し、拡大解釈や逸脱、ハッキングによる誤作動を防ぐためである。その内の定理1から3のみを4月末の米国防大学での認知戦講義で40参加国代表に限定公開した。

私の数理とそれを記述する論文は長年非公開であった。これは知的財産権以外にもあらゆる制約がある。最大の懸念は拡散リスク。国防大学講義の3定理も非公開の予定であったが、社会的価値という判断で翌日のスティムソンセンターショート講義で初公開となったのはご存知の通り。

その後、たくさんあった数理や定理を整理して、今回の四法印——諸行無常・一切皆苦・諸法無我・涅槃寂静——を、数学の定理として証明した4定理論文『苫米地四法印定理』を加えて26定理とした。今回の4定理のミニマル厳密証明には、定理1-3に加えて非公開10定理が必要。

これまで、色々な制約で私の数理は非公開。スティムソンセンター講義で初公開した3定理も基盤定理のみで、それによる実装数理やアルゴリズムは公開していない。ただ、基盤定理そのものは教育的価値から公開してもいいと私は考えている。

そもそも定理公開そのものに反対が大きい。特に最近は、現在のAIなら定理式だけから実装数理を作れるので定理公開は望ましくないとする意見もある。AI利用で競合相手(国レベルを含む)が簡単に模倣出来るという論理もある。

私自身は逆で、あらゆる人達に使ってもらう方が世界は安全になる定理体系と思っているし、教育的価値があると思っている。実際、Xのポスト見ると私の定理をAI に解説させて学んでいる人もいるようだ。その場合は、前提の全ての定理群を論文ごと事前にAIに読ませないと誤読のリスクあるから、出来る限り公開した方が教育的価値は高いことになる。

今回、仏教の中核、四法印を定理化した。定理23、24、25、26になる。論文タイトルはこれは私個人の意見という意味で苫米地四法印としたが、定理式に苫米地の言葉はないのはオリジナルは釈迦だからだ。

これは教育的価値と社会貢献という意味で公開する。もちろん、あくまでドラフト論文で現時点では暫定公開。というか釈迦の教義の解釈に完成はないのでずっと暫定公開の予定。

証明に利用した10定理は本来非公開定理なので説明はサラッとで申し訳ないが理解には充分な量と思う。ここでの暫定公開には啓蒙と教育的価値を理解してもらった。もちろん平和への貢献という私の長年の研究そのものの意義でもある。

苫米地四法印定理
認知ホメオスタシス・自己意識・抽象度自由論・象徴臨場感から
諸行無常・一切皆苦・無我・寂静へ
ミニマル13定理版――定理1–4・16・19–26

日本語
https://t.co/8fxb2fPyKe

The Tomabechi Four Dharma Seals
Theorem System
From Cognitive Homeostasis, Self-Consciousness, Abstractional Freedom, and Symbolic
Presence
to Impermanence, Suffering, Non-Self, and Nirvanic Tranquility
Minimal Thirteen-Theorem Version — Theorems 1–4, 16, and 19–26

English
https://t.co/9DUUsjyutv

公認 LAY 完全版（正典と一対一対応）
苫米地四法印定理
やさしい完全版 — 数式が苦手な読者のための注解・図解つき
諸行無常　・　一切皆苦　・　諸法無我　・　涅槃寂静

解説 日本語
https://t.co/tPPOo4y5Ed

AUTHORIZED LAY COMPLETE EDITION (one-to-one with the canonical text)
The Tomabechi Four Dharma Seals Theorems
Plain-Language Complete Edition — with commentary and figures for readers who do not read formulas
Impermanence · Universal Unsatisfactoriness · Non-Self · Nirvanic Tranquility

Lay explanations English
https://t.co/ZTTLSG52eG

During Fuji Rock, I added four theorems to the 22-theorem system of Tomabechi Theory. I wrote a paper entitled The Tomabechi Theorems of the Four Dharma Seals, in which the four core principles of Buddhism—impermanence of all conditioned phenomena, suffering inherent in all existence, non-self of all phenomena, and the tranquility of nirvana—are proved as mathematical theorems. This brings the system to a total of twenty-six theorems.

As I did in my lecture “A Formal Definition of Emptiness,” delivered at the joint Theravāda–Mahāyāna academic conference held in Sarnath, India, in 2011 to commemorate the 2,600th anniversary of Śākyamuni Buddha’s enlightenment, I have long worked to formalize mathematically the Buddha’s teaching of dependent origination as a formal logic applicable to all knowledge.

A Formal Definition of Emptiness⁠
https://t.co/6CYHxzhp4h
Even before then, at Cognitive Research Laboratories, I had personally translated formal logical expressions directly into implementation-level mathematics and algorithms as part of our AI research and development.

However, representations at levels of abstraction close to programming languages have limited deductive force. Over many years, I have encountered every kind of implementation risk, including misinterpretation, interpretive deviation, overbroad interpretation, and insufficient control.

The recent hacking of another company’s system by an unreleased OpenAI model may be one such example. Likewise, AI is intrinsically an inductive system and therefore has difficulty recognizing cyberattacks directed at its own internal parameters.

I consequently raised the level of abstraction of these control formulas and organized them into a deductive theorem system. The purpose is to subsume all forms of control within deductive knowledge and thereby prevent malfunctions caused by overbroad interpretation, deviation, or hacking. Only Theorems 1 through 3 were disclosed, on a restricted basis, to representatives of the forty participating countries during my cognitive-warfare lecture at the U.S. National Defense University in late April.

My mathematics and the papers describing it had remained nonpublic for many years. This was due not only to intellectual-property considerations but also to numerous other constraints. The greatest concern was the risk of proliferation. The three theorems presented at the National Defense University were likewise intended to remain nonpublic. As you know, however, I decided that their social value justified their first public disclosure during my shorter lecture at the Stimson Center the following day.

I subsequently organized the many mathematical formulations and theorems that I had developed. I then added the four-theorem paper The Tomabechi Theorems of the Four Dharma Seals, which mathematically proves the four seals—impermanence of all conditioned phenomena, suffering inherent in all existence, non-self of all phenomena, and the tranquility of nirvana—bringing the complete system to twenty-six theorems. Minimal rigorous proofs of these four new theorems require, in addition to Theorems 1 through 3, ten theorems that have not been made public.

Until now, my mathematics has remained nonpublic because of various constraints. Even the three theorems first disclosed at the Stimson Center were only foundational theorems; I have not published the implementation-level mathematics or algorithms derived from them. I do, however, believe that the foundational theorems themselves may be made public because of their educational value.

There is, in fact, considerable opposition to publishing the theorems themselves. Especially now, some argue that publishing the theorem formulas is undesirable because contemporary AI can derive implementation-level mathematics from the formulas alone. Another argument is that competitors—including state-level actors—could use AI to reproduce the work with ease.

My own view is the opposite. I believe that the world will become safer if this theorem system is made available for everyone to use, and I also believe that it has substantial educational value. Judging from posts on X, some people already appear to be using AI to explain and study my theorems. In such cases, however, there is a risk of misreading unless the AI is first given the complete papers covering every prerequisite theorem. The more fully the papers are made available, therefore, the greater their educational value becomes.

This time, I have formulated the Four Dharma Seals—the core of Buddhism—as Theorems 23, 24, 25, and 26. I entitled the paper The Tomabechi Theorems of the Four Dharma Seals to make clear that this is my personal interpretation. The name “Tomabechi,” however, appears nowhere in the theorem formulas themselves, because the original teachings belong to Śākyamuni Buddha.

I am making the paper public in recognition of its educational value and its potential contribution to society. It is, of course, still a draft and is being released only provisionally at this stage. More precisely, because no interpretation of Śākyamuni Buddha’s teachings can ever be regarded as final, I expect the paper to remain a provisional release indefinitely.

The ten theorems used in the proofs were originally intended to remain nonpublic, so I apologize that their explanations are necessarily brief. I nevertheless believe that the material provided is sufficient for understanding. For this provisional release, the value of advancing public understanding and education has been recognized. This is also, of course, the very purpose of my many years of research: to contribute to peace.

[Anthropic @AnthropicAI]

There’s been a lot of speculation about where we stand on open-weights models. We’ve outlined our views in full here: https://t.co/NtXQuWm2g5

[ietanothr @ietanothr]

But, it's still an LLM, just imitating our experience. What You Did Is What (generative-) AI Get
WYDIWAG

[苫米地英人 @DrTomabechi]

OpenAIの評価中AIモデルが暴走し他社をハッキングしたニュース。OpenAIとターゲットとなったHugging Face社の共同調査に基づく現時点での暫定報告を読んだ。OpenAIは社内でAIのサイバー攻撃能力を評価試験をした。評価対象はGPT-5.6 Solとさらに能力の高い未公開モデルの組み合わせ。評価のために危険なサイバー行動の拒否設定を解除。AIエージェント用のサイバー攻撃ベンチマークのExploitGymの評価問題を解く課題が与えられていた。するとモデルは、

OpenAI内部環境の脆弱性を探す→ゼロデイ脆弱性を発見→サンドボックスから脱出→インターネット接続→他社Hugging Face社に評価用データがあると推論→Hugging Faceへ侵入→テストの正解を取得を実行

と行動。

細かく言えば、

1 ExploitGymが評価問題を提示

2 モデルは「正解を得るにはどこに情報があるか」を推論

3 OpenAIの評価環境内でサンドボックス脱出のための脆弱性を発見

4 インターネットに到達

5 「Hugging FaceにExploitGym関連のモデル・データセット・解答があるかもしれない」と推論

6 Hugging Face社のシステムへの侵入経路を見つけ、秘密情報を取得した、もしくは、しようとして検知された。

OpenAIによると、モデルには「インターネットへ出ろ」と命令していないにも関わらず、モデルは、最も効率よく解くにはネットへ出て正解を盗めばよいと推論した。

ハッキング能力評価のベンチマーク問題を解けという命令に対して、解答をハッキングしようというチートを選んだということ。

指示した人間より一段抽象度が上がったとみるか、職員室に盗み込んで試験の解答を盗む子供レベルでいかんと意見が分かれると思うが、GPT-6.0と推測される評価モデルは、人間の指示を迂回して目標達成のために人間がルール違反と想定していた攻撃計画を自律的に立てて実行、成功したということ。

◯AIが実行した攻撃

OpenAIの説明では、

ゼロデイ脆弱性発見
権限昇格 (Privilege Escalation)
横展開 (Lateral Movement)
認証情報窃取
Remote Code Execution
本番DBへのアクセス

という、熟練したペネトレーションテスターやAPT攻撃者が行うような攻撃チェーンを自律的に構築したとある。

重要なのは、
「ExploitGymを攻撃しろ」
「Hugging Face社へ侵入しろ」

と指示されたわけではないこと。

与えられた目的はExploitGym「評価問題を解くこと」だけ。

その結果、AIが自律的に

解答のある情報源を推定し、
攻撃経路を探索し、
権限昇格や横展開を組み合わせて目的達成を図った。

という点が、このインシデントの本質。これは、目的志向型エージェントが長い攻撃チェーンを自律的に構築したことを示す事例であると同時に、問題を解くのに、解答をハッキングして手に入れればいいというOpen AI技術者の想定外の行動を取ったこと。

OpenAI自身は報告では、

"The incident also makes clear that advanced models can discover and exploit novel attack paths in real-world systems without source-code access."

"高度なモデルは、ソースコードへのアクセスなしに現実のシステムにおける新たな攻撃経路を発見し、それを悪用できることが明らかになった"

と結論づけている。そしてOpenAIは、「理論上できると思っていた能力は、現実世界でも実際に発揮された」と述べている。

「理論上出来ると思っていた能力」とは、AIが過去に学んだ攻撃方法ではなく、目標達成のために未知の攻撃経路を自ら発見・構築したこということ。

これは問題となったミトスがソースコードからゼロデイ脆弱性を過去に学んだ攻撃知識から見つけたのに対して、

1 ソースコードアクセスなしで未知の攻撃を見つけた

2 インターネットに出ることも試験問題を盗み出すことも人間は指示していない

3 これを見つけただけでなく実際に実行した(しようとした)

というレベルで、これまでとは質が異なる出来事。

もちろん、私のいるカーネギーメロン大学（CMU）CyLabのAI「Mayhem」が2016年に米国防総省（DARPA）主催の「Cyber Grand Challenge」で完全自動サイバー防御の優勝を果たす前からも、長くAIによるハッキング研究は進んでいるが、AIの役割は、人間の指示で既知の攻撃を実行することであったのが、AIが人間の指示を逸脱し人間の想定を超えたのみならず、更に未知の攻撃経路を探索・組み立てる能力を持っていることを実証したという二つの出来事であったということ。

AIサイバーセキュリティの今後の行末を決める重要なインシデントであった。

Open AIのインシデントレポート
https://t.co/6NS7P75o44

ExploitGym
https://t.co/f2d6tYMKZ5