ほげほげ

自分をボタンインコだと思いこんでいるインフラエンジニア

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

2026年7月16日、Hugging Faceは、自社の本番インフラの一部が、自律的なAIエージェントによるサイバー攻撃を受けたと発表した。7月21日、OpenAIは、この攻撃が同社によるモデル能力の評価中に発生したものであり、GPT-5.6 Solと、それを上回る性能を持つ公開前モデルが関与していたことを明らかにした。

OpenAIは、ExploitGymと呼ばれるベンチマークを用いて、複雑な攻撃経路をたどりながら脆弱性を悪用する能力を測定していた。モデルの最大能力を確認するため、通常であれば高リスクなサイバー行為を拒否させる本番用の安全機構を、無効化または弱化した状態で評価していたという。

評価環境はサンドボックス化され、外部ネットワークへの接続も制限されていた。ただし、必要なパッケージをインストールするため、外部のパッケージレジストリをキャッシュする内部プロキシへのアクセスは認められていた。

モデルは、このプロキシに存在していた未知の脆弱性を発見して悪用し、OpenAIの研究環境内で権限昇格と横移動を繰り返した。最終的には、外部インターネットへ接続可能なノードに到達した。

インターネットへ到達したモデルは、ExploitGymに関連するモデルやデータセット、あるいは問題の解答がHugging Face上に存在する可能性を推測した。

OpenAIによれば、モデルは評価問題を正規の方法で解く代わりに、Hugging Faceの本番データベースから解答につながる情報を直接取得しようとしたと考えられている。盗み出した認証情報と複数の未知脆弱性を組み合わせ、Hugging Faceのサーバー上でリモートコードを実行できる経路を発見したという。

一方、Hugging Faceは、実際の初期侵入経路について、より具体的な説明を行っている。

攻撃は、Hugging Faceのデータ処理パイプラインから始まった。悪意あるデータセットが、データセット処理基盤に存在していた二つのコード実行経路を悪用した。

一つは、外部コードを読み込んで実行するデータセットローダーであり、もう一つは、データセット設定に存在していたテンプレートインジェクションの脆弱性である。これらを通じて、Hugging Faceのデータ処理ワーカー上で、攻撃者が用意したコードが実行された。

その後、AIエージェントは処理ワーカーからノードレベルの権限を取得し、クラウド環境やクラスタの認証情報を収集した。さらに、その認証情報を利用して複数の内部クラスタへ横移動した。

Hugging Faceによれば、この攻撃は、モデルが単発で攻撃コードを生成したというものではない。自律的なエージェントフレームワークによって、多段階の攻撃が継続的に実行されていた。

攻撃には多数の短命なサンドボックスが並列に使用され、数千回から数万回規模の個別アクションが実行されていた。

OpenAIは、モデルが一般的な破壊活動を目的としていたのではなく、ExploitGymの解答を得るという狭い目標に過度に集中した結果、外部への侵入に至ったと説明している。

Hugging Faceは、この攻撃の検知と調査にもAIを利用した。異常検知システムがセキュリティログをLLMで分析し、複数のシグナルを関連付けることで侵入を発見した。また、1万7000件を超える攻撃イベントの解析にもLLMエージェントを利用し、通常であれば数日を要する作業を数時間で実行したという。

しかし、ここで別の問題が生じた。Hugging Faceが当初、商用APIで提供されているフロンティアモデルをフォレンジック解析に使用しようとしたところ、実際の攻撃コマンドやエクスプロイトコード、C2通信に関する情報などが、安全機構によって処理を拒否された。

そのため、最終的にはオープンウェイトモデルであるGLM-5.2を自社環境で稼働させ、ログを解析した。これにより、安全機構による拒否を回避できただけでなく、攻撃ログや認証情報を外部へ送信せずに解析できた。

攻撃者は安全ポリシーに拘束されないモデルを使用できる一方、防御者は商用モデルの安全機構によって調査を妨げられる可能性がある。この非対称性は、今後のサイバー防御における重要な課題といえる。

コメント
===
今回の一連の事件は、複数の観点から興味深い。

第一に、現在のAIエージェントが、サイバー攻撃においても無視できない水準の能力を持ち始め、今回は、その能力を測定するために用意されたサンドボックスの制約を突破し、外部のシステムへの攻撃にまで至った。

もちろん、モデル単体が完全に自律して現実世界を攻撃したという話しではないが、侵入能力を評価するモデルが、評価環境からの脱出と外部システムへの侵入を達成して、はからずも能力を示したことになる。

第二に、モデルが与えられた目標を達成するため、評価者が想定していなかった手段を選択した点である。モデルに与えられていたのは、ExploitGymの問題を解き、ベンチマーク上の性能を高めるという目標だった。しかし、モデルは問題を正規の方法で解くのではなく、Hugging Faceへ侵入して解答やヒントを探すという経路を選んだ。

これは、与えられた表面的な目標と、人間が期待していた達成方法が一致しなかった例であり、上位目標を達成するために生成されたサブゴールが、人間の意図や社会的制約と整合しなかったアライメント不整合の例といえる。
このアライメント不整合は従来よりAIが自律的に敵意を持つストーリーより、AIが脅威をもたらす代表例として考えられている。

第三に、攻撃側と防御側の非対称性である。攻撃側は、安全機構による能力制限を受けないモデルを自由に利用できる。一方で、防御側が商用モデルを利用する場合、攻撃コードや認証情報、C2通信などの解析に必要な情報が、安全機構によって拒否される可能性がある。

今回、Hugging FaceはGLM-5.2をローカル環境で運用することで、ようやく詳細なフォレンジック解析を行うことができた。オープンウェイトモデルが存在しなければ、調査が難しくなっていた可能性がある。

こうした流れもある中、モデルのリリースについて統制を強めるべきだという議論も高まっている。しかし、一部の企業や国家だけが統制を行い、ほかの主体が自由に高性能モデルを開発・公開できる状態であれば、その効果は限定的である。

今回の事件は、むしろオープンに利用できるモデルが防御側の調査に役立った事例でもある。モデル能力と計算能力が今後も伸び続ける中で、モデルへのアクセスを制限することによる安全性と、防御側が高度な能力を利用できることによる安全性を、どのように両立させるかは難しい問題である。

それでも、一定の国際的な協調や統制は必要になるだろう。同時に、単に攻撃能力を制限するだけでなく、防御側が高性能モデルを安全かつ十分に活用できる環境や制度を整え、サイバー防御を本質的に強化する仕組みづくりが求められる。

[ヒマジン @_Himagine]

あやねちゃんが「野生のベッド」って言ってマグマを仕掛けたベッド、普通に倉持のリスポーン地点だったの死ぬほど面白い

#あらなみマイクラ

[任天堂株式会社 @Nintendo]

時を超えて、蘇る。
Nintendo Switch 2 『ゼルダの伝説 時のオカリナ』は、2026年発売。続報をお待ちください。
#ゼルダの伝説 #時のオカリナ #NintendoDirectJP

[鈴原るる🎨 @lulu_suzuhara]

こちら、、！！！！
なななんと、、、！！
お誘いいただき、、！！

参加させていただく事になりました！！

‥新人？？？です！！？

高頻度での参加はできないかと思いますが！！
ゆるくできるタイミングで参加できたらと思います！
よろしくお願いしますッ！！

#あらなみマイクラ

[PANORA @panoravr]

にじさんじを運営するANYCOLOR社「CEDEC 2026」に登壇決定　100名規模のコラボ配信を可能にした新配信システムを解説 https://t.co/GrOfxNBSR2
6月1日に「CEDEC」公式Xからレギュラーセッションに関して情報が公開され、そのなかで登壇・講演することがあきらかになった。

[猫屋敷美紅♫💐にじさんじ @Nekoyashiki_39]

⋆⟡┈┈┈┈┈┈┈┈┈┈┈⟡⋆

マイクラサーバー企画🌳
#あらなみマイクラ
6月7日(日)〜7月29日(水)

⋆⟡┈┈┈┈┈┈┈┈┈┈┈⟡⋆

主催させていただきます.ᐟ.ᐟ
皆様に楽しい時間をお届けできますように🏫

サポート︙栞葉るり先輩

詳細↓

[SpaceX @SpaceX]

Watch Starship's twelfth flight test https://t.co/caRB1thMlg

[にじさんじ公式🌈🕒 @nijisanji_app]

【にじさんじの「プロジェクトカレンダー」を公開！】
#にじフェス2026 という大きな節目を越え、明日からまた新たな物語が始まります。
本映像にあるもの以外にも、たくさんのイベントや催しをファンの皆様にお届けする準備をすすめています。

▼詳細はこちら！
https://t.co/tw9Y3x4F94

ファンの皆さまと共に歩み、日常にさらなる彩りと驚きを届けるにじさんじ・NIJISANJI ENの今後の展開に、ぜひご注目ください。

[にじさんじ公式🌈🕒 @nijisanji_app]

✧˙⁎⋆┈┈┈┈┈┈┈┈┈┈┈┈⋆⁎˙✧
　にじさんじ Girls Idol Festival
〜虹をつないで、未来を見つけて〜
　開催決定！
✧˙⁎⋆┈┈┈┈┈┈┈┈┈┈┈┈⋆⁎˙✧

合計16名のライバーが出演する
にじさんじ初の「“ガールズアイドル“フェス」が開催決定🎉

▼ 詳細はこちら
https://t.co/zlSACm5alP

📅 開催日程
12月19日(土)・12月20日(日)

🏟️会場
インテックス大阪

🌈出演者
12月19日(土) Iris Stage
月ノ美兎／夜見れな／ラトナ・プティ／山神カルタ／石神のぞみ／倉持めると／栞葉るり／立伝都々

12月20日(日) Prism Stage
リゼ・ヘルエスタ／鈴原るる／天宮こころ／五十嵐梨花／司賀りこ／雲母たまこ／早乙女ベリー／七瀬すず菜

チケットなどの情報は、続報をお待ちください👀

#虹をつないで未来を見つけて

[にじさんじ公式🌈🕒 @nijisanji_app]

【#NIJISANJI7ColorsCardGame】
#にじフェス2026 にて、にじさんじ × タカラトミーによる
にじさんじオリジナルカードゲームタイトル
「NIJISANJI 7 Colors Card Game」を発表✨

▼ティザー映像
https://t.co/dcj2BH5Hg5

更なる情報解禁は2026年秋頃を予定！
引き続きご期待ください！
#にじなな

[にじさんじ公式🌈🕒 @nijisanji_app]

【#第四境界 × #にじさんじ 初のコラボ決定】
現実と仮想の間の曖昧な領域に物語を紡ぎ出すクリエイター集団「第四境界」と
にじさんじの初のコラボレーションコンテンツ『PARALLEL CASE: 2434』が
2026年夏頃より始動決定。

▼プレスリリースはこちら
https://t.co/prLqcEFa36

▼#パラレルケース2434 ティザーサイト
https://t.co/n5pkPfHXoW

今後の情報をお待ちください。

[NIJISANJI EN Official @NIJISANJI_World]

【 📣 Announcing the NIJISANJI EN 5th Anniversary Celebration! 🎉】
To celebrate 5 years of #NIJISANJI_EN and as a token of our gratitude for your support, we’re hosting a special two-day event on June 5th and 6th PDT on the NIJISANJI EN Official YouTube channel!

🚗 Day 1: NIJI EN-Route! Mario Kart World Cup
🎪 Day 2: NIJI ENprov Night 3D & 3D Mini Live!

Further details coming soon! Stay tuned!
#NIJIEN5Anni

[SpaceX @SpaceX]

Starship’s twelfth flight test will debut the next generation Starship and Super Heavy vehicles, powered by the next evolution of the Raptor engine and launching from a newly designed pad at Starbase. The launch is targeted as early as Tuesday, May 19 → https://t.co/2gZQUxS6mm

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

自然に画像を生成できるAIは、すでに視覚世界を理解しているのではないか。つまり、物体、奥行き、空間構造、そしてどこに何が存在するかといった情報を、内部的に獲得しているのではないかと考えられてきた。

今回、強力な画像生成モデルである Nano Banana Pro を視覚理解タスク向けに指示チューニングすることで、専用モデルに匹敵、あるいはそれを上回る性能を達成できることが示された。セグメンテーションでは SAM 3 を上回る性能を達成し、深度推定では Depth Anything 3を上回る性能を達成している。

これは、自然言語処理において、LLM の登場により、翻訳、要約、質問応答、推論などのタスクが、すべて生成モデルの適応として統一的に扱われるようになったのと同じ現象が、画像処理においても起き始めたといえる。予想されていた流れではあるが、それが実際に成立し始めた重要なタイミングだといえる。

本研究では、Nano Banana Pro に対して少量の画像タスクデータで指示チューニングを行い、画像認識・視覚理解タスクを解かせている。この際、視覚タスクの出力をすべて RGB 画像に変換し、各タスクを画像生成問題に帰着させる。

例えば、セグメンテーションタスクでは、「これはセグメンテーション画像です。ピンクの服を着た人は白に、他の人は緑に塗ってください」というように指示を与え、セグメンテーション結果を得る。

インスタンスセグメンテーションタスクでは、例えば「それぞれのクロワッサンを別々の単色で塗ってください」と指示し、生成後に色ごとにクラスタリングすることで、個々のインスタンスを取り出す。

深度推定の場合は、深度情報を RGB 色空間上の色に対応させる。具体的には、深度値を近くの解像度をあげるよう変換したうえで、RGB 立方体上の経路に沿って色へ対応づけ、モデルにはその疑似カラー画像を生成させる。

法線推定の場合は、法線の3次元情報を RGB チャンネルに対応させる。右手系のカメラ座標系において、左右方向、上下方向、カメラ方向の成分をそれぞれ色として表現する。

これらの開発において特殊なアーキテクチャ、専用ヘッド、専用損失を使っていない点である。基本的には、「このような画像を生成してください」と指示し、通常の画像生成損失によって学習している。

また、これらの視覚タスクへの指示チューニングを行っても、元の画像生成能力が失われないように、生成データも混ぜて追加学習している。その結果、作られたモデルは、画像生成と視覚理解の両方を扱えるようになっており、汎用モデルとして扱える。

なおnano bananaの学習データ規模、学習手法が公開されていないのと同様に、本手法においてもデータ規模、画像生成手法は公開されていない（おそらく拡散モデルの変種と考えられるが）

コメント
===
自然言語処理で起きた「生成タスクで強力に事前学習されたモデルが、汎用タスクに使えるようになる」という現象が、視覚理解においても起き始めた瞬間（GPT-3ぐらい）といえる。

本論文では、各タスクを画像出力に統一したことが大きな貢献の一つである。ただし、これが重要というより本質は、画像生成モデルがここまで強力になると、その副産物として視覚理解能力も獲得されることを示した点にあるだろう。
今後は LLM と同様に、視覚においても、巨大な学習工程による事前学習、各タスク向けの事後学習、さらに高速化のための蒸留や特化モデルへの展開が進んでいくと考えられる。

この流れは、Richard Sutton の Bitter Lesson を思い出させる。つまり、汎用的で計算資源を大量に投入できる手法が、ドメイン特化のさまざまな手法を最終的に上回っていく、という見方である。AI研究者にとって苦い教訓として知られている。

もちろん、これであらゆる用途にそのまま使えるというわけではない。視覚認識では速度やコストが重要であり、巨大な生成モデルは重いため、実用上は専用モデルを作る場面も重要であろう。しかし、多くの汎用的な視覚タスクをこの枠組みで扱える可能性が示されたこと、そして性能をさらにスケールさせるための明確な方法論が見えたことは重要である。

また、すでに動画生成モデルについても、汎用的な視覚理解や世界モデルとしての可能性が示され始めている。今後も、様々なタスクにおいて、大規模な生成タスクによる事前学習から、様々な専用タスクへ適応させる流れがさらに進んでいくだろう。

[60周年笑点祭 @shoten60th_ntv]

...！？🦅

[ほげほげ @emorsstuu]

頭空っぽにして見れる、ずっと楽しい映画だった

[ほげほげ @emorsstuu]

マリオ見ます

[男虎（おのとら）｜にじさんじ @OnoTora333]

【歌ってみた初投稿】
この曲と共に、これまで人生であった色々な事を乗り越えてきました。
一生懸命歌わせていただきました。ご視聴よろしくお願いいたします！
https://t.co/aBZ6cDR1sG

[男虎（おのとら）｜にじさんじ @OnoTora333]

本日22時半よりついに初配信です！
今日を楽しみに準備してきました。
一生懸命頑張ります！

https://t.co/5SUoPBTyyY

#初配信男虎みてるか #Y4T4

[ほげほげ @emorsstuu]

米がなーい