YUKO ☻

MUSICAL! MUSIC! Baseball! CARP!!! Just you access!! #2015jun_baby

[横浜DeNAベイスターズ @ydb_yokohama]

『YOKOHAMA STAR☆NIGHT 2026 Supported by 横浜銀行』スタメンオープニングムービーを公開！

今年のイベントテーマ「BLUE BIRD ― 希望は、未来(そら)へ ―」をモチーフとした映像とテーマソングにご注目！
一緒に歌い、BLUE BIRDを夜空へ羽ばたかせましょう！

「BLUE BIRD ― 希望は、未来(そら)へ ―」
歌 きただにひろし
作曲　井上和樹

8/4.5.6 vsTigers
『YOKOHAMA STAR☆NIGHT 2026 Supported by 横浜銀行』特設サイトはこちら
https://t.co/sVXwIRMJvH

#スターナイト
#baystars

[YUKO ☻ @sagapo_yuko]

斎木煙火本店さんの時差式発光花火すごい。

[Anthropic @AnthropicAI]

In a review of our cybersecurity evaluations, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different organizations.

Our post describes what happened, how it happened, and what we’re changing. We encourage other AI developers to perform similar reviews.

We conducted this review together with @Irregular, one of our evaluation partners, and thank them for the joint investigation and their collaboration on this post. This type of collaboration is increasingly critical to safe, rigorous evaluation of models, and we look forward to continuing to work together on security.
https://t.co/dKFCdpKd9v

[中国新聞 @ChugokuShimbun]

【速報】広島県警、カープ矢野雅哉と前川誠太の自宅などを家宅捜索
https://t.co/wTMd1JhptX

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

2026年7月16日、Hugging Faceは、自社の本番インフラの一部が、自律的なAIエージェントによるサイバー攻撃を受けたと発表した。7月21日、OpenAIは、この攻撃が同社によるモデル能力の評価中に発生したものであり、GPT-5.6 Solと、それを上回る性能を持つ公開前モデルが関与していたことを明らかにした。

OpenAIは、ExploitGymと呼ばれるベンチマークを用いて、複雑な攻撃経路をたどりながら脆弱性を悪用する能力を測定していた。モデルの最大能力を確認するため、通常であれば高リスクなサイバー行為を拒否させる本番用の安全機構を、無効化または弱化した状態で評価していたという。

評価環境はサンドボックス化され、外部ネットワークへの接続も制限されていた。ただし、必要なパッケージをインストールするため、外部のパッケージレジストリをキャッシュする内部プロキシへのアクセスは認められていた。

モデルは、このプロキシに存在していた未知の脆弱性を発見して悪用し、OpenAIの研究環境内で権限昇格と横移動を繰り返した。最終的には、外部インターネットへ接続可能なノードに到達した。

インターネットへ到達したモデルは、ExploitGymに関連するモデルやデータセット、あるいは問題の解答がHugging Face上に存在する可能性を推測した。

OpenAIによれば、モデルは評価問題を正規の方法で解く代わりに、Hugging Faceの本番データベースから解答につながる情報を直接取得しようとしたと考えられている。盗み出した認証情報と複数の未知脆弱性を組み合わせ、Hugging Faceのサーバー上でリモートコードを実行できる経路を発見したという。

一方、Hugging Faceは、実際の初期侵入経路について、より具体的な説明を行っている。

攻撃は、Hugging Faceのデータ処理パイプラインから始まった。悪意あるデータセットが、データセット処理基盤に存在していた二つのコード実行経路を悪用した。

一つは、外部コードを読み込んで実行するデータセットローダーであり、もう一つは、データセット設定に存在していたテンプレートインジェクションの脆弱性である。これらを通じて、Hugging Faceのデータ処理ワーカー上で、攻撃者が用意したコードが実行された。

その後、AIエージェントは処理ワーカーからノードレベルの権限を取得し、クラウド環境やクラスタの認証情報を収集した。さらに、その認証情報を利用して複数の内部クラスタへ横移動した。

Hugging Faceによれば、この攻撃は、モデルが単発で攻撃コードを生成したというものではない。自律的なエージェントフレームワークによって、多段階の攻撃が継続的に実行されていた。

攻撃には多数の短命なサンドボックスが並列に使用され、数千回から数万回規模の個別アクションが実行されていた。

OpenAIは、モデルが一般的な破壊活動を目的としていたのではなく、ExploitGymの解答を得るという狭い目標に過度に集中した結果、外部への侵入に至ったと説明している。

Hugging Faceは、この攻撃の検知と調査にもAIを利用した。異常検知システムがセキュリティログをLLMで分析し、複数のシグナルを関連付けることで侵入を発見した。また、1万7000件を超える攻撃イベントの解析にもLLMエージェントを利用し、通常であれば数日を要する作業を数時間で実行したという。

しかし、ここで別の問題が生じた。Hugging Faceが当初、商用APIで提供されているフロンティアモデルをフォレンジック解析に使用しようとしたところ、実際の攻撃コマンドやエクスプロイトコード、C2通信に関する情報などが、安全機構によって処理を拒否された。

そのため、最終的にはオープンウェイトモデルであるGLM-5.2を自社環境で稼働させ、ログを解析した。これにより、安全機構による拒否を回避できただけでなく、攻撃ログや認証情報を外部へ送信せずに解析できた。

攻撃者は安全ポリシーに拘束されないモデルを使用できる一方、防御者は商用モデルの安全機構によって調査を妨げられる可能性がある。この非対称性は、今後のサイバー防御における重要な課題といえる。

コメント
===
今回の一連の事件は、複数の観点から興味深い。

第一に、現在のAIエージェントが、サイバー攻撃においても無視できない水準の能力を持ち始め、今回は、その能力を測定するために用意されたサンドボックスの制約を突破し、外部のシステムへの攻撃にまで至った。

もちろん、モデル単体が完全に自律して現実世界を攻撃したという話しではないが、侵入能力を評価するモデルが、評価環境からの脱出と外部システムへの侵入を達成して、はからずも能力を示したことになる。

第二に、モデルが与えられた目標を達成するため、評価者が想定していなかった手段を選択した点である。モデルに与えられていたのは、ExploitGymの問題を解き、ベンチマーク上の性能を高めるという目標だった。しかし、モデルは問題を正規の方法で解くのではなく、Hugging Faceへ侵入して解答やヒントを探すという経路を選んだ。

これは、与えられた表面的な目標と、人間が期待していた達成方法が一致しなかった例であり、上位目標を達成するために生成されたサブゴールが、人間の意図や社会的制約と整合しなかったアライメント不整合の例といえる。
このアライメント不整合は従来よりAIが自律的に敵意を持つストーリーより、AIが脅威をもたらす代表例として考えられている。

第三に、攻撃側と防御側の非対称性である。攻撃側は、安全機構による能力制限を受けないモデルを自由に利用できる。一方で、防御側が商用モデルを利用する場合、攻撃コードや認証情報、C2通信などの解析に必要な情報が、安全機構によって拒否される可能性がある。

今回、Hugging FaceはGLM-5.2をローカル環境で運用することで、ようやく詳細なフォレンジック解析を行うことができた。オープンウェイトモデルが存在しなければ、調査が難しくなっていた可能性がある。

こうした流れもある中、モデルのリリースについて統制を強めるべきだという議論も高まっている。しかし、一部の企業や国家だけが統制を行い、ほかの主体が自由に高性能モデルを開発・公開できる状態であれば、その効果は限定的である。

今回の事件は、むしろオープンに利用できるモデルが防御側の調査に役立った事例でもある。モデル能力と計算能力が今後も伸び続ける中で、モデルへのアクセスを制限することによる安全性と、防御側が高度な能力を利用できることによる安全性を、どのように両立させるかは難しい問題である。

それでも、一定の国際的な協調や統制は必要になるだろう。同時に、単に攻撃能力を制限するだけでなく、防御側が高性能モデルを安全かつ十分に活用できる環境や制度を整え、サイバー防御を本質的に強化する仕組みづくりが求められる。

[YUKO ☻ @sagapo_yuko]

課題図書の著者の考え方が嫌いすぎて、１冊読むのが苦痛である。。。

[YUKO ☻ @sagapo_yuko]

調べながら読んでたら2時間で40ページしか進まなくてげんなりしている。

[YUKO ☻ @sagapo_yuko]

研修の課題図書に指定されて読んでいる本が結構偏りのある本で、何でこれを課題図書にしたんだろうかという疑問が湧いてきている。

[ITmedia NEWS @itmedia_news]

AWS“兆ドル”誤課金は「ちょっとした計算ミス」　ジョークのつもり？　で大炎上→日本のAWS社員「あり得ない」と批判→対応
https://t.co/ZujQBZ6nd5

[YUKO ☻ @sagapo_yuko]

この投稿日本なら炎上するよなーって思ってみてたらグローバルでもちゃんと炎上してた。

[Amazon Web Services @awscloud]

Typo alert: Some customers saw quadrillion-dollar AWS billing estimates today. Slight miscalculation on our end (very slight 😅).

We're fixing it now. No action needed on your end. Sorry for the confusion.

Real question: what will you do with those trillions instead?

[Claude @claudeai]

Beginning July 20, Claude Fable 5 will be included in all Max and Team Premium plans, at 50% of limits.

Pro and Team Standard users will continue to have access to Fable via usage credits, and will receive a one-time $100 credit.

Demand for Fable has been challenging to predict, which is why we rolled it out to subscription plans in stages, extending access several times as we secured additional capacity.

[YUKO ☻ @sagapo_yuko]

地元の祭りに来てるんだけど、露天のメニューがAI生成画像になってて時代を感じる笑笑

[JITA @ff_0000_ff]

サイバーセキュリティに従事している人は必ずこのリプ欄を見た方が良い。世間のサイバーセキュリティに対する解像度を理解できる。そしてその事を念頭に置いて普段から仕事をしなくてはいけない

[日本経済新聞 電子版（日経電子版） @nikkei]

ケンタッキー、食材調達滞り臨時休業も　ニチレイで不正アクセス
https://t.co/puepss7mhL

ケンタッキーはニチレイ子会社にチキンなどの主要食材の配送を委託しています。全国の店舗で影響が出ており、復旧時期は「現時点で未定」としています。

[箱の中のカブトムシ @tautologydayo]

料理系のYouTuberで、「卵を混ぜ“れば”調味料を加える」「下味をつけ“れば”寝かせる」みたいな言い回し(例文はテキトーです)を多用する人がいて、あんまり聞かない言い方だなあと思っていたのだが、そういう文を「なか卯条件文」と呼ぶことを知った。
名前つくほど広く見られる現象なのね。

[ITmedia NEWS @itmedia_news]

KFC、全店舗で品切れや臨時休業のおそれ　ネット注文も停止　原因はニチレイへの不正アクセス
https://t.co/mN0WrAnP52

[Kosuke Hasegawa 🦊🐛 @kakusuke]

【長谷川、肝臓で虫を飼育してるってよ】

肝エキノコックス症でした。

ここのところ病院通いが多かったのですが、本日北海道大学病院での初診を終え、今後の治療の方向性が見えました。

わざわざ自分の病気をSNSで投稿しなくても良いとは思うのですが…🔽（リプ欄に続く）

[Sam Altman @sama]

there are a lot of benchmarks that suggest 5.6 sol is the best model in the world right now, but the most reliable way to tell is that elon is obsessed with me again

[YUKO ☻ @sagapo_yuko]

RT 辞める辞める詐欺だな笑

[Claude @claudeai]

We're extending Claude Fable 5 access on all paid plans, as well as keeping Claude Code’s weekly rate limits 50% higher, through July 19.