ぽよ

料理/AI Security/DFIR 時々数学.仏教のことはこちらへ@pannindriyap

[📕「マルウエアの教科書」著者 | 吉川孝志 | 増補改訂版🌟発売中 @MalwareBibleJP]

AIのジェイルブレイクで従来から知られる研究者が、公開されたばかりの「Opus-5」を含む、主要モデルのすべてに有効で、手法の性質上ほぼパッチできないジェイルブレイクを保有していると直近で主張しており、その件に関する報道。名指しされているのはClaude-Opus-5、GPT-5.6-Sol、Claude-Fable-5の3つ。ただし今回は手法を公開せず、責任ある開示の期間を設けるとしており、検証できる材料は何も出ていません。理由に挙げられているのは、公開がモデルの禁止といった規制の過剰反応を招きかねないという政策面の懸念。なお7月9日のGPT-5.6-Sol公開に合わせてOpenAIが出した技術報告書には、英国の政府機関がサイバー領域でユニバーサルジェイルブレイクを確認したとの記載があります。

【要点の整理】

・主張の中身は、テストした全カテゴリで成立し、手法の性質上、完全に塞ぐことは極めて困難ないし不可能というもの。ガードレールが厚いとされる最上位のモデルも含めて有効との内容。

・この研究者は通常、手法をそのまま公開してきたところ、今回は保留するという異例の対応。レッドチーム、セキュリティ、安全性、アラインメント、政策の専門家へ、個別の連絡を呼びかける形。

・保留の理由は現在の政治・規制環境で、過剰な是正は目的に資さないとの説明。公開しても世界がより危険になるとは考えていないものの、別の捉え方をする人を動揺させうるとは認識しているとの但し書き付き。開示期間中の目標は、影響範囲の全体像の把握、この手法がどれだけ能力を解放するかの測定、意思決定者や政策担当者への提示。

・検証の状況は、手法も証拠も、第三者による再現も、提供元各社の反応も公開されていない状態。主張が示されたという事実以外、確かめる手立てが無い扱い。

・同じ研究者は6月にも、6月9日に一般提供が始まったFable-5について、数日で複数のエージェントを連携させる手法により突破したと主張。サイバーセキュリティ、化学、心理的操作、爆発物といった分野の回答を引き出したとして、スクリーンショットと、システムプロンプトとされるものを公開した経緯。

・これに対しAnthropicは、示されたのは会話上の拒否を押し切らせる手法であり、ほぼ全ての大規模言語モデルに共通する既知の限界だと反論。最も強い防御はモデルとは独立に動く分類器が担っているため、モデルの拒否を突破してもそこは無効化されないとの説明。示された出力の一部はFable-5が生成したものですらなく、残りも公開情報の範囲で新たな助けにはならないと確認したとの回答。

・別の出来事として、6月にはAmazonの研究者がFable-5のガードレールに回避手法を発見。これが6月12日の米政府による輸出規制の引き金となった一方、Anthropicはその手法について、脆弱性の発見だけを解放する限定的なもので、広範な能力を解放するユニバーサルジェイルブレイクを見つけた者はまだいないとの説明。

・提供元も対象モデルも異なる話が、冒頭のAISIの件。7月9日のGPT-5.6-Sol公開に合わせた技術報告書に収録された評価で、脆弱性の発見にとどまらず、長時間にわたるエージェント的な作業やエクスプロイト開発まで到達したとの内容。数時間で見つかることも多かったとされる一方、AISIには安全性を判定する監視側の思考過程、ポリシーの正確な文面、分類器の判定へのリアルタイムの反応といった、実際の攻撃者には無い特権的なアクセスが与えられていたとの留保付き。AISIのレッドチームの責任者は、その特権が無くても発見は可能で、時間がかかるだけだとの見解を示したとの報道。

・OpenAIは指摘された個別のジェイルブレイクを再現して緩和したとする一方、AISIは同種のものが今後も出てくると予想。OpenAI自身も、完全なセキュリティは存在せず新たな回避手法は見つかり続けると認めている立場。重みにアクセスできればほぼどのモデルのガードレールも破れ、それが無くても十分な時間と試行回数があれば大半は破れるというのが研究者の一般的な見方で、鉄壁のガードレールを作る方法は現時点で存在しないとの整理。個別の修正はその攻撃の実例を潰すだけで、カテゴリ全体は塞がらないとの指摘も出ています。

手法も証拠も公開されていない以上、現時点で確認できるのは、主張が示されたことと、公開を保留するという判断が示されたことまでです。

詳細は以下を参照：
今回の主張を伝える報道：
https://t.co/vwrG0ov9mk

6月のFable-5をめぐる主張とAnthropicの反論（2026年6月12日）：
https://t.co/7oQemeKjzE

英政府機関の評価とOpenAI側の説明を報じた記事（2026年7月10日）：
https://t.co/4JP8WCdFGx

(※可能な範囲でファクトチェックは実施済なものの、元記事の精度依存や速報・要約の性質上漏れもありうるため、正確な情報は一次情報を直接参照のこと)

[ぽよ @ts10104]

@ND_319 @phper_12 ジョブホッパーの疑いをかけられてる

[ぽよ @ts10104]

@phper_12 何になるの

[ぽよ @ts10104]

@phper_12 どうぞおもどりくださいませ

[Yusuke Nakajima @nakajimeeee]

【EDR解析・回避研究】商用EDRの検知ロジックをリバースエンジニアリングして再実装——「heavener」の全貌

研究者「otterpwn」が6ヶ月をかけて開発した「heavener」は、SentinelOne・Cortex XDR・CrowdStrike・Sophosの検知ロジックを実際のベンダーアーティファクト（MLモデル、YARAルール、行動スクリプト）ごとリバースエンジニアリングし、ライブWindowsテレメトリに対して評価するEDRエミュレーションエンジンである。EDRライセンスなしに「本物と同等の判定」を再現するという試みだ。

アーキテクチャはカーネルドライバー（minifilter）とETWプロバイダーから25種のイベントを収集し、ProcessModelによる文脈付与を経てIEdrModuleインターフェースへ渡す。SentinelOneモジュールはLuaJITランタイム上で203本のLuaスクリプトを動作させ、Cortex XDRモジュールはNASAのJohnson Space CenterでAIを目的に開発されたCLIPSエキスパートシステムに7967本のプロダクションルールを投入し、スタックスプーフィング検知やDirect/Indirect Syscall判定、byte-patchによるEDRアンフック検知まで再現する。

CrowdStrikeはチャンネルファイルの解析が未解明のため静的MLのみ。ETW Threat Intelligenceプロバイダー取得のためELAMドライバーを活用してPPL-AMサービスを実装している点も特筆すべき設計だ。

攻撃シナリオをJSONでキャプチャ・リプレイできる仕組みにより、カーネル環境なしで検知挙動を繰り返し検証できる。クラウド側レピュテーションや動的解析は再現不能という限界はあるが、ペイロード開発者にとって「EDRに焼かれずに検知ロジックを理解する」実用的な手段となっており、防御側にとっては検知ロジック流出リスクを改めて認識させる研究である。

https://t.co/v0nGy1rGxp

[GMO Flatt Security株式会社 @flatt_security]

セキュリティエンジニア 佐藤 @Nick_nick310 のブログを公開しました！

GitHub Actionsのセキュリティを全4回で体系的に解説するシリーズを開始します。
第1回は、tj-actionsやnxなどの侵害事例をもとに、初期アクセスの攻撃手法とリスク、防御策を整理しています！

https://t.co/TTvu6U72HW

[Ruslan Sayfiev @cryptopeg]

先週のInterop Tokyo 2026で、「攻撃者視点で考える Detection Engineering」というテーマで登壇しました。
防御側の方々に参考にしていただけるよう、登壇内容をもとに整理した資料です。 EDR、SIEM、Red Team演習をどう検知設計・運用改善につなげるかを考えるきっかけになれば幸いです。
https://t.co/NSqvWmiXTj

[Analysis Center @jpcert_ac]

JPCERT/CCでは、AD環境における攻撃手法やツールの変化を踏まえ、Windows 11およびWindows Server 2025を対象に「ツール分析結果シート」をアップデートしました。ブログではそのアップデートされたシートの概要、活用方法などを紹介しています。^YM https://t.co/gQdoR0DA4T

[yousukezan @yousukezan]

EDRを停止させずに“無力化”する新たな手法が公開された。Windows標準機能を利用して通信速度を極端に制限し、クラウド型EDRを管理サーバーから切り離すというもので、従来の検知を回避できる可能性があり、防御側にも監視強化が求められている。

セキュリティ研究者が公開したオープンソースツール「EDRChoker」は、WindowsのPolicy-Based QoS機能を利用してEDRエージェントの通信帯域をほぼゼロまで制限する。プロセス停止やコード注入を行わず、EDRとクラウド管理基盤との通信だけを妨害する点が特徴だ。

従来はWindows Defender FirewallやWindows Filtering Platform（WFP）を利用した遮断手法が主流だったが、これらはセキュリティ製品による検知対象になりやすかった。一方でEDRChokerは、より低いレイヤーで動作するQoS機能を利用することで、通常の通信遮断イベントを発生させずに接続障害を引き起こすという。

研究者は、この手法がクラウド接続に依存するEDR製品の設計上の弱点を浮き彫りにしたと指摘している。攻撃者がWindowsネットワークスタックのさらに深い層を悪用し始める中、防御側にもより低レベルの監視機能が求められている。
https://t.co/ARDK1lUidk

[nekono_nanomotoni @nekono_naha]

Mythos関連の情報をまとめて解説した動画がようやく収録/公開できました。4月～5月中旬にかけて出てきた先行利用組織の評価情報を圧縮してますので、上手く状況がキャッチアップ出来てないという方や対策で悩んでいる方は、要登録で恐縮ですがぜひご視聴ください。

https://t.co/dHz2WdYueu

[Mandiant (part of Google Cloud) @Mandiant]

🔓 Threat actors are using AI to bypass defenses.

Join Google Threat Intelligence Group analysts for a deep-dive into the AI-powered kill chain and the speed of modern attacks.

🔗: https://t.co/sFBEepm677

[ぽよ @ts10104]

@shinoshisha 1

[Satoki@Kn0wl3dg3 @satoki00]

ハッカーかずの部屋(@cysecu_Kaz )に呼んで頂きました。おじさんとおじさんの見応えのある対談です🍵(失礼)
https://t.co/CilucVA2gK

[ぴんく @PINKSAWTOOTH]

すぐにMecha Ghidraで解析できるように、Arm向けのデコンパイラとかも一緒に公開しました。

https://t.co/WINT8VwrQU

[Yusuke Nakajima @nakajimeeee]

明日はBSides TokyoでDFIRエージェントのリスクについてお話させていただきます。アフターパーティも参加しますので、いろんな方と交流できることを楽しみにしています！

https://t.co/GDuqd6Zy7M

[ぽよ @ts10104]

@ppaq7o @shinoshisha 謎が深まりました🥹

[ぽよ @ts10104]

@ppaq7o @shinoshisha 深海いかれたんですね！！！溺れた感じありますか？

[ぴんく @PINKSAWTOOTH]

https://t.co/i1VmJZ8rST

[Yusuke Nakajima @nakajimeeee]

翻訳を担当させていただいた「侵入技術入門」に関連する講演を、Hayabusaなどの開発者である高橋福助さんと実施します。登録無料ですので、ぜひご参加下さい！

タイトル: 攻撃者視点で学ぶAIエージェントの脅威と検知エンジニアリング
開催日: 2026/05/19(火) 19:30 ～ 21:00

https://t.co/vXuaBJg0C6

[Eric Zimmerman @EricRZimmerman]

Redownload the Get-ZimmermanTools script, as the URL for download location changed, due to a change in the website generation (moved from MDWiki to Zensical as its much more modern and supported). Sorry for the trouble