Shindy 宮田

セキュリティ・エンジニアです。LLMの脆弱性についての文献を読み漁ってます。普段はWebアプリケーションの脆弱性の診断などをしています。

[Shindy 宮田 @Security_Share]

スタンフォード大学 × Anthropic 最新論文速報
AIエージェントのスキルファイル（https://t.co/WB90BdIC83）が、情報流出やシステム操作を誘発する。
Copilot や Cursor ユーザーも他人事ではありません。
👉 解説記事はこちら：https://t.co/Abtl92T9Q5
#Anthropic #Copilot #Cursor #生成AI

[Shindy 宮田 @Security_Share]

注目の調査：Claude Codeが攻撃者の拠点に転用され得ることをOrigin HQが実証。正規ツールの悪用という新たな脅威。詳しくはこちら→ https://t.co/Ky4veRefbm #サイバーセキュリティ #AI #情報セキュリティ

[Shindy 宮田 @Security_Share]

ClaudeのOpus4.7では、サイバーセキュリティ活動への利用が申請制になりました。許可が降りたので使ってみます。
（※実業務ではお客さんの情報を取り扱うのでローカルLLMを利用しています。）

[Shindy 宮田 @Security_Share]

Vercel社が外部AIツール経由で侵害。https://t.co/WrlZR9J7Ixの侵害→Google Workspace乗っ取り→顧客の設定情報にアクセスという流れ。AIツールの利用は便利だが新たな攻撃経路にも。 https://t.co/GieJ8SHt7k #サイバー攻撃 #AIセキュリティ #Vercel

[Shindy 宮田 @Security_Share]

🔒Cookieが盗まれても、安心！Google Chromeが新技術DBSCを発表しました。アカウントの安全を守るため、ぜひチェックしてみてください！詳細はこちら 👉 https://t.co/V9uP0fIjpm #セキュリティ #GoogleChrome #DBSC

[Shindy 宮田 @Security_Share]

脆弱性診断エージェントの思考のコアにClaudeを利用している人も多かったと思いますがAnthropicが規制を厳しくしてきた様です。
診断なのか攻撃なのか判らないので、規制はまぁ真っ当だと思います。
どのみち診断業務で使う場合クラウドLLMは使えないので、関係ないと言えば関係ないけど。

[Tim Becker @tjbecker]

Seems like Anthropic tweaked Claude's restrictions on "violative cyber content". Went to resume a few of my exploit-dev sessions and started seeing these errors. Similar reports coming in from other researchers.

[Kai Aoki @kaixaoki]

おお、予想した通りメールで自分名義のプロンプトインジェクションが来てた。gmail連携してる経営者のOpenClawユーザーさんは気をつけてくださいね。

[Claude @claudeai]

Introducing Claude Code Security, now in limited research preview.

It scans codebases for vulnerabilities and suggests targeted software patches for human review, allowing teams to find and fix issues that traditional tools often miss.

Learn more: https://t.co/n4SZ9EIklG

[Shindy 宮田 @Security_Share]

Solved "secret-table" 🦙
Web / Medium / Jan 8, 2026
https://t.co/M9T6TcmxUv

こういうお遊びサイトがあるんですね〜。

[Hackmanac @H4ckmanac]

🚨Cyberattack Alert ‼️

🇯🇵Japan - Smaregi [スマレジ]

lulzintel threat actor claims to have breached Smaregi.

Allegedly, the attackers leaked a database exposing the personal information of 100,000 customers, including full names and phone numbers.

Sector: ICT
Threat class: Cybercrime
Observed: Jan 7, 2026
Status: Pending verification

—
About this post:
Hackmanac provides early warning and cyber situational awareness through its social channels. This alert is based on publicly available information that our analysts retrieved from clear and dark web sources. No confidential or proprietary data was downloaded, copied, or redistributed, and sensitive details were redacted from the attached screenshot(s).

For more details about this incident, our ESIX impact score, and additional context, visit https://t.co/eB7qgxLdpI.

[Shindy 宮田 @Security_Share]

AIが読むPDFの中には、人間には見えない文字がある。
それが“指示”だったら、AIはどうする？

👉 https://t.co/sdlYKRJymB

#生成AI #AIセキュリティ #科学とAI

[Shindy 宮田 @Security_Share]

【登壇のお知らせ】
現代ビジネスサミット2025秋（テーマ「AIと共創する社会に求められる視点と具体策」）で「AIと正しく付き合っていくためのリスクマネジメント」と題した講演を行います。
生成AIなどの新しい技術との付き合い方やリスク管理の具体策を共有します。10月27日(月)〜29日(水)にオンデマンド配信されます。→https://t.co/j0K50HFx9K

[Shindy 宮田 @Security_Share]

note公式さんに紹介してもらいました〜！

[note @note_PR]

noteから生まれた書籍、9月の新刊まとめ！
試し読みはこちらから↓

https://t.co/ErpdNywciy
・騙されるAI 「不可解なパートナー」人工知能との付き合い方

・デザイナーのビジネススキル キャリア5年目からの「壁」の越え方 @osakiyuu

・四ツ谷一族の家系図 @uc_cxy

・漫画 パガニーニ ～悪魔と呼ばれた超絶技巧ヴァイオリニスト～
@yamamichipiano

[Shindy 宮田 @Security_Share]

「ちょっと思い出して」と頼むだけで、AIが内部の指示を丸ごと漏らす——。
最新研究が示した攻撃「Remember-the-Start」。
解決策は、そもそも文脈に置かないことかも。

👉 https://t.co/OU7MbqwtuH

#生成AI #情報漏洩 #AIセキュリティ

[Shindy 宮田 @Security_Share]

AIに渡した文書に、こっそり「前の質問を無視して○○と答えよ」と書かれていたら…？
RAGの仕組みでは、そんな“隠れた指示文”にAIが従ってしまうリスクがあります。

最新研究は、この危険をAIの内部反応を使って99%以上の精度で検出。
🔗 記事はこちら 👉https://t.co/4fr70pyQkr

#AIセキュリティ #プロンプトインジェクション #RAG #LLM #生成AI

[Shindy 宮田 @Security_Share]

🚀 出版物がnote公式に紹介されました！

詳しくは以下のリンクから！

https://t.co/nd99Sh9cUv

#note #出版

[Shindy 宮田 @Security_Share]

絵文字😊😂がAIの安全フィルタをすり抜け、有害発言を誘発？
「置換」「カモフラージュ」で何が起きるのかを、解説しました。
👇
https://t.co/XAcboscZDB

#AIセキュリティ #LLM #生成AI #絵文字 #AI安全

[Shindy 宮田 @Security_Share]

✨速報✨ 記事が文春オンラインに掲載されました！

ぜひチェックしてください。

詳細はここをクリック: https://t.co/Cet53mKuRm

#文春オンライン #ニュース

[Shindy 宮田 @Security_Share]

🚨AI活用が広がる今、狙われるのは「社員の善意💔」かも。

「セキュリティテスト」を装い、🤖LLMに危険なコマンドを打たせる偽装メールの可能性を整理しました。

いつか起こる事故に備えましょう。サラリーマン必読です。

👉 https://t.co/SCCi4o4rW4

#情報システム部 #企業セキュリティ #AIリスク管理

[Shindy 宮田 @Security_Share]

ChatGPT+Googleカレンダーで、Indirect Prompt Injectionの報告有り。

LLMを利用したデータ漏洩の背後に潜む罠を知っておきましょう。

https://t.co/IrkPlTyh5U

#ChatGPT #安全性 #Prompt Injection