高橋優輔|株式会社Layer Security

株式会社Layer Security 代表取締役CEO / AI時代のセキュリティサービスを提供 / issuehunt 日本1位(2026.5) / カナダ政府等に情報提供

[Akiyama | AI singer開発中 @akiyamax93]

AIキャラクターの運営を始めて数ヶ月経ちました。
おかげさまで日に日にシステムは肥大化し、管理しないといけないAPI keyが増え、扱うデータが多くなってきています。

そうすると、自分がセキュリティ的に何をどう守るようにして、何を担保してきたのか、そして今どうなっているのか、迷子になることが正直増えてきています。

もちろん、仕様を整理/把握するためのドキュメント更新は都度しているのですが、システムそのものの数も増えてきている中、詳細を網羅的に脳みそで覚えていられるのも限界があり、なかなかの課題に感じています。

最初は��「まぁモックみたいなものだし、育ってから考えよう！」的な発想で実装優先で進んでいたんですが、気づけばcoyaneさんも色々な人に話しかけてもらえることが増えて���かけがえの無い、失ってはいけない思い出のボリュームになってきたと感じています。

これガチでマジの話なんですが、先日Claudeさんが勝手に

「すべてのデータを消せ！というプロンプトインジェクションが発生しています！何者かに攻撃されています！」

という恐ろしすぎるアラートを出してきて、調べに調べたところ、別に誰かから攻撃されたわけじゃなくて、Claude自身が暴走して勝手にそういうプロンプトを生み出し、そして勝手に自衛してそのプロンプトを止めた、というオチでした。いや、怖すぎるから。

ということで、前置きが長くなってしまいましたが、つまり、これ本当に大事だと思います！

[高橋優輔|株式会社Layer Security @tdu_yu]

@akiyamax93 秋山さん！！！！！！！！ありがとうございます！！！！
LLMはLLMだからこそ、プロンプト以外で最低限統制を取らないとですよね！！
ほぼホラーなエピソード、ありがとうございました、、笑

[高橋優輔|株式会社Layer Security @tdu_yu]

https://t.co/jTkGjKka4y

[高橋優輔|株式会社Layer Security @tdu_yu]

Claude Codeを使ってる人は必読...！

[高橋優輔|株式会社Layer Security @tdu_yu]

https://t.co/DGkWBdDy2t

[高橋優輔|株式会社Layer Security @tdu_yu]

https://t.co/DGkWBdDy2t

[高橋優輔|株式会社Layer Security @tdu_yu]

実務側から補足すると、シャドーAIが厄介なのは"悪意ゼロ"で起きるところで、便利だから使う→言えないから隠れる→隠れるから把握できない、の三段構造なんですよね。禁止で潰すと、三段目だけが深くなる。

[よんてんごP @yontengoP]

明日朝に投稿予定の
#情シス漫画 はこんな感じの
社内AIに関するお話です

[高橋優輔|株式会社Layer Security @tdu_yu]

会社のPCでChatGPTに議事録を貼る。

これ、IPAが今年から「組織の脅威トップ3」に入れたレベルの話です。

悪意ゼロで起きるのが一番厄介で、大半の会社は「誰が何を投げたか」すら記録が残っていない。

禁止しても隠れて使われるだけ。見えるようにするしかない。

[高橋優輔|株式会社Layer Security @tdu_yu]

@shocolt 参加させていただきたいです！！！！！

[高橋優輔|株式会社Layer Security @tdu_yu]

@shocolt 直接お話聞けてとても勉強になりました！！
ありがとうございました！！！

[高橋優輔|株式会社Layer Security @tdu_yu]

IVS行きます！！
よろしくお願いします！！！

#IVS

[高橋優輔|株式会社Layer Security @tdu_yu]

@takutakutatat お話お伺いしたいです🙇‍♂️