茶木 孝晃｜AI × セキュリティ

AIセキュリティについて分かりやすく漫画で解説｜開発・インフラ歴9年｜外部CTO支援2社｜おさるAIマーケ講座アンバサダー

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

需要があるか分からないので募集してみます🙇‍♂️

事業者向けに
「AI・業務自動化診断」の無料モニターを募集します。

現在の業務をヒアリングさせていただき、

・どの業務に時間がかかっているのか
・どこが属人化しているのか
・AIや自動化を導入できるポイントはないか
・セキュリティ上の問題はないか

などを整理し、

改善できそうなポイントをご提案します。

私は開発・インフラ歴9年のエンジニアとして、
・AI導入支援
・業務自動化
・システム開発
・AIセキュリティ支援

を行っています。

AIツールの使い方を教えるというより、
「どこを改善すると一番効果が出るのか」
を一緒に整理するイメージです。

無料とはいえ、しっかりコミットしたいため、
初回は5社限定とさせていただきます。

応募多数の場合は、
事前アンケートの内容をもとに選定させていただきます。

ご興味のある方は、
ご興味のある方はプロフィールの公式LINE登録後、
「診断」と送信してください🙇‍♂️

※画像は過去の開発・導入支援実績の一部です。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

@mercarioji メルおじさん、ありがとうございます!
応募して頂いた企業様には120%の満足度を出せるように精一杯やります‼️

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

@mercarioji 頑張ります🔥

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

月1000万円の収益化はマジでヤバいですね😆

私もそれぐらいできるように頑張ります！！

[メルおじ | AI × X | FFFの民🐟 @mercarioji]

今年の3月まで貯金4万弱でしたが
月1000万円収益化できました！

おさるさん本当にありがとうございます😭

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

本当にその通りだと思います。

AI化で一番重要なのは、AIツールを導入することではなく、
「業務の棚卸」
だと思っています。

現状どんな業務があり、
誰が担当していて、
どこに時間が掛かっているのか。

これを整理しないままAIを導入しても、現場は混乱するだけです。

そしてもう一つ重要なのは、
「従業員が使えるかどうか」
です。

どれだけ社長がAI化を推進しても、実際に使うのは現場の従業員です。

現場が使いづらい。
運用が複雑。
入力が面倒。

こうなると結局誰も使わなくなります。

私もAIセキュリティ顧問や外部CTOとして企業支援を行う際は、

・業務の棚卸
・現場ヒアリング
・運用フローの確認
・セキュリティ面の確認

をかなり重視しています。

AI化の成功はツール選定ではなく、

「現場が無理なく使い続けられる仕組みを作れるか」

だと思っています。

[シュビヒロの三原だよ｜7月27日・28日 【シュビヒロAIの学校】開催 @miharatakuto]

AI初心者がゴミAIツールを作って
現場にいれても浸透せず、不満が高まるだけなので
手作業の業務をAIで効率化させるところから
始めないとダメです
AI化を進める前の土台固めからやりましょ

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

@ryukke 業務委託だったんですね
その当時のお話色々と聞かせてください！

オフ会の時に☺️

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

りゅうけんさん
CyberAgentの社員さんだったんですね

めっちゃ大手じゃないですか‼️
凄いですね👍️

[やまもとりゅうけん @ryukke]

@gaien_ さらにブスやったらよかったな、、

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

ある日突然、Googleにログインできなくなった。

Gmail、Drive、Meet
全部使えない。
Slack、Notion、Canva
「Googleでログイン」していたサービスが
全部、同時に使えなくなった。

原因は一つ。
AIが提案した自動化を、そのまま実行したことだった。
「AIに言われた通りにやっただけ」
それは、プラットフォームへの免責にならない。
何が起きたのか、全部解説しました。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

この考え方、かなり共感です。

AIは便利です。
でもAIは責任を取ってくれません。

私がAIセキュリティを発信している理由もここです。

AIは技術的に実現できる方法を提案します。
でも、

・利用規約に違反していないか
・情報漏洩しないか
・その自動化は本当に安全か

までは保証してくれません。

「AIが言ったからやった」

は事故が起きた時の免罪符にならない。

AI時代に必要なのは、
AIを使うスキルではなく、

AIの提案を判断するスキル。

AIに使われる側になるか、
AIを使う側になるか。

その差はどんどん大きくなると思っています。

[田港 勝利🪼中小企業のIT参謀 @mistea0]

ぶっちゃけると

「AIに聞けばPC環境とか教えてくれるし、勝手にやってくれるよ」

これ言う人が一番AIを使えていません。
我々AIコンサルが
「そうですね(ニッコリ)」
ってしたら見捨てられたと思って下さい

理由👇
チャットで「どうすればいい?」と相談するのと、それを鵜呑みにしてなすがままに指示に従う事は、まったくの別物。

前者は答えが間違ってても、
採用するか決めるのは人間。
→つまりAIを"使っている"

後者はAIに従って人間が操作している。
→つまり、AIに"使われている"

ここで多くの人が勘違いする。
「でもAIの方が詳しいじゃん」
確かにあなたよりは詳しいかもしれない。
問題は、その答えの良し悪しを判断できるか。

判断できない人がAIに聞いて環境いじるのは、「ATはアクセル踏めば進む」と無免許で車を運転している状態と同じ。

しかもAIはもっともらしく間違う。
明らかなバグなら気づける。
でも非推奨コマンドやバージョン不整合で組まれた「動くけど脆い環境」は、後日わけの分からん壊れ方をする。

そのとき、なすがまま勢は自力で直せない。

また「AIに聞く」しかない。
こうしてAIに"使われてる"ループにハマる。

実行権限 × 不可逆性 × (必要な技量 − 本人の技量)

「勝手にやってくれる」運用は、この3つを全部マックスにする。

権限フル、対象はシステム全体、本人の理解はゼロ

事故らない方が奇跡...

だから我々が
「そうですね(ニッコリ)」
って返したら、それは同意じゃない。

「この人は理解させても無駄だ」
という判定です。

AIに"使われてる"人は、
AIが賢くなるほど無能になる。

AIを"使ってる"人は、
AIが賢くなるほど強くなる。

「AIが教えてくれる」
「AIがやってくれる」
AIに使われる側の自己紹介。

コレ1度でも言ったことありますか？

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

@ishida_chatgpt 良いですね👍️
海外向けの事業展開できると強いですよね

AIを使えば、物販プラットフォームも簡単に作れるので最高ですね☺️

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

抹茶の事業だと
京都でカフェとかですかね？

それとも栽培の方てすか？

[いしだ＠AIチュートリアル AI × 開発 @ishida_chatgpt]

なんかお抹茶の事業したい

[コウ｜元社長秘書×LINE運用 @Kou_amn]

学び…👀✨

大切なのは「AIを導入すること」ではなく、その会社の課題解決に本当にAIが必要かどうかを見極めること。

つい「AIを使えば解決できる」と考えてしまいがちだけど、まずは課題や業務を整理することが先。

AIも課題解決のための選択肢の一つ。

AIありきではなく、

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

@Kou_amn いつもありがとうございます！
これからもタメになる内容発信していきますのでよろしくお願いします。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

有料プランでもデータ学習はON。
Memoryにはクライアント情報が蓄積する。
GPTsは設定ミスで外部公開になる。
AGENTS.mdにセキュリティルールを書いていない。
全部、ChatGPT固有のリスクです。
全部、今日5分で対処できます。
開発・インフラ歴9年の視点で整理しました。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

https://t.co/R23N4y2SXm

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

本来は、
業務棚卸
↓
業務改善
↓
DX
↓
AI活用

の順番だと思っています。

DXすらできていない状態でAIを導入しても、結局は非効率な業務フローをAIで無理やり回すだけになりがちです。

その結果、
・AIを入れたのに業務が楽にならない
・思ったより効果が出ない
・現場が混乱する

という話になります。

最近はAIブームもあって、
・Claudeを導入しましょう
・OpenAIを導入しましょう
・AIエージェントを作りましょう

という提案をよく見かけます。

ただ、私が気になっているのは、そこにセキュリティの視点が抜けているケースが非常に多いことです。

AIを導入するということは、
・どの情報をAIに渡すのか
・顧客情報は含まれていないか
・権限管理はどうするのか
・利用規約や法的リスクは問題ないか
・万が一の事故にどう対応するのか

まで考える必要があります。

しかし実際には、
「とりあえずAIを入れましょう」
で終わっている提案も少なくありません。

私はAIセキュリティ顧問として関わる際、まず業務の棚卸から行います。

そして、
「これはAI化するべき業務なのか」
を最初に考えます。

実際にAI化の相談をいただいても、
「その業務であればAIを使わなくてもシステム化で解決できます」

「kintoneやSalesforceで十分です」
「既存のSaaSを組み合わせた方が安全です」

と提案することも珍しくありません。

AIは万能ではありません。
AIはあくまでツールの一つです。

kintoneもSalesforceも社内システムもAIも、すべて課題解決のための選択肢です。

だからこそ本当の顧問やコンサルの役割は、
「AIを売ること」
ではなく、
「その会社にとって何が最適かを判断すること」
だと思っています。

DXも、AIも、セキュリティも。
全部まとめて考えて初めて、本当の意味で企業の成長につながるのではないでしょうか。

[Masaki Toda｜Lipple inc. @masaki_lipple]

IT化は、今ある業務をそのままデジタルに置き換えること。紙をExcelに、会議をZoomに。やることは変わらず、手段だけが変わる。

DXは、デジタルを前提に事業や組織のあり方そのものを作り直すこと。価値の届け方やビジネスモデル自体が変わる。

DXどころかIT化もまだまだな企業も多いから、AIの正しい導入って日本企業に浸透していかないんだろうな。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

このマンジャロの話を見ていて思うのは、

逸脱した使い方をする人が増える
↓
問題が起きる
↓
規制が厳しくなる
↓
本当に必要な人が不便になる

という流れは、いろいろな業界で繰り返されてきたことだなと思います。

本来、マンジャロは糖尿病で困っている方のための薬です。

もちろん自由診療そのものを否定するつもりはありませんが、本来の目的から外れた利用によって健康被害や社会問題が発生すると、結果として規制が強化され、本当に必要としている人まで影響を受けることになります。

実はAIも似た構造だと思っています。

AIは本来、
・生産性を向上させる
・新しい価値を生み出す
・学習や創作を支援する

とても素晴らしい技術です。

しかし一方で、
・利用規約を無視した大量自動化
・アカウントの共有や使い回し
・著作権を軽視した利用
・過度な煽りによるコンテンツ販売
・不安や焦りを利用した営業手法

など、本来の目的から外れた使い方も増えています。

コンテンツ販売も元々は、自分の経験や知識を必要な人へ届ける良い仕組みだったはずです。

しかし一部では、
「今買わないと損をする」
「人生が変わる」
「絶対に成功できる」

といった過度な煽りが行われ、トラブルになるケースも見かけます。

そして問題が大きくなると、プラットフォーム側は規制を強化します。

結果として、本来真面目に活動している人まで影響を受けることになります。

セキュリティの世界では、
「問題を起こすのは技術ではなく、その運用である」

という考え方があります。

AIも薬もお金も同じです。
問題なのは技術そのものではなく、それをどう使うかです。

便利だから使う。
儲かるから使う。
ではなく、

「本来何のために存在しているのか」
「ルールの中でどう活用するのか」

を考えることが大切なのだと思います。

一部の人の逸脱行為によって規制が強くなれば、最終的に困るのは真面目に利用している人たちです。

だからこそ私は、AIセキュリティも含めて「使えるか」だけではなく、「安全に、正しく使えるか」を考えることが重要だと思っています。

[ひろゆかない @hiroyukanai]

マンジャロを違法的に勝手に打って副作用出て保険診療で一般社会の人が払うっていやさすがにそれはないでしょ…ってひろゆきさんの言う通りすぎるんだけどなんかモヤモヤするよねこの議論。。。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

仕事も子育ても同じですが、
「育成」という観点で考えると、
ミスを完全になくそうとするよりも、
ミスから学べる環境を作る方が大切だと思っています。

人は失敗を経験しながら成長します。

もちろん、同じ失敗を何度も繰り返すのは問題ですが、「失敗するな」という空気が強くなりすぎると、挑戦しなくなり、結果として成長も止まってしまいます。

これはセキュリティも同じです。

セキュリティ事故や情報漏洩を100%防ぐことは現実的には不可能です。

だからこそ大切なのは、
「事故を絶対に起こさないこと」ではなく、「事故が起きても冷静に対応できる準備をしておくこと」だと思っています。

事前にルールを整備し、権限管理を行い、バックアップやインシデント対応手順を用意しておく。

そうすることで、万が一のときも焦らず冷静な判断ができます。

人も組織も、常に最高のパフォーマンスを発揮するためには、「失敗を責める文化」ではなく、「失敗を前提に備える文化」が重要なのではないでしょうか。

[やまもとりゅうけん @ryukke]

「こわい上司」になっちゃうと、従業員が「ミスしないこと」ばかりにリソース取られてスキルをアップデートしなくなるので、組織が中の下の下みたいな連中の集まりになります。なんなら萎縮して本来のパフォーマンスも発揮できないのでミスも増えます。

[茶木 孝晃｜AI × セキュリティ @ai_security_CT]

ChatGPTのアカウントBANが多発しているようですが、原因として
①性的・扇情的なコンテンツ
②暴力的なコンテンツ
③投資・副業・稼げる系コンテンツ
④未成年が絡むコンテンツ

などの画像生成を連想する方も多いかもしれません。

もちろん、それらが原因となるケースもあります。

ただ、私個人としては別の観点もあるのではないかと思っています。

特に多いのは、
・アカウントの共有・使い回し
・ブラウザ操作を伴う自動化ツールによる大量利用
・画像生成などを自動で繰り返し実行する運用（スクレイピングや自動操作含む）

このあたりです。
自動化は非常に便利です。
しかし、自動化を行うということは、その分だけChatGPTやClaudeなどのAIサービスに継続的な負荷を掛けることにもなります。

サービス提供側からすると、1人のユーザーが想定以上のリソースを占有する状態は好ましくありません。

そのため、今は問題なくても、過度な自動化や大量利用については、今後より厳しく監視・制限される可能性は十分あると思っています。

また、セキュリティの観点でも注意が必要です。
自動化を進めるほど、
・APIキーの管理
・認証情報の管理
・MCPや外部ツールへの権限付与
・個人情報や機密情報の取り扱い
といったリスクも増えていきます。

AI活用は「自動化できるか」だけでなく、「安全に運用できるか」まで考えることが重要です。

実際のBAN理由はOpenAI側にしか分かりませんが、私としてはMCPそのものよりも、こうした運用面や利用形態が影響しているケースの方が多いのではないかと感じています。

インフラ・開発を9年間やってきた立場からすると、便利だから使うではなく、利用規約・セキュリティ・運用リスクまで含めて設計する時代に入っていくんだろうなと思います！

[なまいきくん @1namaiki]

いや、嘘やろ？ChatGPTに凍結とかあんの？

これはマジで萎える。もう直近3年で1番萎えてる、、、俺が育ててきたチャッピーが、、、年間10億以上の損失が確定した、、、