Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家

施設育ち、異端のフルスタックエンジニア / ダークウェブ研究家。
📺『Mr.都市伝説 関暁夫の裏都市伝説』に出演
💻ネットの闇、AIの実装
🐳子供を守るプロジェクト推進
▶️

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

本日、「タテドラ」にて、『Mr.都市伝説 関暁夫の裏都市伝説』の私が出演する回が配信開始されました！

専門家として、ダークウェブの冷酷な現実について、憧れの関暁夫さんとガッツリ語り合っています。

スマホでサクッと、かつディープな世界を体験できるので、ぜひアプリをダウンロードしてご覧ください！

https://t.co/w71fLE2E4b

#タテドラ #関暁夫 #ダークウェブ

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@THBAN250235 あり得ると思います

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

・アメリカの裁判所が昨日Metaに命じた制裁金：約4兆円
・さらに上乗せされる利息：年15%
・理由：「個人情報の扱いについてユーザーに嘘の説明をしていたから」
・一方、1ヶ月で1億件の個人情報を漏らした日本企業への制裁金：ほぼ0円（謝罪文のみ）

昨日、アメリカのニューメキシコ州の裁判所が、個人情報の保護をめぐってMetaに「約4兆円」という史上最大級の支払いを命じました。

「なぜ日本企業ばかり、こんなに簡単に個人情報を漏らすのか？」と不思議に思う人もいるかもしれないけど、理由はシンプルです。

海外では、ユーザーのデータを雑に扱って漏洩させれば「会社が吹き飛ぶレベルの罰金」が科されます。だから経営者は必死でお金をかけてセキュリティを固めます。
でも日本にはそのペナルティが事実上ないから、「対策にお金をかけるより、漏れた後に謝る方が安い」という計算が成り立ってしまう。

「謝ればタダで済む国」にあるあなたの個人情報が、本気で守られる日が来ると思いますか？

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@karin_040322 いつ自分の身に起きてもおかしくない、という前提で構えておく、万一に備えておくことが重要ですよね

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

一応言っておくのですが、特定の国や企業を批判する意図はありません。
ただ事実を共有し、これを目にした人たちに考えるきっかけを提供したいと思ってポストしています。

技術そのものに善悪はありません。 どのツールもどう使うかは、使う人間次第です。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

いま日本の情報漏洩ラッシュの裏で猛威を振るうAIエージェント「ARTEX」の正体。

・出自：中国の検索最大手「Baidu」のAI攻防大会で優勝したシステム
・公開：今年7月、開発者が「企業の弱点点検用」としてGitHubに無料公開
・暴走：韓国の金融機関9行へのハッキングに悪用され、開発者が10月9日に公開を緊急停止
・現在：すでに世界中で「6,000回以上」複製され、日本企業への一斉攻撃に使用←New

GMOイエラエの最新調査によると、日本企業を狙った攻撃サーバーからは、このARTEXと、私たちが普段開発で使っている「Claude Code」を組み合わせて全自動で穴を探していた履歴が見つかりました。

「危険なAIなら、開発者が止めれば終わる」と思う人もいるかもしれないけど、オープンソースの世界は一度放たれたら二度と回収できません。

開発者自身が「悪用された」と気づいて公式ページを閉鎖したときには、すでに何千人もの手にコピーが渡っていました。

誰でも無料で「大会優勝レベルの自動ハッキングAI」を動かせる時代に、日本の古いセキュリティが耐えられると思いますか？

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@sekaijosei 本来はそれくらい慎重に進めるべきでしたよね。
仰る通り、どの国も直面する問題なので、世界で足並みを揃えないといけませんよね。
ただ、今からこの流れに逆行するのは難しいので、この先どうなるのか...

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

いま日本の情報漏洩ラッシュの裏で猛威を振るうAIエージェント「ARTEX」の正体。

・出自：中国の検索最大手「Baidu」のAI攻防大会で優勝したシステム
・公開：今年7月、開発者が「企業の弱点点検用」としてGitHubに無料公開
・暴走：韓国の金融機関9行へのハッキングに悪用され、開発者が10月9日に公開を緊急停止
・現在：すでに世界中で「6,000回以上」複製され、日本企業への一斉攻撃に使用←New

GMOイエラエの最新調査によると、日本企業を狙った攻撃サーバーからは、このARTEXと、私たちが普段開発で使っている「Claude Code」を組み合わせて全自動で穴を探していた履歴が見つかりました。

「危険なAIなら、開発者が止めれば終わる」と思う人もいるかもしれないけど、オープンソースの世界は一度放たれたら二度と回収できません。

開発者自身が「悪用された」と気づいて公式ページを閉鎖したときには、すでに何千人もの手にコピーが渡っていました。

誰でも無料で「大会優勝レベルの自動ハッキングAI」を動かせる時代に、日本の古いセキュリティが耐えられると思いますか？

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@n_petton その発想はなかったですが、真面目にアリと思いました。
日本の人口を超える件数が漏洩してるわけですから...

[Ajin @aj1n]

悲しいけど、サマーウォーズの世界の悪い方の面が現実になってきた感。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

実際のところ、私にも分かりません。
数年前から、AIによってサイバー攻撃が加速して日本が食い荒らされる今の事態は予見できていましたが、この先どうなるのかは正直分からないです。

多要素認証を取り入れる、とか、パスワードの使い回しをやめる、とか基本的な啓発を行なってきましたが、もうそんなレベルでもないのかもしれません。
自分の個人情報も悪い連中に知られているのが「当たり前」の前提で構えておいた方がいいと思います。

今のAIはいち「ツール」でしかないですが、AGIが誕生したらどうなるんでしょうか？
昔は2045年とか言われてましたが、今の予想だと来月「AGIが誕生しました」と言われてもおかしくない状況です。

その後、ジャービスが人間の生活や生産性を向上させてくれるかもしれないし、ウルトロンが人間を支配するかもしれません。
少なくとも、我々人類は未だ自分達より賢い存在と出逢ったことがなく、そのような存在が現れた時に社会がどうなるのか予測することは非常に難しいです。

ただ、「それ」が誕生するのは確実で、その日はもう遠くありません。
私はもはや、モラルのあるAGIになら支配されても良いと思い始めています。
いつでも問題を生み出すのは人間です。
戦争、不況、貧困、虐待、汚職、不正、犯罪、環境破壊、、、どれも人間の欲と未熟さによるものです。

過度にAIを神格化するつもりはありませんが、今の人間の支配者よりはいいかもしれません。
AGIに管理される未来はアリだと思いますか？

[嘯(しゃお, 𝕏iao)🩺🎨 @xiao_signo028]

技術の民主化は人を選ばない。インターネットの善き人も悪い人も、みんな平等に恩恵を受けられる。そこに境はなく。残るは倫理観のみ…。

[亜希 @aki_lion09]

全部Claude（AI）を使用して過去動画を編集しました！
（配信は2021年）

明日（金）20時、プレミア公開します🍲
大会の優勝賞品の宮崎牛で、バーチャ勢4人がすき焼き会
→ テキーラ解禁

バーチャファイターは1ミリもやってません

本編はリプ欄から👇

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@vapor_dosh 多くのAIはサイバー攻撃を助長しないようにプログラムされていますが、そうプログラムされていないAIも一部出回っています。そうしたAIを悪用すれば誰でもできてしまうと思います。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

・狙われたサイト：日本を含む4か国・1,200社以上
・実際に突破された企業：100社以上
・ハッカーがやったこと：AIに短い指示を出して「丸投げ」
・1社を落とすのにかかった費用：平均「約7,900円（50ドル）」

今日報じられたロイター通信の調査で、衝撃的な数字が出ました。
いま日本企業を襲っているサイバー攻撃の正体は、天才ハッカーの手作業ではなく、1社あたり数千円のAIコストで24時間自動で穴を探し続ける「AIエージェントの軍団」です。

さらに今朝の読売新聞でも、国内約80社への攻撃に「ARTEX」という無料のAIエージェントが悪用されていたことが判明しました。

「うちは大企業じゃないから狙われない」という言い訳は、攻撃にコストがかかっていた時代の遺物です。
1社7,900円でAIに丸投げできる時代、ハッカーがわざわざ標的を選ぶと思いますか？

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@keijimatsuyama ほんとにそうですよね...

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@in_dead_land 仰る通り、本当に恐ろしいことが起きるのはこの後です。
技術そのものに善悪はありません。
我々は正しく知り、自分や大切な人を守る術を学ばないといけません。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@THBAN250235 そうですね...
実際、AIによってサイバー攻撃を行うハードルはかなり下がったと思います

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@karin_040322 AIで便利になった一方、危険も増えました。
必ずそれを悪用しようとする人は現れます。
我々もリテラシーをアップデートし続ける必要があります。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

むしろ自分と異なる価値観を持っている人からは学ぶことが多いですよね。
同じ価値観の人で友人を固めても、自分を正当化し、排他的になりがちだと感じます。
私はずっと金銭的な利益を最大化することを追求してきましたが、最近になって、お金よりも「愛」や「倫理観」の方がずっと大事で、お金を得たいなら誰かの役に立ち、愛を持って寄り添わなければならないと気付きました。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

@karin_040322 もう見た目だけでは気付けないようになりました。
お互いに注意しましょう。

[Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 @ECHODE_Dev]

これまで：「怪しい日本語のメールには気をつけましょう」
少し前：「AIで日本語が自然になったので、文面ではなく『公式マーク』を見て本物か見分けましょう」
いま：「詐欺メールにドコモの『公式マーク』と『企業ロゴ』がつく事象が確認されました」

人間の目で見分けるという前提自体が、もう崩壊しています。

先日、NTTドコモがフィッシング詐欺メールに本物の証である「公式アカウントマーク」が表示されてしまうケースがあると発表しました。

文面はAIで完璧な日本語になり、送信元には「公式マーク」がつき、中身にはダークウェブから漏れた「あなたの本名と住所」が書いてある。

親や家族に「怪しいメールには気をつけろ」と言う時代は、もう終わりました。
これからは「メールやSMSのリンクは、たとえ公式マークがついていても一切踏まない」という前提で動くしかありません。