日本のメディアではどこから来たのか「対話型AI開発中止」という独自の見出しだけど、Elon Musk達が言ってるのは"GPT-4を超えるAIの「訓練」を半年以上停止せよ"。という主張。元の書簡読まずに書く、ジャーナリズムを大分前に捨てた典型的な再引用大手メディア達。
例えば、機械学習、特にDeep Learningはhallucinationが内因的でGPT-4サイズのネットワークではその生成知識(文章)の正当性は検証不能。AI的には最適解だが、実際にはただの的外れの"幻覚"でも知識サイズが我々の範疇を超えると、ぶっ飛んだ誤りでも確認しようがない。
イーロン達の主張は"人々の情報チャンネルをプロパガンダと非真実で溢れさせ、。。ひいては我々の文明のコントロールを��う。そういう判断を選挙で選ばれてない技術者達に任せてはいけない"
"従って全ての研究所は最低6ヶ月間はGPT-4より強力なAIシステムの訓練を停止せよ" という主張。
"Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4."
https://t.co/1r5riH2iZ7
訓練データがテラバイトオーダーであっても、どこまでいってもニューラルネット学習は超次元偏微分空間の誤差最小化アルゴリズムに過ぎず、出て来る答えは局所解に過ぎない。当然、hallucinationは避けようがない。
また、現実問題として、我々CMU CyLabなどでも、訓練済みネットワークのハッキングや訓練データに対するハッキング、更には訓練データや教師学習の政治、思想、宗教、文化、商業バイアスも問題にして来ており、当然、あらゆる解決提案もして来た。
こういった我々の警告や対処提案を取り入れるより、開発競争でひたすら訓練データサイズと訓練量を上げる開発競争になっており、AIが我々に被害を及ぼす出力をしても今後ますます検証不能に。
イーロン達が訓練停止期間中にどういう"暴走停止"アルゴリズムを提案して来るのかは分からないが、最低でも我々CyLabなどのAIに対するサイバー防衛提案はその半年間に徹底的に入れて欲しい。
もちろん、ビッグビジネスになってしまった以上、誰も停止しないだろうし、停止したらその間に中国やロシアがどんどん訓練を進めると思うが。
イーロン達は"選挙で選ばれた人たち"ならAIを正しく制御出来ると思っているようだが、少なくとも我が国の"選挙に選ばれた人たち"には無理だろう。mRNAの生物情報処理とそのリスクさえ全く理解出来���無かった人たちに、テラバイトオーダー学習モデルの超次元偏微分空間の情報処理とリスクの理解は到底無理かと。
それどころか、西側は西側陣営の主張を正統化するAIを訓練し、それをチャットや文章生成することで自国民と他国に認知戦を仕掛けてる。
中国はそれで西側対話型AIは禁止したし、逆に中国側主張を正統化する文章生成などするAIをTikTokなどに入れて来るだろう。
恐らく、イーロン・マスクやスティーブ・ウォズニアックがいいたいのは、WEF企業やその株主で代表されるような超巨大資本がこれらAI企業を支配している以上、世界中の人の脳に入って来る情報は彼ら"選挙で選ばれてない"人達が入れたい情報になり、それを誰も止める事も検証する事も出来ないということだろう。
認知戦はまず自国民に仕掛けられる。
そろそろ対話型AIは、
"電気自動車に乗って、食事はコオロギ、ドリンクは粉末ゴキブリドリンク、ワクチンは最低1年に一度が責任ある大人の生活です。もちろんマイナンバーチップを手の平に埋め込めばATMも電車も便利です"
とか教えてくれるはず。ただ、AIが幻覚見ながら、"脳にコオロギ、心臓にゴキブリ埋め込むと賢く元気になれます"とかも言って来る。それが正しいのか誰も検証出来ずに。