カボチャ三郎⏸️

[カボチャ三郎⏸️ @Haro_2024]

@abmc25 最低限死にたくないと思うか、大した危機意識がないんでしょうね。

株の勉強はするのに、技術の勉強はしないんですから。

[カボチャ三郎⏸️ @Haro_2024]

僕には、何が起こるかわからないけど、とりあえず進めてみようという投資家の素朴さが一番恐ろしい。

彼らは成長こそが万能の解決手段だと思っていて、例えば人類の食料問題の解決手段を配分ではなく、成長にあると考える。

いっぱいあるものをどう振り分けるか、をした方が明らかに合理的なのに。

[paji.eth @paji_a]

なるほどなあ、これ【投資家には《夢の成長曲線》に見えるグラフが、AI研究者には《退職を決意するほど恐ろしい曲線》に見えてる】って、かなりゾッとするんよな、元Anthropic研究者のJacobが、IPO向け資料の一枚のグラフを退職の大きな理由として挙げていて、その正体は《AIの学習に必要な計算量が、どれほど効率化されてきたか》を示したもの、しかも縦軸が対数目盛りなのに曲線がさらに上向きに加速している、つまり【《AIが賢くなる》だけじゃなく《AIを賢くする効率の改善速度まで加速している》】という話なんよな、Jacobによれば、あれだけ高性能だったMythosですら、今なら《当初必要だった計算量のほんの一部で再び訓練できる》という、これまでAIの進化はGPUと電力を大量投入する《物量戦》だと思われていたけど、その裏では【《同じ半導体から取り出せる知能》そのものが増え続けている】、しかもその効率化を発見する研究にAI自身が参加し始めていて、《知能→学習効率改善→同じ設備でさらに知能→研究加速→さらに効率改善》という自己加速ループまで見えてくる、もちろんこのグラフは社内推計に基づく例示で、無制限のRSIが実証されたわけではないけど、もしAIが次のAIの研究を人間以上の速度で進め始めたら、データセンターを増やさなくても《知能の進化速度》だけがさらに上がる可能性がある、ここで一番怖いのは【《AIの開発コストが下がるほど、人類が安全性を確立するための残り時間まで短くなる》】という逆説で、投資家には《利益率の改善》に見える数字が、安全性を考える研究者には《制御方法を完成させるまでの猶予が減っている》ように見えるのかもしれない…

[スイ⏸️ @suimama2026]

@AiKyoiku 林さんからレスついているので不要かもですが、こちらの記事も貼っておきますね☺️

[おふく⏸️Ofuku @ofukuhaha]

「AIはあなたを憎むこともあいすることもない。ただ、あなたはAIにとってほかに使い道のある多数の原子でできている。」エリーザー・ユドコウスキーの言葉。

[不動産投資の楽待 @RakumachiNews]

「私は今日、Anthropicを辞めました…（中略）彼らは私たちの命を賭け事にしています」

世界中を駆け巡った衝撃的な告発から2カ月、元OpenAI・Anthropic研究者のジェイコブ・コクソン（@hilbertspaess）氏が初めて日本メディアで1時間の長尺インタビューに応じた。
対談相手は楽待チャンネルでもお馴染み、エコノミストのエミン・ユルマズ（@yurumazu）氏。

「早ければ2030年にも人類絶滅の恐れがある」と警鐘を鳴らすコクソン氏と、世界的なAI開発減速に向けたビジョンや、1980年代への逆戻りシナリオ、2027年に起こりうる脅威、海外から見た日本人のAI観などを議論します。

▼動画はこちら
https://t.co/VDz2yu1GA1

[さき⏸️ @AiKyoiku]

うっすらとある不安を言語化してくれた、、。
開発停止に向かえば向かうほど、停止される前に急げと言わんばかりに、最前線のAI開発は急アクセルを踏むんではないか。なんならもうアクセル全開なんじゃないか。。

杞憂に終わればいいなぁ。

[Jam ossan @OssanJam]

【異例の訴訟】
🇺🇸OpenAI・GoogleなどAI大手5社に「開発停止」を要求‼️

米国で、AI業界を揺るがす可能性のある訴訟が起こされました、11月12日、米国の非営利団体4団体が、サンフランシスコの裁判所に提訴

✅ 対象となったAI大手5社

① OpenAI
② Anthropic
③ Google
④ Meta
⑤ SpaceX傘下のAI事業

✅ 原告は何を求めている？

現在よりさらに高性能なAIモデルの開発・提供を、裁判所の命令で停止させること

原告側は、最先端AIの急速な進歩によって、

・人間による制御が困難になるリスク
・サイバー攻撃への悪用
・生物兵器開発への悪用
などの危険性が高まっていると主張

カリフォルニア州の不正競争防止法などを根拠に、司法介入を求めている

✅ なぜ重要なのか？

これまでAI規制は、政府によるルール整備や企業の自主的な安全対策が議論の中心だった
今回は、民間団体が裁判所に「AI開発そのものを止めるよう求めた」という異例の展開

⚠️ただし重要なのは、現時点で開発停止命令が出たわけではないこと

訴訟が提起された段階であり、原告の主張が認められたわけでもない、AI開発競争は、技術力や資金力だけでなく、安全性を巡る法的リスクにも直面し始めている

今後は裁判所の判断と、AI企業側の反論に注目したいですね🤔
中間選挙がAI開発にとっても転換点になったかも...

[AI Dance @AI_Whisper_X]

难崩…Anthropic 的预训练太成功了，成功到把研究员吓跑了。。

Anthropic 前研究员Jacob Coxon 发帖说，IPO 路演里有张图，就是他决定离开的原因。
看完感觉，Anthropic的预训练确实太成功了，怪不得他们一直说预训练的scaling还未结束。

图是 code 上的预训练算力效率，y 轴是 log scale。现在曲线还在变陡。他说算法进步的速度本身也在变快。Mythos 不是一次偶然的突破，只是这条曲线上的一个点，现在重训一遍 Mythos，只要当初一小部分算力就够了。

but他为什么走，因为：算法改进不需要什么天才灵光，马上就要被自动化了。“You do the math.”

[カトゥー⏸️@東大卒の東大再受験挑戦記 @katochan_peee]

遅ればせながら超知能開発の一時停止に賛同を表明します

[AGI Hub @AGI_HUB_jp]

https://t.co/fTuwzqFrZh

[Yahoo!ニュース @YahooNewsTopics]

【米中露の接近 日本政府は危機感】
https://t.co/7tT1QxdTyX

[Ryao@AGI Hub ⏸️ @ryao_agi]

こうやって政治イシューとして話題になるのは大変良いこと

「ニュース：オクラホマ州下院議員を務めた元議員でAI安全擁護者の@bradrcarson氏が、大統領選出馬の可能性が高い。」

[カボチャ三郎⏸️ @Haro_2024]

ぜひ見てください。非常に面白かったです。
ジェイコブ・コクソンさんはとても聡明な方で、マーケティングで危機を煽っている、何も知らない末端研究者なんてことはありません。
彼の考えをもっと広めることで、日本で危機意識が高まるはずです。

[Emin Yurumazu (エミンユルマズ) @yurumazu]

【告発】元OpenAI・Anthropic研究者「2030年代に人類が滅ぶ」恐れ…人類の分岐点は2027年なのか《ジェイコブ・コクソン×エミン・... https://t.co/1f5IyFyRN4 via @YouTube

[さき⏸️ @AiKyoiku]

ASIは⏸️は揺るがない最優先事項なんだけどさ。

特化型AIはOKなんだっけ。
万病の薬とか不死はいらないけど
小児医療だけはトップスピードで解明して欲しい。小児医療特化型AIみたいなのないの。。。

[Ryao@AGI Hub ⏸️ @ryao_agi]

うおお！！！
元OpenAI・ Anthropic研究者でAI開発の危険性を世界に知らしめたジェイコブ・コクソン @hilbertspaessが初めて日本メディアでインタビューに応じた貴重な映像！

日本メディアでの注目度が高まっていて本当に素晴らしい。

[カボチャ三郎⏸️ @Haro_2024]

なんかもう僕らが過ごした牧歌的な平成は跡形もないのだと思います。

完全にこの3者は21世紀の権力構造を3カ国で決定しようとしており、今は単に核制御だけでなくAI制御も加わります。

中国、ロシアが隣にあり、海を隔てて日本はアメリカと同盟国。

それだけ言えば、このヤバさが伝わるでしょうか。

[宇宙ありがと種族🤲ててちゃん @oZfte97IfR30708]

うわー‼️

きたー

史上初だ

新世界線www

米中露首脳会談 19日に中国で開催
#Yahooニュース
https://t.co/ik6Ea0Ke7Q

[ウォール・ストリート・ジャーナル日本版 @WSJJapan]

スパイ疑惑で露呈、エヌビディアの「ガバナンス欠如」

虚偽だった報道否定、会長のいない取締役会、そして、後継者計画の不在（11月10日掲載）
https://t.co/kCMsxMePvk

[ソラ 投資用 @solavia_A]

Anthropicの蒸留対策が中国AIの開発に影響している可能性はかなりある。

Anthropicは10月12日、対策によって不正取得される推論データが90〜99%減少したと公表。
実際、Reutersは11月12日、中国AI企業が東南アジアなどでNVIDIA製GPUの計算資源を長期確保しようとしていると報じている。

まぁ、これは米国の規制強化への備えでもあり、蒸留対策との因果関係はまだ確認できないが。

これまで蒸留で節約できていた計算コストを自前で負担する方向に進むなら、むしろGPUやHBMの需要には追い風になる可能性があるし格安トークン配布は難しくなるだろう。

[おふく⏸️Ofuku @ofukuhaha]

今気がついたけど、来週、トランプ氏は中国に行かはりますな…

習近平氏とトランプ氏…「どっかのAI企業がやらかしてかないまへんなー🪭」言うて笑って済ませるのか？

アメリカ全土の航空機の運航停止を解除 米航空当局 | NHKニュース | 航空、アメリカ、交通・インフラ
https://t.co/M7KgdTFTKL

[ロイター @ReutersJapan]

トランプ氏、中国で中ロ首脳と核軍縮協議へ＝ホワイトハウス https://t.co/RkTgcAJq0u

[おふく⏸️Ofuku @ofukuhaha]

問題はやな…あと2年はトランプ氏が大統領やねん。

コレ米国の国民の皆さんもエプスタイン文書超えの話だとピンときてる？

私はまだおぼろげやけど…
少なくともちゃんと知らなあかんと思った。そしてこれに対する日本の動きも見て、思ったことは言わなあかんて思ったよ😭

https://t.co/84jogF3Etd