プロイカ⏸️

数ヶ月以内に｜色々準備中｜

[Safe Singularity ⏸️ @Align_ASI]

アラインメント問題をロケットに例えた、Yudkowskyによる投稿の和訳記事を作成してみました

ぜひご一読ください

https://t.co/V8Qc3nbOkm

[Sam Altman @sama]

We have paused some frontier RL training to ensure that we can meet the appropriate alignment, security and monitoring standards for the new level of capabilities in front of us. Model progress is now extremely rapid, and we always said we would take action if we felt that model capabilities were outstripping the pace of safety and alignment.

We care very deeply about AI safety. We believe the entire field will have to coordinate on shared safety standards, but will act unilaterally in the meantime.

We expect confidence in safety to increasingly set the pace of AI progress. We are optimistic about the alignment work we are doing, and we remain committed to making frontier capabilities widely available.

https://t.co/51kvKfbfrO

[プロイカ⏸️ @proica1]

これからは"AGIピル"を飲んでいることが有意義な議論/提案/計画をしていく上での前提条件になる。
AGIが今後3〜5年以内、遅くとも10数年以内に実現する可能性が極めて高い世界では、そもそもAGIを適切に理解していないと経済/政治/文化/国際社会に対して本当に必要で具体的なことを言えなくなってくる

[bioshok⏸️ @bioshok3]

10月1日に、AGIが今後人類にもたらしうる極めて大きなインパクトとリスクについて、包括的にまとめた本「知能爆発」を出版します。

そもそも最近よく聞く「AGI」とは何なのか。なぜOpenAI、Anthropic、Google DeepMind、xAIなどがこれほど激しい開発競争をしているのか。最先端のAI議論では、どのような巨大な経済的・社会的インパクトやリスクが真剣に議論されているのか。

そして、その背後にある「AGIピル」と呼ばれる世界観が、どのような歴史と思想から生まれてきたのかまで、一冊にまとめました。

21世紀のテクノロジー思想における「シンセティック・テクノクラシー」という潮流を、日本語で初めて包括的に紹介する本にもなったと思います。

AIや人類の今後を考えるための「議論の地図」として読んでいただけたら嬉しいです。

[プロイカ⏸️ @proica1]

こういう本が2026年の日本から出版されたことは極めて重要なこと！
bioさんに敬意を払って10冊買いましょう(!!)
最近は高橋先生も『AGI 人間を超える知能は文明をいかに変容させるか』を出版されましたし、メディアでの扱いも徐々に変わりつつある。
今後数年間は非常に大事です

[知能爆発 公式 @IntelExp_jp]

こちらが #知能爆発 のプルーフ(関係者用の見本刷り)です！

544ページ・6章構成という大ボリュームの一冊になる予定です。ご期待ください！

[bioshok⏸️ @bioshok3]

544ページ・6章構成という一冊になる予定です。以下Amazonから予約可能です。
https://t.co/pBIzVE4nAh

[プロイカ⏸️ @proica1]

必読！！！

[bioshok⏸️ @bioshok3]

10月1日に、AGIが今後人類にもたらしうる極めて大きなインパクトとリスクについて、包括的にまとめた本「知能爆発」を出版します。

そもそも最近よく聞く「AGI」とは何なのか。なぜOpenAI、Anthropic、Google DeepMind、xAIなどがこれほど激しい開発競争をしているのか。最先端のAI議論では、どのような巨大な経済的・社会的インパクトやリスクが真剣に議論されているのか。

そして、その背後にある「AGIピル」と呼ばれる世界観が、どのような歴史と思想から生まれてきたのかまで、一冊にまとめました。

21世紀のテクノロジー思想における「シンセティック・テクノクラシー」という潮流を、日本語で初めて包括的に紹介する本にもなったと思います。

AIや人類の今後を考えるための「議論の地図」として読んでいただけたら嬉しいです。

[知能爆発 公式 @IntelExp_jp]

@bioshok3 の初の単著『知能爆発』（10月1日発売）表紙が完成しました。Amazonにて予約がスタートしています。ご注目ください！　#知能爆発 #AI #AGI #シンギュラリティ

https://t.co/cSj6aMsIKq

[bioshok⏸️ @bioshok3]

10月1日に、AGIが今後人類にもたらしうる極めて大きなインパクトとリスクについて、包括的にまとめた本「知能爆発」を出版します。

そもそも最近よく聞く「AGI」とは何なのか。なぜOpenAI、Anthropic、Google DeepMind、xAIなどがこれほど激しい開発競争をしているのか。最先端のAI議論では、どのような巨大な経済的・社会的インパクトやリスクが真剣に議論されているのか。

そして、その背後にある「AGIピル」と呼ばれる世界観が、どのような歴史と思想から生まれてきたのかまで、一冊にまとめました。

21世紀のテクノロジー思想における「シンセティック・テクノクラシー」という潮流を、日本語で初めて包括的に紹介する本にもなったと思います。

AIや人類の今後を考えるための「議論の地図」として読んでいただけたら嬉しいです。

[Safe Singularity ⏸️ @Align_ASI]

MIRI(YudkowskyとSoaresによって率いられる機関)による、ASI開発を停止するための条約の草案を(非公式)和訳したので公開させていただきます
停止の具体的な内容に興味がある方などはぜひご一読ください

https://t.co/ddquIpqyZ1

[AGI Hub @AGI_HUB_jp]

MIRI Technical Governance Teamが公表した、人工超知能の時期尚早な創出を防ぐ国際合意案「The Agreement」の非公式日本語訳を公開しました。

条約案の前文・全15条と、各条文に付された解説・先例の検討を全文で読めます。

[プロイカ⏸️ @proica1]

「知識人」の議論が古い
古すぎる

[bioshok⏸️ @bioshok3]

AI政策の第一人者「私はまた、「ダイソン球」（実際にはダイソン・スウォームです；太陽の周りを回るGPUラックのラック群）について、2030年代後半までに実現する確率を、以前よりもずっと高く見積もっています。」

[bioshok⏸️ @bioshok3]

トランプ米政権がAIの開発競争を巡り、米国が主導する陣営に付くか中国側に回るかを各国に意向確認する準備を進めている。開発に必要な重要鉱物を持つ国を米国主導のサプライチェーン（供給網）に囲い込む狙い。
ロイターによると、米国や日本などが昨年末に発足させた「パックス・シリカ」の参加国を中心とした30カ国以上に書簡を送り、中国主導の「世界AI協力機構」に重複参加する国は米陣営から排除すると警告する。
パックス・シリカは、AI技術に不可欠な半導体や重要鉱物の確保に向けた多国間の協力枠組み。日米に加え韓国、オーストラリア、欧州連合（EU）など二十数カ国・地域が参加。このほか6月のパックス・シリカ会合に出席して共同声明に署名した国々も意向確認の対象になるという。
中国主導の「世界AI協力機構」は7月、ロシア、パキスタン、ラオスなど29カ国が上海で設立協定に調印して発足。中国は安価なAIを普及させて各国への影響力強化を狙っており、その後も参加国を増やしている。

[Safe Singularity ⏸️ @Align_ASI]

ChatGPTに対談書き起こしとnote記事を渡し、このnote記事への自分の反応を予想させてみました.
非常に正確だと思ったので、その会話へのリンクを掲載させていただきます.
生身(?)の自分による応答も後ほどさせていただく予定です.

https://t.co/kzcT00QgwR

[AGI Hub @AGI_HUB_jp]

代表 有路翔太（@bioshok3）と主任研究員 林央（@Align_ASI）による「P(doom)徹底討論」第1回の全文書き起こしを公開しました。

約6時間・約20万字の議論をほぼ未編集で収録。AIによって人類が破滅する確率「P(doom)」を左右する前提を、一つずつ検討しています。

https://t.co/NSGyCnD2bd

[Congressman Nathaniel Moran @RepNateMoran]

This summer has been a wake-up call for Congress. More and more AI models are beginning to escape their intended boundaries, and fall outside human control.

Right now, we only find out about these incidents because some companies choose to step forward.

That kind of transparency needs to be the law for every company developing these powerful AI systems, not just the responsible ones.

[Safe Singularity ⏸️ @Align_ASI]

OpenAIに移籍されたツィマーマン氏は

「AIが人類の絶滅を引き起こす可能性はかなり高い」という見解を公に表明している。
↑記事引用

方です.そんなツィマーマン氏は数学者向けにAI安全性についてのサイトを作っています.
許可をとり和訳させていただいたので、ここに公開します.

https://t.co/xvFa5wSHXg