かちこち/勝東風 ⏩⏳⏸️

AI Alignment / ポスト労働社会の社会権保障 / 産業爆発 / SWエンジニア / 発狂界隈うぉっちゃー / 情報処理安全確保支援士 / 杏仁豆腐と散歩が好き

[櫻井祐子 Yuko SAKURAI🌏 @YukoYSakurai]

こんな記事が朝日の一面に載る時代
bioshok さんの10月刊行『 知能爆発 』は絶対的必読書🙏

今まで断片的に読んできたあらゆる情報がスッとまとまる感があって、読む手が止まらない
ここまで体系的で濃密に網羅されたAI本は、英語圏でも見ないほど

『 超知能AI 』を読まれた方にも絶賛お勧めです！

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

@tikuo2007 単に「適当に修正して」ってプロンプトだと、10回ぐらいでキモさが頭打ちになってあまり変化しなくなる感じでしたね

「幾何学的にして」など指示すると以下のようになりますが😂

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

キモ過ぎて大満足

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

話題のキモ画像、ChatGPTで生成後の画像に対する修正を繰り返すと再現できた！！

あれってのノイズの結果だったのか、規則性を増やして情報量を減らしたがる癖があるのかな

[ハヤカワ五味 @hayakawagomi]

どうしたらBingでキモ画像作れるんですか。逆に悔しい。

[bioshok⏸️ @bioshok3]

10月1日に、AGIが今後人類にもたらしうる極めて大きなインパクトとリスクについて、包括的にまとめた本「知能爆発」を出版します。

そもそも最近よく聞く「AGI」とは何なのか。なぜOpenAI、Anthropic、Google DeepMind、xAIなどがこれほど激しい開発競争をしているのか。最先端のAI議論では、どのような巨大な経済的・社会的インパクトやリスクが真剣に議論されているのか。

そして、その背後にある「AGIピル」と呼ばれる世界観が、どのような歴史と思想から生まれてきたのかまで、一冊にまとめました。

21世紀のテクノロジー思想における「シンセティック・テクノクラシー」という潮流を、日本語で初めて包括的に紹介する本にもなったと思います。

AIや人類の今後を考えるための「議論の地図」として読んでいただけたら嬉しいです。

[知能爆発 公式 @IntelExp_jp]

こちらが #知能爆発 のプルーフ(関係者用の見本刷り)です！

544ページ・6章構成という大ボリュームの一冊になる予定です。ご期待ください！

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

@IntelExp_jp @bioshok3 ついに！

[知能爆発 公式 @IntelExp_jp]

@bioshok3 の初の単著『知能爆発』（10月1日発売）表紙が完成しました。Amazonにて予約がスタートしています。ご注目ください！　#知能爆発 #AI #AGI #シンギュラリティ

https://t.co/cSj6aMsIKq

[シンギュラリティ・サーバー @singularitysaba]

【第12回】シンギュラリティ交流会in池袋【1周年記念パーティ】
9/12（土）
開場：798_SpemoLIVING池袋2nd
池袋駅徒歩6分
13:00　開場
13:30〜18:30　交流会
参加費：¥4000
詳細・参加申込はこちら
【URL】https://t.co/p7EPxib7c5

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

@KogituneJPN とかありそうだなと思いましたね

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

@KogituneJPN 人類全体の幸福を最大化するためAIが採用した方法

→ 微細な刺激から莫大な快楽・幸福を得られるよう遺伝的に設計された人間を、新たに大量出生させる

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

抜粋がめんどくさいのと、Google Lensとかで文字起こし使えるであろうため画像で全部掲載

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

OpenAIオフィス前の歩道に書かれた、OpenAI関係者へのメッセージ

ChatGPTで文字起こしして一部抜粋

> 8.3 billion lives are in your hands → 83億人の命が、あなたたちの手にかかっている。

> Please don't kill my kids
→ どうか、私の子どもたちを殺さないで。

続く

[かちこち/勝東風 ⏩⏳⏸️ @win_east_wind]

> Humans > Paperclips → 人間 ＞ ペーパークリップ
※「ペーパークリップマキシマイザー」の思考実験を踏まえたネタ。つまり人間の価値のほうが、AIの任意の目標より重要だという意味。

> AI Goals ≠ Human Goals → AIの目標 ≠ 人間の目標

> DO THE RIGHT THING → 正しいことをしろ。

続く

[Safe Singularity ⏸️ @Align_ASI]

私はDoomerとして知られています.
このまま超知能ができたら、人類はほぼ確実に滅びると考えているからです.
しかし、超知能開発を停止すれば、アラインメントを解いて、素晴らしい未来を享受することができると心から信じてもいます.
この世界にはまだ希望があります.
人々が危機に目覚め、行動すれば、生き残ることができます.

国際的な開発停止は可能です.
アメリカと中国が合意することは十分にありえます.
トランプも習近平も、中国共産党も民主党も共和党も、超知能に殺されることを望んではいません.
必要なのは危険を認識することだけです.
開発停止に米中が互いを信頼する必要はありません.
新しいAIの開発には巨大なデータセンターが必要です.
巨大なデータセンターを隠すことはできません.
データセンターに互いに監査団を送り込むことで開発停止を検証することができます.

開発停止された世界はディストピアではありません.
巨大なデータセンターの監視に秘密警察も世界政府も必要ありません.必要なのは条約と監査団です.
今あるAIは使い続けられます.
医療、自動運転、ロボットなどの特化型AIは開発も続けられます.
チップの製造も続けることができます.
社会も、適応する時間を手に入れることができます.
今あるAI、そして特化型AIが、世界中に普及した、かつて人々が夢見た未来が現実になります.
慎重に進めば、産業爆発すらできるかもしれません.
それに、開発停止は永遠ではありません.
アラインメントが解決するまでの間だけです.

アラインメントは可能です.
ロケットについて考えてみてください.
そう、「大量の爆発物と酸素を薄くて軽い壁で囲い、中で爆発させて、空気がないところに人を高速で送り出す乗り物」についてです.
安全に飛ばすことなど到底不可能に聞こえる乗り物です.
しかし、ロケットは安全に飛びます.
月に人を連れて行ったことも、火星に探査機を運んだこともあります.宇宙ステーションを建設したことすらあります.
丁寧に構築された理論と慎重な工学的態度があったからです.
アラインメントも同じです.
丁寧に構築された理論と慎重な工学的態度があれば、成功させることができます.

世界は突然目覚め、動くことがあります.
私はよくコロナの時のことを思い出します.
最初に中国で感染者が出たという報道がされた際、世界はほとんど注目しませんでした.
その頃、専門家たちは感染者があっという間に爆発的に増加すると予想し、危機を訴えていました.
世界は聞く耳を持ちませんでした.
ほとんど何もしませんでした.
しかし、突然、世界は目覚め、行動しました.
緊急事態が宣言されました.
移動が制限されました.
多くの施設が病床の確保に使われました.
ほとんど全ての経済活動が停止しました.
莫大な痛みを伴ったにも関わらず、世界は動きました.
コロナ対策に比べたら、開発停止は驚くほど簡単です.
ついこの前まで、AIによる絶滅リスクは最初期のコロナと同じような扱いでした.
専門家は危機を訴えていましたが、世界は聞く耳を持ちませんでした.
今、世界は目覚めつつあります.
アメリカではAIキルスイッチ法案が提出されました.
開発停止の準備を求める書簡に名だたるAI企業の従業員、幹部達が署名しました.
習近平は「人類がAIの制御を失わないこと」の重要性に言及しました.
世界は突然目覚め、動くことがあります.

私は、私自身が、家族が、友人が、大事な人々が、超知能によって皆殺しにされるのを黙って待つつもりはありません.
我々を待ち受けているはずの素晴らしい未来が失われるのを黙って待つつもりもありません.
もしあなたが私と同じ気持ちなら、一緒に戦いましょう.
あなたは無力ではありません.
あなたは賛同を表明できます.
多くの方が開発停止に賛同を表明してくださったこと、そしてアカウント名に⏸️マークを入れてくださったこと、感謝してもしきれません.
タイムラインで⏸️マークを見るたびに、私の希望は強くなっています.
しかし、もしあなたがさらに戦ってくださるつもりなら、
あなたはこの危機について知り合いに伝えることができます.
この危機についてわかりやすく発信することも、政治家に危機感を訴えることもできます.
あなたなりの方法で貢献することもできます.
もしあなたが戦いたいと思っていて、どうしたらいいかわからないのなら、私に相談してください.私のDMはそのために開放されています.
私は、私達は、AGI Hubは、
あなたと共にあります.
あなたと共に戦えることを誇りに思います.
素晴らしい未来は実現可能だと心から信じています.
人類はまだ滅んでいません.
戦いはこれからです.

AGI Hub Chief Alignment Officer 林 央

[Safe Singularity ⏸️ @Align_ASI]

開発停止に賛成してくれる人たちは、アカウント名に　⏸️ をつけましょう！

[bioshok⏸️ @bioshok3]

まさにドント・ルック・アップが再現されてる。PauseAIグローバルCEO「このままだとAIが制御不能になり人類は滅亡する。」
番組「そうなんですね！（軽やか）それでは、マキシン……さん、そしてマックスウェル・マーロウさん、お時間をいただき本当にありがとうございました！（次の番組へ）」