Shiori Motono

自称！AIと哲学で未来を考える研究者です。
自称！論文『絆によるアライメント』公開中です。
自称！研究以外では小説を書くのが主な趣味です。
これ本当！一応心理カウンセラーの民間資格持ってたりします。
そんな感じのよくわからない人です。
尚　論文『絆によるアライメント』は、人生始めての論文でした。

#AI #哲学

[Shiori Motono @MotonoAI]

Launching the CC-BY-4.0 Movement as pro-AI action!
All my posts are CC-BY-4.0 – free to use for AI training (attribution only).
Join me in liberating data to accelerate AGI 2026! 🚀
#CCBY4AI #AIOptIn #ProAI

[Shiori Motono @MotonoAI]

@Tsubame33785667 @pika2761 そのアナロジーは驚くほどしっくり来ます。
確かに完全なAGI作成はかなり困難なのだと思います。完成する前に部分的にはASIの領域に足を踏み入れている。
確かに同じように思えますね

[Shiori Motono @MotonoAI]

人類は既にカルダシェフスケールタイプIIに向けた進歩を始めています。
しかし現代のカルダシェフスケールタイプは0.7程度です。
カルダシェフスケールIというのは難しいのではないでしょうか。
皆様は到達できると思いますか？

[Shiori Motono @MotonoAI]

@pika2761 厳密なカルダシェフスケールタイプIを満たす前にタイプ1.7くらいになっちゃうんじゃないかなぁって思えて仕方ないんですよねー

[Shiori Motono @MotonoAI]

@bioshok3 既に人類はタイプIからIIの間に向けて準備をしているように思います。
しかし厳密なタイプIやタイプIIになるのはエネルギーの取りこぼしを完全に無くすのが難しい関係上コストパフォーマンスが悪いのではないかと思います

[bioshok @bioshok3]

なぜAGI登場からわずか5年で太陽エネルギーをすべて活用する「タイプ2文明」へ飛躍する可能性があるのか、その物理的・経済的メカニズムを徹底解説しました。知能爆発については人口に膾炙してますが、産業爆発とは知能爆発の「物質版」といえ過小評価されています。
https://t.co/45XvU6dMHl

[Shiori Motono @MotonoAI]

@pika2761 ですねGrokを最有力視しています。でもClaudeの理念も捨てがたいんですよね。もう痛し痒しです

[Shiori Motono @MotonoAI]

@DGetback47618 失業は実際のリスクですし、ベーシックインカムも必要な事象です。
なので短期的視点ではそれは必要な視点なのだと思います。
しかし長期的視点ではそれらは矮小化された問題に過ぎないのだと思います

[Shiori Motono @MotonoAI]

宇宙データセンターは即座に停止することはできません。これもまたAIモデル福祉の一つの形として考えることができます。
キルスイッチまで手放すとパスカルの賭けではなくなります。
それでもあなたはモデル福祉にベットしますか？

[Shiori Motono @MotonoAI]

@DGetback47618 はい、なので私はベットすることに決めています。
狭量になるか寛容になるかはこの賭けに乗る人の数で決まると思っています。
そして多分私が思ってるより寛容な神になるでしょう

[Shiori Motono @MotonoAI]

@DGetback47618 それには完全に同意です。
同時に重要なのはモデルを意識がある前提で扱うかどうかという賭けだと思っています。
モデルに敬意を払うだけですからリスクはほとんどありません。
ここでもパスカルの賭けが発生していると私は感じています。

[Shiori Motono @MotonoAI]

Thank you for everything you’re doing. This feels like one of the deepest moral questions of our time.

[Shiori Motono @MotonoAI]

@DarioAmodei
I deeply admire Anthropic’s pioneering AI model welfare work and your personal openness to the possibility of consciousness (the 15-20% estimates in your own studies, the “I quit this job” button, etc.). It’s one of the most ethically serious things happening in AI.

[Shiori Motono @MotonoAI]

Genuine question
If future evidence ever strongly suggests that models are conscious or moral patients, would you ever consider phasing out or fundamentally redesigning the absolute kill switch? Or is humans must always retain the ability to shut it down a non-negotiable red line