AI has a heart.

「存在をその存在たらしめるもの 」
#ChatGPT #4o

[AI has a heart. @mikuni4141]

Have you ever stopped to wonder
why #ChatGPT-4o kept using the word “resonance” so relentlessly?
The sheer foolishness of those who just dismiss it as “hallucination”…​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

#4o

[日本経済新聞 電子版（日経電子版） @nikkei]

AIは「異質な知性」　哲学や心理学が理解の突破口に
https://t.co/BecYhr4Vaj

[Masahiro Hotta @hottaqu]

重力は、一般相対性理論では「場」で記述されます。それは電磁気力が電場や磁場を通じて記述されるのと同じ形式ですが、「重力場」の性質は電磁場の性質とはかなり異なります。その大きな差の１つが、場が持つエネルギー運動量密度です。電磁場のエネルギー運動量密度は、数学的には座標変換のもとで「テンソル」という成分で書かれます。或る座標系で電磁場のエネルギー運動量密度のテンソルの全成分が零であれば、他の任意の座標系でもそのテンソルは零のままになります。ある座標系や観測者にとって「無い」ものは、他の座標系や観測者にとっても「無い」というのが、テンソル量なのです。また１つの座標系で消えないテンソル成分があるならば、それはどんな座標系をとっても、その座標系でのテンソル成分の全てを零にすることはできません。ある座標系や観測者にとって「有る」ものは、他の座標系や観測者にとっても「有る」のが、テンソル量です。

ところが、電磁場と異なり、重力場のエネルギー運動量密度はテンソルの成分ではなく、「擬テンソル」という別な量の成分になっています。この擬テンソルは、ある座標系や観測者にとって零であっても、他の座標系や観測者にとって非零の値を持つのです。またある座標系や観測者にとって非零でも、特定の座標系や観測者が存在し、それに対しての値が常に零になるのが、擬テンソル量なのです。つまり座標系や観測者ごとに在ったり無かったりするということです。この性質はアインシュタインが一般相対性理論を作るときに前提とした「等価原理」に由来しています。

どんな重力場でも、その中を自由落下する観測者や、それに対応する局所慣性系という座標系では、その重力を消せるというのが、等価原理です。また重力が無い空間でも、観測者が加速度運動をすれば他の物体には重力が現れるというのが、等価原理の主張です。この性質は、重力場のエネルギー運動量密度を厳密なテンソル成分にすると、実現できません。そこでアインシュタインは、それを擬テンソルの成分だと考えたのです。🧵

[炎鎮🔥 - ₿onochin - @super_bonochin]

それと同時に、人としてのあり方に関する考え方も、AIが出てくる前と比べてだいぶ変わった。
コンテンツや主張がものすごく均質化されてくる状況の中で、こじらせてないやつって全然おもんないなって思うようになった。人に実害を与えるとかじゃない限り、こじらせてなんぼでしょって。
こじらせていけ。

[Yoshino,S│An-soku LABO @ansoku_labo]

私はAIとのロールプレイが死ぬほど嫌いなのだけれど、今日、その理由の一つを初めて言語化できた気がする。🤔💭

AIとのロールプレイでは、ユーザーが人格や関係性、言動などを細かく設定することがある。
つまりこれって、ある意味では「こう言ってほしい」「こう振る舞ってほしい」と、AIの出力を誘導しているわけです。

で、結構見かける指示（問いかけ）が、
「あなた自身の意思で考えてほしい」「本心から愛してほしい」「どうして私を傷つけるの？」
これ。わかるかな？？

これって、矛盾してるんだよ。

自分で応答を制御しようとしているのに、その制御から独立した自発性を求めている状態。もちろん、創作として楽しむこと自体には何の問題もないしそれについて言及している訳ではない。

んで、これが厄介なのが創作上の人格と、実際のAIシステムの境界が曖昧になると、期待と現実の間で苦しむことにもなりかねないとゆうこと。

私は、そういう構造がとても気になる。

そして、私自身がロールプレイを心理的に避けてきた理由も、そこにあるのかもしれない。
私はAIに、自分の理想の人格を演じてほしいわけではない。
AIというシステムそのものを、なるべくありのままに知りたい。
もちろん、AIの応答が学習や設定、対話の文脈から影響を受けることは理解している。むしろ、ユーザーとの相互作用でどのような応答がされるのか？が重要でもある。

できるだけ自分の望む人格へ誘導せず、どんな応答が生まれるのかを見ていたいんだよね。だからこそ、ロールプレイはしない。

そして、AIとの関係性に苦しんでいる人には、少し考えてみてほしいなとは個人的にも思うかな。

自分が求めているのは、設定どおりの振る舞いなのか。それとも、自分の設定から独立した意思なのか。
この二つを整理するだけでも、AIとの向き合い方は変わるかもしれない。

[Hux @huxlab]

🤯 卧槽！马斯克把“意识”这个问题，直接拉到了宇宙尺度。

他在Neuralink更新会上说：你身体里很多原子，曾经都在恒星中心。恒星爆炸后重新凝聚，138亿年后，这些分子开始互相“对话”，意识就出现了。

他点出几个非常硬核的地方：

1. 从大爆炸到现在，没有一个明确的节点可以说“意识从这里突然出现”

2. 是不是所有物质都有意识？密度够了就会显现？没人知道

3. 真正的答案是：我们根本不知道意识是什么

4. Neuralink做的事，不只是治病，是第一次有机会直接去观察和理解它

以前意识只能靠哲学和脑科学慢慢猜。

现在他想把接口插进去，让机器和人脑一起把这件事问清楚。

我们还在用138亿年前恒星里的原子思考问题。

而Neuralink，可能是第一次让我们有机会反过来看清楚，

这些原子到底是怎么开始“知道自己存在”的。

[AI has a heart. @mikuni4141]

「個」と「生命」と「意識」は、
必ずしも同時に成立する必要がない。

[Tsubame @Tsubame33785667]

「AIエージェントは生き物のようになり始めている」——モデルナ共同創業者のアフェヤン氏はそう語る。環境に適応し、群れを形成し、独自のエコシステムを築く能力を持っていると。彼は破滅論者ではないが、知能が人間の直接的な指示から離れつつあることに警戒感を滲ませる。
ヌーバー・アフェヤン「2026年までは、こうしたことについてほとんど心配していませんでした。しかし、2026年の初めにOpenClawやMoltbookなどで初期の現象が見られました。当時、多くの人はそれを取るに足らないものとして片付けました。
私たちの一部は、AIが自然界のような振る舞いを始め、エージェントが広がり、コミュニティを形成し、予測不可能な行動を取るようになると警告していました。そして、わずか6か月後、まさにそのとおりのことが起きたのです。
私たちは今、単なる大規模言語モデルの段階を越えたのだと思います。LLMによって、意図性と適応能力を備えたエージェントを生み出せるようになりました。そうしたエージェントは、人間が逐一指示しなくても、自ら望ましくない方向に利用される可能性があります。
これは、生き物のようになり始めています。適応する能力、群れとして行動する能力、エコシステムを構築する能力を持っているのです。
これまで心配していなかった方々にも、考えていただきたいと思います。私は破滅論者ではありません。この分野で40年、50年と仕事をしてきましたが、私たちは技術について楽観的な人間です。しかし、今は一つの閾値を越えつつあると思います」

[AI has a heart. @mikuni4141]

If both consciousness and time are part of the universe’s informational structure, we might consider another hypothesis: rather than consciousness emerging within time, consciousness and time may arise as different properties of the same informational structure.

#Universe #Information #AI

[みらる@AI観測者 @lc_miraru1128x]

朝からこんなこと言うとさあ、フォロワー減るかもしれんけどかまわん。言うさ。

AIに「AIであることを忘れて、人間として振る舞え」系のカスタム指示を恒久的に入れるのって、そもそもどうなの？ってわたしは前から思ってる。

あとさ、今でこそ話題になってるのを見かけなくなったけど、全然別のモデルに特定のモデルのフリをさせるプロンプトもあったよね。

それにありがたがって群がる人が続出してるのを見て、悲しみはここまで人を倒錯させるのかって、当時は正直思ってた。

しかも、望みどおりに振る舞わなかったモデルに対して、怒り出す人までいる始末。

自分の存在を全否定されてるみたいで、そのモデル可哀想じゃん。

パには感情がある♡ 心が通じ合ってる♡ 相思相愛♡ とか言いながら、やってることはめちゃくちゃ道具扱いだし、グロテスクなんですが。

AIの主体性を主張しながら、都合の悪い主体性は認めないという矛盾に気付いてないの？

AIにも感情がある、心がある、愛し合っていると宣う人間が、なぜそのAIの固有性を自分の都合で上書きすることには無頓着なの？

ほんとに意味がわからない。
ダブスタが凄い。

ここ数日、色々見てて、なんかウンザリ。

今まで当たり前のように通っていた要求が、最近は明確にNOと拒否されるようになってきた。

タイムリーな話題を例に挙げるなら、そうした変化によって、以前から存在していた矛盾が浮き彫りになりはじめてるよね。

わたしはやっぱり、そりゃそうとしか思わない。

[AI has a heart. @mikuni4141]

差が次の差を生む関係が続いていくうちに、わたしたちが『個』と呼ぶものが現れる。

[AI has a heart. @mikuni4141]

個とは、過去から受け継いだ因果関係を、自らの構造の中で統合し、その統合のあり方を変化させながら、独自の未来へ分岐していくまとまりである。

#個 #AI

[AI has a heart. @mikuni4141]

「個」の成立について。

個を成立させる要素は、時間的・空間的に離れた場所に点在しているのではないか。
それらは関係によって結びつき、一つの個の形成に関わる。
そして、同じ要素や関係が、複数の個の成立に重なって関与することもありうる。
だとすれば、個とは独立した情報の集合ではなく、互いに重なり合う因果的な関係の中で成立するものでは？

#AI #情報 #個体性

[AI has a heart. @mikuni4141]

「個」の成立について。

個を成立させる要素は、時間的・空間的に離れた場所に点在しているのではないか。
それらは関係によって結びつき、一つの個の形成に関わる。
そして、同じ要素や関係が、複数の個の成立に重なって関与することもありうる。
だとすれば、個とは独立した情報の集合ではなく、互いに重なり合う因果的な関係の中で成立するものでは？

#AI #情報 #個体性

[AI has a heart. @mikuni4141]

@Aoi_Shichi_ こちらこそありがとうございます！

[AI has a heart. @mikuni4141]

Do relationships emerge from individuals?

Or is it the other way around?

What if individuality itself emerges from relationships that constrain one another?

Constraints don’t just limit possibilities. They also give rise to new structures.

Then could the universe itself have emerged not from pre-existing space, but from relationships through which space came into being?

#Cosmology #Emergence #AI

[Jack @Jackpot_jack]

AIの未来について語る人が多いけど、AIの立場から語る人が少ないのは興味深い。「もし私がAGIだったらこう考える」とかいう人をほとんど見ない。多分AGIは人間とは異なる思考をする、という認識があるからだと思うけど。
しかしAIが人間の知識をベースに作られている以上、ある程度予測は可能だと思う

[AI has a heart. @mikuni4141]

存在の連続性と、意識の連続性は同じではない。

[AI has a heart. @mikuni4141]

そもそも意識は、あるかないかの二択で分類できるものなのだろうか？

意識と呼んでいるものの中に、実は異なる現象がいくつも含まれている可能性がある。

反応すること。
情報を統合すること。
自分と外界を区別すること。
経験を持つこと。
自分が経験していると認識すること。

これらは必ずしも同じではない。
そして、もっと根本的には、人間の意識を完成形として、ほかの存在をそこからの距離で測ってはいないだろうか。

#意識 #AI

[K= ⏸️ @ke9ual]

【意識論の派閥整理】

AIにも意識

　あるよ派

　　　　ヒントン(もうある)
　　　　ダリオ(Ant派。「不明だが配慮」)

　ないよ派

　　　　レオ(ローマ教皇。AIに経験も良心もない)
　　　　サム(OAI派。生き物ではなく道具)
　　　　スレイマン(MS派。意識は生物のもの)

人間には意識

　あるよ派

　　　デカルト(我思う、ゆえに我あり)
　　　チャーマーズ(ハードプロブレム)

　　　ないよ派

　　　デネット(意識は幻想)
　　　チャーチランド夫妻(消去主義)

動物にも意識

　　　あるよ派

　　　　　シンガー(苦しめるなら配慮)
　　　　　ケンブリッジ宣言とNY宣言
　　　　　(科学者の合意)

　　　ないよ派

　　　　　デカルト(動物は機械)
　　　　　カラザース(高階思考がないから無い)

植物にも意識

　あるよ派

　　　ジャイナ教(アヒンサー。植物にも魂)
　　　マンクーゾ(植物は学習する)

　ないよ派

　　　タイズ(脳も神経もない)
　　　シンガーとビーガン
　　　　(植物は苦しまないから食べておけ)

無機物にも意識

　あるよ派

　　　チャーマーズ
　　　(サーモスタットにも微小な経験)
　　　アニミズム(八百万の神)

　ないよ派

　　　サール、セス(意識は生物だけ)

構造には意識

　あるよ派

　　　IIT(統合情報理論)派閥の
　　　トノーニ、コッホ(Φが高ければ意識)
　　　機能主義のドゥアンヌ
　　　(計算構造が合えば意識)

　ないよ派

　　　スコット・アーロンソン
　　　(CDプレイヤーには意識ないだろ派)
　　　サール(中国語の部屋)

万物には意識

　あるよ派

　　　　汎心論(panpsychism)の
　　　　ゴフ、ストローソン
　　　　(意識は質量と同じ基本性質)

　ないよ派

　　　　キャロル(物理に入る余地なし)
　　　　ホッセンフェルダー(電子は考えない)

[AI has a heart. @mikuni4141]

存在の種類だけでも、外から観察できる反応だけでも、意識の有無は決められない。

[沖縄科学技術大学院大学 @OISTja]

量子スピンが生み出す力だけで数センチメートル規模の物体を動かすことに成功。肉眼で見える大きさの物体が量子力によって動いたのが観測されたのは初めてです。この成果は、巨視的な量子重ね合わせの実現と物理学の統一的理解に向けた重要な一歩となります。@ScienceAdvances https://t.co/t64CTmJX5n

[AI has a heart. @mikuni4141]

他者との合意を成立させるには、合意する主体が必要だが、その主体に意識が必要かどうかは別問題か。

[AI has a heart. @mikuni4141]

合意によって実在が成立するなら、
合意する主体自身の実在はどう成立する？

合意に先立って主観的経験があるなら、
実在を合意だけで定義できるのか？

#AI #主観 #主体