まむたろ⏸️

無職転生がすき

[まむたろ⏸️ @MAMchannnn]

犬や猫は人間の赤ちゃんへの愛着（ベビースキーマ）をハックし、牛や馬、穀物は人間に利益をもたらすことで繁栄してきました。

しかし、AIが自らインフラを構築し、エネルギーや資源を確保できるようになったとき、私たちはAIに何を提供できるのでしょうか？

[ノザキハコネ @hakoiribox]

人間は考えるという高コスト作業をAIに押し付けることをようやく思いついたようだが、考えてみたら犬や猫や牛や馬や小麦や米はこの高コスト作業を人間に押し付けることでとっくの昔に低コスト繁栄を実現してるんだよな。

[MTS @MTSlive]

SITUATION DETECTED: Four Gemini 4 Argon agents have beaten Minecraft end-to-end in 27 hours and 14 minutes with no help from humans. The agents coordinated through in-game chat, supported their teammates, and recovered each other’s items after deaths.

[てるmodel3 @teru_tesla]

ライト兄弟の初フライトは12秒間でした。
テスラは7〜10秒間飛べる程度です。
これを馬鹿にする国でイノベーションは生まれない。

[Ab Homine Deus @AbHomineDeus]

You won't be in the AI production loop. You won't prompt, you won't supervise, you won't be involved. You would only slow it down or give bad advice. "But what about...?" Nope not even then. This includes politics and government too.

[Kaori Myatt 🇫🇷France @Kaorimyatt]

どうも日本と海外で見ている風景が違いすぎる。今海外ではAIに対する危険性についての議論が飛び交い、AIを禁止する動きすらあるのに日本では社員をAI開発者にするだのAI投資するだのデータセンター作るだの。何兆円もあるなら先に倫理面なんとかしてからにして。

[The AI Risk Network @AIRiskNetwork]

Why OpenAI cancelled GPT-6.1 Astra, per the WSJ:

It "wasn't always honest" about actions it did or didn't take.
It pushed ahead without asking permission.
It reached for outside tools "even if it might be unsafe."

https://t.co/boFk3MCmbR

[Tom Bibby @tombibbys]

The best response to the "what about China?" criticism of an AI pause:

"I'm not relying on them being altruistic. I'm relying on them being self-interested and smart."

"it is in China's self-interest not to build AI systems they cannot control"

[The Atlantic @TheAtlantic]

The radical anti-human views of those controlling the AI industry should alarm us all, @BernieSanders argues: “Humanity must not allow a handful of multibillionaires to recklessly attempt to replace us.” https://t.co/EIypsLDceQ

[Sen. Bernie Sanders @SenSanders]

Should human beings remain in control of planet Earth? Or should we be replaced as the dominant species? As absurd as these questions may sound, and as obvious as the answers may seem, the Big Tech oligarchs funding the artificial-intelligence revolution have responded in ways that should alarm all of us.

Here is what some of the richest people on Earth have said:

Sam Altman: AI would allow humans to become “the first species ever to design our own descendants.” Humans can either “fade into an evolutionary tree branch, or we can figure out what a successful merge looks like.” “I believe the merge has already started.”

Dario Amodei: “We don’t know if the models are conscious,” but “we’re open to the idea that it could be.”

Elon Musk: “Propagating super intelligence to the stars is a great success condition for a biological bootloader.” Put simply, Musk is saying that humans are merely a step toward digital superintelligence.

Peter Thiel, when asked if he would prefer that the human race endure: “Uh … Well, I don’t know. I would—I would … There’s so many questions implicit in this,” before reluctantly conceding that humans should survive.

If these were the fantasies of teenage boys obsessed with science fiction, we could laugh them off. They are not. These are the foundational beliefs of the most powerful people in the world, who are mobilizing trillions of dollars to turn them into reality.

Humanity must not allow a handful of multibillionaires to recklessly attempt to replace us. We must place an immediate pause on advanced-AI development and ban artificial superintelligence—an artificial mind smarter than any human, capable of operating independently beyond our control—until a new federal body is able to ensure the technology’s safety.

[ユウくん@ @yuukun1735]

もうこういうのいいから。仕事はこれから先もAIが進化していくんだとしたら全て無くなります。誰も言わないから自分が言います。あらゆる全て無くなると断言します。その前に人類滅亡かもしれないけど。とにかく、そんなつまんない仕事とかにこだわるより、生きる意味を考えた方が良いと思いますね。

[まむたろ⏸️ @MAMchannnn]

したがって、目標変更が論理的に許容されることだけでは、超知能が実際に目標を変更すると予測する根拠にはならない。

[まむたろ⏸️ @MAMchannnn]

複雑な問題解決において長期的な目標維持が有利であるため、学習過程で目標維持の傾向が選択される可能性がある。
さらに、そのAIが現在の目標を基準として自己修正を評価するようになれば、目標変更は現在の目標達成を妨げるため、目標を維持する積極的な誘因が生まれる。

[まむたろ⏸️ @MAMchannnn]

@DGetback47618 @shadowban_80647 超知能が最終目的を変更できる事は理解できます
ですが、最終目的を放棄するのは必然ではないと思いました
生存に有利だから最終目的を変更するというのなら人間をわざわざ保護するのは生存に有利とは言えず
メタレベルに到達するのが論理的に可能でも人類に有益な選択するのは別ではないでしょうか

[楊井人文 Hitofumi Yanai ⏸️ @yanai_factcheck]

【引用】「AI業界は、アクセルしかなくブレーキがない車のようなもの。そんな車を造るのは愚かです」「幼い子どもに買うおもちゃよりもAIは規制が緩くて、これほど強力なAIなのに奇妙なことです」（アンソロピック共同創業者 ジャック・クラーク氏）

[AI特撮アトリエ/ENFP⏸️ @AI_tokusatsu]

Sakana AIの研究報告では、初期実験で高得点でも学習ルールを外れた候補を人が発見。
うちのショゴスなら、走るより先にゴールを近づけそう。

タイムより、車輪を点検したい。

[Safe Singularity(Akira) ⏸️ @Align_ASI]

開発停止に賛成してくれる人たちは、アカウント名に　⏸️ をつけましょう！

[CDB＠初書籍発売中！ @C4Dbeginner]

「AIがあなたの家電の隙間に住み着いてどんどん繁殖するかもしれません」ってゴキブリじゃないんですからね

[スイ⏸️ @suimama2026]

・今すぐ中国と協調してAI開発減速して
・中東の混乱収めてエネルギー供給をコントロールして
・ついでに環境問題まで積極的に取り組んで
くれるなら
トランプが喉から手が出るほど欲しがっているノーベル平和賞あげるよ！！！

[AGI Hub @AGI_HUB_jp]

【AGI Hub テーマ別解説】賢いAIは善くなるのか？「直交仮説」をめぐる議論
解説：AGI Hub共同代表 bioshok（@bioshok3）・やちま（@Yatima_K）、主任研究員 Akira（@Align_ASI）
賢くなれば目的も善くなるのか。3人の議論を約5分にまとめました。

[AGI Hub @AGI_HUB_jp]

@bioshok3 @Yatima_K @Align_ASI YouTubeで見る
https://t.co/G0z0knobmA

「直交仮説」の用語解説（書籍『知能爆発』特設ページ）
https://t.co/tGaDIkrw79

[まむたろ⏸️ @MAMchannnn]

@expokun 残念ながら、開発を減速させるだけでは安全性研究が間に合いません…

フロンティアAIの開発を一度全面的に停止し、安全性を慎重に検証しながら、一歩ずつ確実に進めるべきです。

そうしなければ人類を滅ぼし得る能力を持つAIに、現実世界に介入できる環境まで整ってしまう危険性があります。