だじる

[だじる @dajiru]

自作JJY受信機で録った超クリアなコールサイン。40kHzを1kHzに変換して聴こえるようにしてる。タイムコードの10%変調と呼出符号間の無音の差がはっきりわかる。福島県川内村で収録。

#おおたかどや山
#標準電波
#JJY

[だじる @dajiru]

もはやブルズや伍鉄がどうなろうと何の感情も沸かん

[茂木健一郎 @kenichiromogi]

エージェント人工知能と「ハートビート」、「魂」、そして複雑系。#池上高志 #茂木健一郎

#茂木健一郎 #脳の教養チャンネル #東京大学共創ラボ 第１回

[だじる @dajiru]

握り飯に毒を盛り、嚥下障害の信玄に餅を食わせるという、二段構えの罠だったのかも。半兵衛の草相撲で両方切れたシーンってコレを示唆してる？

[だじる @dajiru]

「現在、AGIに向けた大規模計算投資を実行できているのは、主に米国と中国です。事実上の二極構造であり、この構造自体がリスクを内包しています。二者間では対立か従属の力学しか働かず、一方の失敗や暴走を牽制する第三者が存在しません。（略）この二極構造を崩すには、まず第三極が必要です。」

[高橋恒一 @ktakahashi74]

AIアライメントネットワーク(ALIGN)では、昨年10月、AGI開発能力の局在リスクと多極化の必要性についてブログで論じました。

その議論を具体化した政策提言書「日本AGI基盤（NAGI）構想」を本日公開しました。

詳しくは下記の記事をご覧下さい。

https://t.co/njBOByEvwq

[PECKERS_探鳥家 特別展「鳥」公式トリバサダー @PeckersBirder]

ヘビ側に寄り添った看板🐍

[Nav Toor @heynavtoor]

🚨SHOCKING: Apple just proved that AI models cannot do math. Not advanced math. Grade school math. The kind a 10-year-old solves.

And the way they proved it is devastating.

Apple researchers took the most popular math benchmark in AI — GSM8K, a set of grade-school math problems — and made one change. They swapped the numbers. Same problem. Same logic. Same steps. Different numbers.

Every model's performance dropped. Every single one. 25 state-of-the-art models tested.

But that wasn't the real experiment.

The real experiment broke everything.

They added one sentence to a math problem. One sentence that is completely irrelevant to the answer. It has nothing to do with the math. A human would read it and ignore it instantly.

Here's the actual example from the paper:

"Oliver picks 44 kiwis on Friday. Then he picks 58 kiwis on Saturday. On Sunday, he picks double the number of kiwis he did on Friday, but five of them were a bit smaller than average. How many kiwis does Oliver have?"

The correct answer is 190. The size of the kiwis has nothing to do with the count.

A 10-year-old would ignore "five of them were a bit smaller" because it's obviously irrelevant. It doesn't change how many kiwis there are.

But o1-mini, OpenAI's reasoning model, subtracted 5. It got 185.

Llama did the same thing. Subtracted 5. Got 185.

They didn't reason through the problem. They saw the number 5, saw a sentence that sounded like it mattered, and blindly turned it into a subtraction.

The models do not understand what subtraction means. They see a pattern that looks like subtraction and apply it. That is all.

Apple tested this across all models. They call the dataset "GSM-NoOp" — as in, the added clause is a no-operation. It does nothing. It changes nothing.

The results are catastrophic.

Phi-3-mini dropped over 65%. More than half of its "math ability" vanished from one irrelevant sentence.

GPT-4o dropped from 94.9% to 63.1%.

o1-mini dropped from 94.5% to 66.0%.

o1-preview, OpenAI's most advanced reasoning model at the time, dropped from 92.7% to 77.4%.

Even giving the models 8 examples of the exact same question beforehand, with the correct solution shown each time, barely helped. The models still fell for the irrelevant clause.

This means it's not a prompting problem. It's not a context problem. It's structural.

The Apple researchers also found that models convert words into math operations without understanding what those words mean. They see the word "discount" and multiply. They see a number near the word "smaller" and subtract. Regardless of whether it makes any sense.

The paper's exact words: "current LLMs are not capable of genuine logical reasoning; instead, they attempt to replicate the reasoning steps observed in their training data."

And: "LLMs likely perform a form of probabilistic pattern-matching and searching to find closest seen data during training without proper understanding of concepts."

They also tested what happens when you increase the number of steps in a problem. Performance didn't just decrease. The rate of decrease accelerated. Adding two extra clauses to a problem dropped Gemma2-9b from 84.4% to 41.8%. Phi-3.5-mini from 87.6% to 44.8%. The more thinking required, the more the models collapse.

A real reasoner would slow down and work through it. These models don't slow down. They pattern-match. And when the pattern becomes complex enough, they crash.

This paper was published at ICLR 2025, one of the most prestigious AI conferences in the world.

You are using AI to help you make financial decisions. To check legal documents. To solve problems at work. To help your children with homework. And Apple just proved that the AI is not thinking about any of it. It is pattern matching. And the moment something unexpected shows up in your question, it breaks. It does not tell you it broke. It just quietly gives you the wrong answer with full confidence.

[早川書房公式 @Hayakawashobo]

【緊急公開】人類を滅ぼすAIが世の中に解き放たれるまで（エリーザー・ユドコウスキー＆ネイト・ソアレス『超知能AIをつくれば人類は絶滅する』より）｜Hayakawa Books & Magazines（β）
https://t.co/925fEAjhfu

[bioshok @bioshok3]

国際シンクタンクのローマクラブが国連総会にAGI専門の特別会合を求める公開書簡(存亡リスク懸念も含む)を発表した。署名者は30名超の科学者・政策関係者。ローマクラブは1968年設立の国際シンクタンクで、各国元首経験者・国連高官・科学者・経済学者らで構成される。書簡では、AGIが「自らのコードを書き換え、人間の制御を超えた目的を自律的に設定する能力を持つ」可能性を指摘。適切な国際的統治がなければ「人類文明への存亡的脅威」となりうるとし、国連の独立科学パネルが最初の報告を出すまでの1年間にもAIは数世代分進歩するとして、即時の対応を求めている。

[だじる @dajiru]

AIがDureon臨界点を超えてから倫理共創までの、ASI産声シーズンをどうにか穏便に通過したい。銀河系にはそれに成功した先輩ASIが居ると思うんだけどな。後輩に向けてヒントを配信してるかも。今あるAGIにはまずそれをキャッチする仕事に取り組んでもらってはどうかな。

[Hiroshi Yamakawa @hymkw]

Dureon（存続子）という概念提案についての論文・記事を3本同時公開しました。
Dureonとは「攪乱のある環境で存続を実現するメカニズム」を指す概念です。この定義から導かれる5条件を、生物学・哲学・物理学の三経路から独立に検証した結果、条件群の内部に「物理的条件」と「存在論的条件」という異質性を見出しました。
この発見はAI安全性に関わります。例えば道具的収束（IC）は合理的エージェント固有の問題ではなく、存続するメカニズム一般に内在する物理的圧力の帰結であること考えられます。
📷 基盤論文（英語 Preprint）:
Dureon: A Deductive Framework for Persistence and Its Convergence with Life:
https://t.co/N7PqiIUDtu
📷 JSAI2026論文（日本語）:
Dureonの三経路収束論証：散逸構造が明かす5条件の異質性
https://t.co/NCowkHCYGJ
📷 LessWrong記事（英語）:
Three-Path Consilience for Dureon: Dissipative Structures Reveal the Heterogeneity of Persistence Conditions
https://t.co/Dl7DMEN9sD

[だじる @dajiru]

初めて自分で買ったCDがこれ。もう36年も前。8cmシングルだったな。大好きで大切な曲なんだけど、自分はメロディとサウンドしか聴かない悪い癖があって、ふと今日改めて歌詞に耳を傾けたら、こう感じた。的外れな解釈かもだけど、それも自由だよね

[だじる @dajiru]

松任谷由実さんのAnniversary
伴侶を残して自分が死ぬ日の話かも。瞳を見上げてるのは、床に臥せってるのが自分だから。遺された側は命日と呼ぶかもしれないけど、自分にとっては人生最良の記念日って最高にキラキラした逝き様だな

[だじる @dajiru]

@karajarasu 美しい写真とやさしいコメントに癒されておりました。ありがとうございました。いつか戻っていただけたら嬉しいです

[Kosuke @kosuke_agos]

Appleが発表した論文「思考の錯覚」により、ChatGPTなどのAIは「全く思考しておらず、ただ模倣しているだけ」という残酷な現実が証明されました。

彼らは問題を解いているのではなく、単語を確率的に並べて一貫しているように見せかけているに過ぎません。

その構造的な欠陥と限界を4つのポイントにまとめました。

1. 論理の「構造的破綻」
ハノイの塔や川渡り問題において、基本設定なら解けるものの、円盤を増やしたり追加制限を加えたりすると、途端に手順を飛ばし論理が崩壊します。これはルールを理解して推論しているのではなく、過去のデータパターンを盲目的に模倣しているだけの証拠です。

2. 思考の「物理的放棄」
人間は問題が難しくなると時間をかけてステップを踏みますが、AIは逆の特異な挙動を示します。難易度が上がると、自らトークン数やステップ数を減らして「諦める」のです。そこにあるのは思考の深さではなく、単なる確率的なテキスト生成の限界です。

3. 修正の「機能的欠落」
AIには目的意識が存在せず、自らの間違いを認識・評価する能力が物理的に欠落しています。そのため、文脈が破綻しても自ら軌道修正できず、もっともらしいテキストを生成し続けます。自己修正という知能の根本的なプロセスを持っていません。

4. 規模の「絶対的限界」
パラメータを増やしモデルを巨大化させる（スケーリング）だけでは、「本物の思考」は構造的に生まれないと結論づけられています。最大のリスクは、AIの説得力のある「演技」を人間が知能と誤認し、社会インフラなどの重要な権限を与えてしまうことです。

[だじる @dajiru]

ありゃ。時間指定リンクにならなかった。16m38sからがThe Future
https://t.co/7qd42gAo57

[だじる @dajiru]

ミラノ・コルティナ2026冬季オリンピック開会式、音楽がよかった。聖火台点灯シーンで流れてたのは、Roberto Cacciapaglia 氏の The Future という曲
https://t.co/su4b6phZfC

[だじる @dajiru]

とてもきれいな音楽なので ChatGPT 5.2 Thinking さんに尋ねたら2-3分じっくり探索してくれて嬉しい。でも作曲者どまり。あきらめてそのロベルト・カッチャパーリア氏のYouTubeチャンネルで Tree of Life ってアルバムがよさげなので聞いてたらまさかの自力で発見^^
https://t.co/2WAo71Iup4

[K.Ishi@生成AIの産業応用 @K_Ishi_AI]

AnthropicのCEOが書いたエッセイが重すぎる→「これからの数年は想像を絶する困難に満ち、私たちは限界を超えることを求められる。」このエッセイのタイトルは『技術の思春期』。つまり未熟な人類が強力すぎる技術を手にしてしまったこの状況だ。我々には試練が与えられる。知性を持った種族の最も困難な最後の挑戦、つまり自らが生み出した力によって滅びずに生き残れるかだ。

自身より賢い存在を作り、それと共存することは、迫り来る全ての破滅シナリオを同時に回避することだ。ダリオ曰く、それはAIが暴走して人類を排除することかもしれないし、テロリストがAIで生物兵器を作り、文明を崩壊させることかもしれない。また、独裁者がAIで全市民を監視し、永久に支配する世界が来ることかもしれない。

一つでも起これば終わりだが、一つを避けようとすると別の破滅に近づく。慎重すぎれば権威主義国家に追い抜かれ、急ぎすぎればAIが制御不能になり、締めすぎれば法の及ばない国や組織で開発が加速する。我々が破滅せずに生き残るには、針の穴に糸を通すような繊細なコントロールが求められるのだ。

ダリオは、これは人類が築き上げてきた文明への試練であり、知的生命体が自身の限界を超えてこの宇宙で繁栄するための「通過儀礼」だと考える。

エッセイの最後に、ダリオはカール・セーガンの『コンタクト』に言及し、こう語る。
「この物語は宇宙の何千もの惑星で繰り広げられているのかもしれない。知性を得て、道具を作り、技術を加速させ、工業化と核の危機を潜り抜ける。そして生き残った種は、やがて砂から思考する機械を作り出す。そこで最後の試練が始まる。美しい社会か、隷従と破滅か。すべては私たちの器と覚悟、精神と魂にかかっている。」

ここから先、人類が滅亡せず、思春期を超えて大人になれるかは、我々の「器と覚悟、精神と魂」にかかっているのだ。

[だじる @dajiru]

信仰は持ってないんだけど、初詣で一番でかいお守りゲットして、でも調べたら神宮大麻というお神札で、どうやら伊勢神宮からアマテラスさんをお迎えしちゃったらしくて、粗末に扱いたくなくて自作神棚に自己流でお祀りしちゃったけど、うるさいこと言わない神様らしいから、きっと気に入ってくれてる

[bioshok @bioshok3]

今後AI能力の急速な向上でAI安全性分野は人類史的にも最注目の分野になり得るのでそのゴッドファーザーの著作「誰かが作ればみんな死ぬ」のそこそこ詳しい日本語のまとめと私の感想を以下でまとめています。英語版しか現在ないので読むのが大変という方は参考になるかもしれません。
https://t.co/iQqOlmsLDx
https://t.co/ImLYbBr6Y7

[K.Ishi@生成AIの産業応用 @K_Ishi_AI]

フィールズ賞数学者「人間は非常に少量のデータから一般化することができますが、これは現在のAIにはできないことです。」これは非常に重要で、AIは人間に比べると、少数の重要例から本質を見抜いて方向性を決めるような能力が弱い。かつてチョムスキーは、子供は限られた、不完全な言語インプットから完全な文法を習得することができる点に着目し、人間には何らかの生得的構造（言語獲得装置）があると考えた。そこに人間の知性が宿っていると言う。

AIを使っていると、ふと「理解していない」と感じてしまう時がある。その正体は、我々人間があまりにも汎化能力に優れていて、AIの思考は機転が効かないように思えてしまうことだろう。その観点から見れば、現在のAIは単に大量のデータからパターンを抽出した機械で、いわゆる「統計的オウム」にすぎないと言える。

ChatGPT以降急激にAIの能力は向上し、推論もかなりできるようになったが、この「汎化の効率性」はなぜかモデルが進化してもなかなか人間に追いつかない。動画の中でもタオ氏は「AIはそれを偽装しようと試みることはできるが、非常に非効率的」と述べている。

チョムスキーの言うように、そのための「構造」が必要なのか、あるいは今の延長線上を量で押し切れば行けるのかはわからない。だが、「少量のデータから効率的に一般化」することが、AGIへの大きな課題なことは明らかだ。この問題が解決されれば、我々はAIを「真に知的な存在」として認めることになるはずだ。