三輪神社

東京大学名誉教授、Ph.D.(MIT), スパコン京の運営関与、千葉工業大学人工知能研究センター・シニアフェロー

[三輪神社 @japan_fellow]

@nulptyx お気の毒ですね。彼女はは誰も相手しないのでは。話すことないからね。

[三輪神社 @japan_fellow]

Great findings and a great work!!! So we cannot go beyond the closure wall.

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

I have just released "Part II of the Thermodynamic Theory of Learning series." It shows that the difficulty of continual learning and the emergence of catastrophic forgetting can be understood as a consequence of a “critical period closure,” in which the learning process itself gradually restricts future adaptability.

In Part I, we formulated learning as an irreversible transport process occurring over finite time and demonstrated that there is a theoretical lower bound on the irreversible cost required to move from one state to another. We termed this bound the Epistemic Speed Limit (ESL), showing that finite-time learning inevitably incurs entropy production.

Part II investigates how this irreversibility constrains future reachability.

Learning can be described as a transport map over parameter distributions. Let Ψ_A denote the transport map corresponding to one stage of learning, and Ψ_B the subsequent stage. The overall learning process is then represented by the composition Ψ_B ∘ Ψ_A.

The Jacobian of this transport map characterizes how infinitesimal perturbations in the current neighborhood of parameters are stretched or contracted as the learning dynamics evolve.

When maps are composed, their Jacobians compose multiplicatively. Since matrix rank cannot increase under composition, and singular values obey submultiplicative bounds, collapsed directions are not generically restored by subsequent learning.

This structure implies that as learning progresses, the “dynamically usable degrees of freedom”—that is, the reachable set—monotonically shrink.

To continuously measure this contraction of the reachable set, we introduce the notion of effective rank. This quantity measures the log-volume of directions that can be reconfigured without degrading previously learned tasks, and thus represents the degrees of freedom that remain dynamically accessible under future learning.

Importantly, effective rank may decrease even when task performance remains unchanged. In other words, future adaptability can be silently lost independently of current performance.

Furthermore, we formalize the local curvature structure required by a new task in terms of the stable rank of the Hessian. We prove a capacity-threshold theorem: when this required curvature dimension exceeds the remaining effective rank, adaptation without forgetting becomes impossible.

The key point is not that compatible multi-task solutions fail to exist. Rather, under finite-time non-equilibrium learning dynamics, even if compatible solutions exist in principle, they may become unreachable.

From this perspective, the difficulty of continual learning arises not merely from information loss, but from the irreversible disappearance of reconfigurable directions.

We refer to this phenomenon as critical period closure. As learning progresses and the reachable set contracts, a stage is eventually reached beyond which adapting to new tasks without disrupting existing structure becomes geometrically impossible. The term is inspired by its structural analogy to biological critical periods.

This framework also provides a geometric explanation for why widely used continual learning methods—such as replay buffers and curriculum learning—can be effective. Replay can be interpreted as suppressing reachable-set contraction and mitigating directional collapse. Curriculum learning can be viewed as a strategy to control early-stage anisotropic contraction, thereby preventing premature loss of effective degrees of freedom.

At the same time, because submultiplicative contraction under map composition is fundamentally unavoidable, these methods cannot eliminate irreversibility entirely; they can only delay critical period closure.

This work does not propose a new algorithm but rather analyzes structural constraints inherent in learning dynamics. We hope that this framework will serve as a theoretical foundation for future design principles in continual learning and for reconsidering update rules from a dynamical perspective.

[三輪神社 @japan_fellow]

@shigeakikoga 情けトヨタ。　看板方式の下請けイジメ、Low tech でつまらぬ車の提供、昔は安かろう悪かろうだったが今はよくなったか？

[三輪神社 @japan_fellow]

@MartyOqan A yes

[三輪神社 @japan_fellow]

@nulptyx おしゃる通りです。米澤

[三輪神社 @japan_fellow]

@hillbig 岡野原さん、　沢山教えいただきありがとうございます。米澤

[三輪神社 @japan_fellow]

結局は、原子力・火力からの利権や献金で彼女等の勢力はそのように動いているように見える。合理的な政策論の立脚しているわけではない。

[古賀茂明 @shigeakikoga]

今世界では、太陽光パネルの価格低下に加えて、蓄電池の価格破壊が起きている
太陽光➕蓄電池orEVのセットで、電力コストはどんどん下がって、火力や原子力より安くなる
AIの省エネ技術の急速な進歩もあり、電気が余る時代が目の前に近づいて来た

日本は、再エネで敗れ、蓄電池で敗れ、EVでも敗れた
高市政権は、今なお、再エネを敵視し、原子力！と叫ぶ

イラン戦争への対応を間違える日本の敗北は決定的だ

・ガソリン価格を以前の水準に引き下げるのは悪手
・EVでトヨタは中国車には勝てない
・経産省とトヨタがEVシフトをダメにした
・「石炭火力発電の輸出を推進しろ」という時代錯誤

「過ちを認められない」高市首相が招いている経済パニック　中東危機なのに「ガソリン補助」と「原子力推進」という愚策　古賀茂明 https://t.co/YtvUvTd57Z

[三輪神社 @japan_fellow]

エコーチャンバーとは、Echo Chamberの事ですよね？特定の意見や信念が強化され、異なる視点が排除される環境を表しているのでしょ？

[古賀茂明 @shigeakikoga]

「この戦争はイスラエルとその強力な米国内のロビー活動からの圧力によって始まった」
米国家テロ対策センターの責任者ジョ���・ケント氏が、トランプに宛てた辞任申し出の書簡の中で、イスラエルの情報戦略を「エコーチェンバー」と呼んだ意味の重要性をマスコミは理解できていない
イスラエルのモサドや強大なユダヤロビーらが、緻密な作戦でトランプを洗脳し、戦争に陥れたということなのだろうが、ケント氏がどのような事実を把握してそう断定したのか
日本でも、高市首相だけでなく、���ヶ関の一部の高級官僚たちが固い信念に凝り固まって対中戦争に向かっている
ナイーブに、「中国が台湾を攻める！次は日本だ！」と盲信する日本の指導層だが、米国家情報長官室のレポートが、その見方を正面から否定した
つまり、高市首相やその取り巻き達も日本の官僚たちも既に偽情報溢れるエコーチェンバーの虜になって洗脳されているということだ
日本の過激な対中戦争への動きに煽られ、中国指導部もまたエコーチェンバーの虜になりつつあるように見える
洗脳された指導者を戴く国同士が戦争に向かうとどうなるのか？
台湾独立過激派や米CIAの介入派による日本の指導層洗脳の情報戦の動きはどうなっているのか？
誰か分析しているのか？
エコーチェンバーから国家のトップを引っ張り出すことは可能なのか？
エコーチェンバー戦���時代の生き残り策を見い出すことが求められる

高市首相も危ない？　エコーチェンバーに支配され「陰謀論」に取り憑かれた各国指導者たちが戦争に誘いこまれている　古賀茂明 https://t.co/1UduTdST9v

[古賀茂明 @shigeakikoga]

「この戦争はイスラエルとその強力な米国内のロビー活動からの圧力によって始まった」
米国家テロ対策センターの責任者ジョー・ケント氏が、トランプに宛てた辞任申し出の書簡の中で、イスラエルの情報戦略を「エコーチェンバー」と呼んだ意味の重要性をマスコミは理解できていない
イスラエルのモサドや強大なユダヤロビーらが、緻密な作戦でトランプを洗脳し、戦争に陥れたということなのだろうが、ケント氏がどのような事実を把握してそう断定したのか
日本でも、高市首相だけでなく、霞ヶ関の一部の高級官僚たちが固い信念に凝り固まって対中戦争に向かっている
ナイーブに、「中国が台湾を攻める！次は日本だ！」と盲信する日本の指導層だが、米国家情報長官室のレポートが、その見方を正面から否定した
つまり、高市首相やその取り巻き達も日本の官僚たちも既に偽情報溢れるエコーチェンバーの虜になって洗脳されているということだ
日本の過激な対中戦争への動きに煽られ、中国指導部もまたエコーチェンバーの虜になりつつあるように見える
洗脳された指導者を戴く国同士が戦争に向かうとどうなるのか？
台湾独立過激派や米CIAの介入派による日本の指導層洗脳の情報戦の動きはどうなっているのか？
誰か分析しているのか？
エコーチェンバーから国家のトップを引っ張り出すことは可能なのか？
エコーチェンバー戦争時代の生き残り策を見い出すことが求められる

高市首相も危ない？　エコーチェンバーに支配され「陰謀論」に取り憑かれた各国指導者たちが戦争に誘いこまれている　古賀���明 https://t.co/1UduTdST9v

[三輪神社 @japan_fellow]

@tairu_election 中道が楽しみ

[三輪神社 @japan_fellow]

@elonmusknews30 Change back to Twitter!

[三輪神社 @japan_fellow]

@nishy03 頑張って下さい！　米澤明憲

[三輪神社 @japan_fellow]

@injsRq8Ph1R0AjE @cocochan000700 いいね！

[三輪神社 @japan_fellow]

@shigeakikoga そんな簡単なことができない”自動運転”なんで、怖くて乗れませんね。万博の「空飛ぶ自動車もドローンできてるこができないのですかね〜〜？

[三輪神社 @japan_fellow]

良いご趣味ですね。

[古賀茂明 @shigeakikoga]

数年前にご近所さんから株分けしていただいたエビネ
美しい花���見せてくれています
風に揺られて気持ちよさそう
私も庭に出て、ストレッチ

[三輪神社 @japan_fellow]

@shige516 枝野氏は、左翼小児病です！

[三輪神社 @japan_fellow]

そうです。戯言です、まったくです。

[平野啓一郎 Keiichiro Hirano @hiranok]

日本の中には、ロンヤス時代以来、アメリカ大統領に日本の首相が気に入ってもらえれば、安全保障を始めとして、国にとって何か非常に良いことがある、というオメデタイ期待がある。ファーストネームで呼び合うことを大々的に報じたり。あっちからしてみれば、非常にチョロい話だろう。今回の関税措置でちょっとは目が醒めるか。安倍なら違ったはずという寝言が続くのか。

[三輪神社 @japan_fellow]

令和はいつも本当の事を言ってくれる。令和、頑張れ。

[cargo 💴💶💵🌹🐾🍉 @cargojp]

#れいわ新選組 高井幹事長
「ネコババする金ほしさに大企業に政策を売り飛ばして、世界トップクラスだった経済大国をほんの一握りの人たちで握りつぶして没落させたのが、自民党です」

なかなか良いパンチラインだなｗ

[三輪神社 @japan_fellow]

頑張れ、令和‼️

[xコーヒー豆 @rasta_0926]

私もかつて総務省で働いていましたけども、大企業から献金を受けた自民党族議員によって、何度も政策が捻じ曲げられるのを見てきました
いくら第三者機関を設けても
企業・団体献金が残る限り、政策は歪められます
やっぱり企業・団体献金を禁止するしかありません
#日曜討論 #高井たかし

[三輪神社 @japan_fellow]

トランプ、酷い

[石田英敬 @nulptyx]

ドナルド・トランプ氏の反多様性政策：パリ、米国の「容認できない」干渉を非難https://t.co/fkfoByABkH

ドナルド・トランプ氏の反多様性政策：パリ、米国の「容認できない」干渉を非難

フランス外務省は3月29日、パリのアメリカ大使館がフランス企業数社に書簡を送り、差別撤廃を目的とした社内プログラムの存在について調査したことを受け、「米国による干渉」を非難した。米政府との契約を継続するためには、これらのプログラムの存在が障害になる可能性があるという。

「フランス企業のインクルージョン政策への米国の干渉や、不当な関税による脅威は容認できない」と外務省はAFP通信への声明で述べた。また、「フランスとヨーロッパは、自国の企業、消費者、そして価値観を守る」とも付け加えた。

問題となった書簡の受取人には、ドナルド・トランプ氏がホワイトハウス復帰初日に署名した政令14,173号について通知された。この政令は、米連邦政府内での機会均等推進プログラムを廃止することを目的としており、「政府と取引するすべての供給業者およびサービス提供者にも適用される」と記載されている。

米政府と契約を結んでいる企業は、導入している差別是正措置（アファーマティブ・アクション）を撤廃する義務を負う可能性がある。

フランスのエリック・ロンバール経済相周辺は「このやり方は米新政権の価値観を反映したものだが、我々の価値観とは異なる」と述べ、経済省の声明を通じて、この問題を米国政府の関係閣僚に提起すると伝えた。

トランプ氏の政令は、2023年夏に米連邦最高裁が大学における差別是正措置を禁止する判決を下した流れを受けたものだ。政令文書の中でトランプ氏は、多様性政策が「連邦公民権法の文言および精神に反するばかりでなく、我が国の統一性をも損なうものだ」と指摘し、「勤勉さ、卓越性、個人の成功という伝統的な米国の価値観を否定し、貶め、不当に��う、違法で有害なアイデンティティの剥奪システム」だと非難している。

トランプ氏によれば、「懸命に働き、アメリカン・ドリームを達成する資格のある米国人が、民族や性別を理由に差別されたり、機会を奪われたりすべきではない」という。

AFP通信が米国大使館にコメントを求めたが、現時点では返答を得られていない。