うぉむ太郎

しがないウォンバット博士（理学）

[FUKUSHIMA Gen @gnfksm]

コーネル大の数学者が時にマジ泣きしながらながら語る、AIの台頭と数学者としての人生の目的の喪失の話。本人の実直さが伝わってきて、涙なしには聞けない。他人事ではない。
https://t.co/zibnRMPReN

[Thomas Bloom @thomasfbloom]

A question for actual mathematicians/people who have actually tried to read and understand the OpenAI proofs:

What (if any) are the big new methods/ideas you've seen in the proofs?

1/

[うぉむ太郎 @xitsune]

こういう例を見てもなお、マジで泥臭い実験をAIやロボットが自律的・自動的に遂行してくれる未来のイメージが殆ど湧かないよな〜出来るのなロボットでチーム作りたい。

[+9 @PlusNineOnZero]

昨日あったこと

Claudeと実験のセットアップの設計を議論する(結構複雑な光学系)
↓
実際に組み立てる、が、その最中あるレンズの焦点距離を予定から変える
↓
組み立てたのでデータをとってClaudeに見せる
↓
Claude:「もしかしてこのレンズの焦点距離変えましたか？」

[うぉむ太郎 @xitsune]

ハルデン予想、解決か？全く不思議ではないけど感慨深いものがある。

[うぉむ太郎 @xitsune]

AIをSIと改名する案、アルミの元素記号と混同しづらくなるという数少ないメリットがある。

[うぉむ太郎 @xitsune]

ヒューマノイドロボット、手が4本くらいあった方が人間の生活空間で暮らす上でも便利だと思う。てか細かいはんだ付けとか空中配線をやって欲しい。

[Condensed Matter Theory Center @condensed_the]

An extremely instructive development in the use of AI in theoretical physics just emerged from the University of Chicago, thanks to Dam Son-- everybody and anybody seriously interested in theoretical physics should read this and ponder its implications
https://t.co/toFnUyioDY

[うぉむ太郎 @xitsune]

週末で量子非破壊測定の議論について少し理解が深まった。

[Tsubame @Tsubame33785667]

5000年の数学史で初めて、「理解」と「発見」が分離し始めている。AIが人間には理解が追いつかないほど大量の正しい数学的発見を生み出す世界で、「数学をする」とは何を意味するのだろうか。数学は「まずAIが道を開き、人間がそれを解読して意味を回収する学問」に変わってしまうかもしれない。
サンヒョン・キム「私たちは今、大きな混乱と変化のただ中にいます。数学の5000年の歴史でも経験したことのない変化です。
数学は、他の科学分野とはかなり異なっていました。トーマス・クーンの科学革命論でも、数学はその枠組みには当てはまりませんでした。数学ではずっと同じパラダイムが続いていて、偉大な定理を証明する、つまり大きな発見をし、それを深く理解することが目標でした。それが5000年間の数学の歴史だったのです。
最初は役に立たないように見えても、数百年、あるいは数千年後には人類にとって極めて有用になることもありました。しかし歴史上初めて、この二つが分離し始めています。「理解」と「発見」です。
これまでは両者は一致していました。大きな発見をするということは、その対象を非常によく理解していることを意味しており、それこそが数学にとって望ましいことでした。
ところが今、私たちはAIが生み出す発見に圧倒されています。もちろん間違いもありますが、そうした間違いはこれからますます減っていくでしょう。AIはさらに進歩し、その答えや発見もますます正確になっていきます。
そして数学者たちは気づき始めています。私たちはあまりにも多くの発見を手にする一方で、それに対する理解ははるかに少ないのです。今まさに、それが起きています。私たちはこの状況を非常に懸念しています」

[TmT @tmtakahas]

――日本の研究費制度には何が必要ですか。

「少なくとも医学や生命科学では、トップダウン型の資金が多すぎると思います。上から『これをやれ』と決めるお金だけでなく、それぞれの研究者が面白いアイデアを出し、研究者同士が厳しく評価し合って良いアイデアにお金を出す、ボトムアップ型の研究費をもっと増やすべきです」

「特に地方大学など研究の裾野が狭くなると、それだけ独創的なアイデアが出にくくなります。広く浅く支援する科研費（科学研究費助成事業）のような仕組みをもっと充実させてほしい。もう少し、国が研究者を信用してほしいですね」

[うぉむ太郎 @xitsune]

実験上手そうだな・・・

[manabu kosaka / 小坂学 @coca1127]

制作記録です。
プレステ2制作、318日目。
よく観察して進めます。

[うぉむ太郎 @xitsune]

面白い。希望があると思う。

[prof-g @prof_g]

if the highest goal of mathematics was to achieve clear conceptual understanding of deep ideas, rather than solving important problems, then why is the fields medal the highest award? why is it that good expositors/writers are often considered "not serious"?

[うぉむ太郎 @xitsune]

生き物はただ生まれて生きて死ぬだけだけ。人間もそう。自分でそれに意味を与えられればそれでいいんですよ。

[うぉむ太郎 @xitsune]

そういう僕もAlphaGoの例の創造的な４線のカタツキや、第１戦でのセドルの挑発に対する定石外しを見た時に衝撃を受けニヒリズムに陥り、人間の価値とは？などと大袈裟に考えた。でもそんなものは端っから無いと考えて、だいぶ楽になった。

[うぉむ太郎 @xitsune]

Xではニヒリズムに陥っている人が見られる。AIについて悲観的なストーリーを想定するほど自己催眠的に人類が無価値と信じられてきてしまうのではないだろうか。

[うぉむ太郎 @xitsune]

人間もやる価値がある仕事は何か？
僕は「実験」だと思う。触媒の量を間違って指示の1000倍入れたり、アセトンとグリセリンを取り違えた上に試料がもったいないからと実験を続行した結果、ノーベル賞級の発見が出ることもある。「賢さ」で見通せないほど自然現象空間は広い。みんなで掘ろう！

[うぉむ太郎 @xitsune]

『実際、いまや希少で貴重な資源になっているのは、「有望な問題を見つけ出すこと」そのものだ。』
解ける問題と解けない問題の境界に何があるかを見極めること自体がしばらくの間は慰めになるかもしれない。でも最終的には、人間にとって面白くないとなる気もする。

[IT navi @itnavi2022]

AIが数学の未解決問題を解くことに対する天才数学者テレンス・タオ氏のコメント

【訳】私は最近、「良質で実りの多い未解決問題」の蓄積が、いまや再生不可能な形で掘り尽くされつつあり、将来的にはそうした問題そのものが不足する可能性がある、と書いた。

これは一見すると直感に反するかもしれない。なぜなら、考え得る問題の数そのものは無限だからだ。だが、次のようなたとえを考えると分かりやすいかもしれない。ある国や地域が巨大な海に囲まれていたとしても、深刻な飲料水不足に陥ることはあり得る。

数学の未解決問題なら、たとえば「円周率の (10^{10^{10}}) 桁目を求めよ」といった具合に、いくらでも作り出せる。しかし、その大半は注意を向ける価値がない。そこから新たな洞察や、ほかの問題とのつながりが見つかりそうな兆候が特にないからだ。また、既知の手法と比べて簡単すぎたり、逆にあまりに難しすぎたりして、取り組んでも何も学べないこともある。（1/4）

ある問いが本当に取り上げる価値のあるものかどうかを見極めることは、時間をかけた慎重かつ主観的なプロセスである。そこでは、同種の過去の問題に取り組んだ際に、どのような優れた数学が生まれたか、あるいは生まれなかったかという歴史的経験が重要な判断材料になる。

特に、その分野の「難易度の地形（difficulty landscape）」を理解すること――つまり、既知の方法で非常に簡単に答えられる問いは何か、多少の努力をすれば解けるものは何か、そして解くことが不可能なものは何か――は、こうした判断を下すうえで極めて重要だ。

また、外部とのつながりが見つかって初めて面白くなる問題もある。たとえば仮に、リーマン・ゼータ関数と、さまざまな (n) に対する円周率の (10^{10^n}) 桁目との間に予想外の関係が発見されたとしよう。そうなれば、それまで意味の薄かった「円周率の (10^{10^{10}}) 桁目を求める」という問いも、突然重要な問題になる。

（ただし、この具体例が実際に起こる可能性は極めて低いことを強調しておきたい。あくまで仮想的な例として挙げている。）

数学における新たな進歩は、それが新しい手法によるものであれ、技術によるものであれ、過去の文献ライブラリへのアクセスといったインフラによるものであれ、問題を解く難しさを低下させる。

これは一般的には良いことである。しかしその代償として、その分野の「難易度の地形」が平坦化してしまう。あるツールの適用範囲内では地形の起伏が見えなくなり、そこから有望な問題を見つけ出すことが難しくなるのだ。

通常、この影響は、そのツールによって「到達可能な成果の範囲」が広がり、新たに探究すべき境界線が生まれることで相殺される。（2/4）

しかし、現在のAI時代に特徴的なのは、そうした明確な境界線が存在しないことである。

AIツールはすでに数学の多くの領域で難易度の地形を平坦化しており、その領域で有望な新しい問題を見つける能力を失わせつつある。その一方で、「AIで解ける問題」と「AIにとって難しい問題」とを隔てる明確なフロンティアは存在していない。

もちろんAIにとって難しい問題は依然として存在する。問題の難易度には上限がなく、決定不能な問題すら存在するからだ。

明確な境界が見えない理由の一つは、AI技術そのものが急速に変化していることにある。しかし、それに加えてAI企業が失敗した結果を公開せず、解答へ到達するまでのプロセスも明らかにしようとしないことが、問題をさらに悪化させている。

実際、いまや希少で貴重な資源になっているのは、「有望な問題を見つけ出すこと」そのものだ。

誰かがある問題に取り組んでいるという「噂」だけでも、大量のAIを使った取り組みが一斉に投入され、元の研究プロジェクトがその可能性を十分に引き出す前に、その問題の難易度を平坦化してしまうことがあるのを、私たちはすでに目にしている。

その結果、研究者にとっては、有望な研究方向を広いコミュニティと共有しない方が得だというインセンティブが生まれつつあるかもしれない。

もしそうなれば、それは何世紀にもわたって築かれてきたオープンサイエンスの伝統を逆転させ、数学という分野の未来に長期的かつ深刻な損害を与えることになる。（3/4）
(続く)
https://t.co/ttd2Xt1jtC