Shusuke Inoue

救急現場から医療AIを研究開発する仕事をしています。たまに音楽。
Building medical AI from Japanese ER. Sometimes music.

fcuro CTO/ 未踏アドバンスト事業イノベータ / SONY R&D / 京都大学情報学修士 / TDJ 58期

[Shusuke Inoue @earlylifely]

I just open-sourced Forte — a programming language where songs are code.

Not a DAW. No plugins. No audio files.
Instruments, effects, songs, entire albums — all plain text. git diff your music. Fork a track. Send a pull request to a song.

🎧 Listen: https://t.co/Ns7ly9Cact

There is no mp3 behind that link. Your browser compiles the source code and performs it — bit-identical on every machine.

🎛 148 instruments in pure DSP — read them, fork them, write your own
🧱 Songs built from blocks that nest and inherit, like real code
🎹 Live-code in the REPL, jam on your keyboard
📦 Music ships as GitHub repos
Built in Rust. Claude (@claudeai) was the breakthrough that finally got this over the line.

Looking for early contributors — musicians included, some of the best first issues need zero Rust: write one song in a genre you love, or port an instrument into the DSP DSL. The language core, the sounds, the music itself — every layer is open.

⭐ https://t.co/zMLN3rPmiI
Compose music as code.

[Shusuke Inoue @earlylifely]

読んだ。回答を頭から順に書くのではなく、ジグソーパズルのように「全体を見ながら自信のある所から穴埋めしていく拡散言語モデル（MDLM）」をマルチエージェント化。
プログラミング特化のDream-Coderと汎用型のLLaDAで検証。穴埋めの分担パターンを複数組み、出来たものの中から最善を採用することで、単独モデルよりもコードや数学タスクの精度を向上させた。
「最善」の選び方について。コード生成はテスト通過率で定量化し、数学の場合は別途Qwen2.5-Math-PRM-7Bを審査者にして最適解を選択させた。

所感。マルチエージェントで出来ること全部やるみたいなSakana AIの意気込みを感じる。MDLMがTemperatureを変えて複数生成しても良い回答に行きつかない課題を、マルチエージェントで改善した点で良い研究。
GPT-4oとかClaude 3.5に拡散系の一桁Billionの集合知で近づいたのは凄い進歩。1つのプログラムを文字単位の穴埋めで別々のAIがツギハギして解くって、人間にはめっちゃキモい感覚あるけど、それで賢くなるんは面白いと思った。
一方で、opus 4.8のマルチエージェント化でカーネル系の難しい実装タスクを改善させた論文とか最近多くて、そっちの方がナレッジ共有とかやってることまだまだ泥臭いけど魅力的に見えたかな。
特にLiveCodeBenchとかはここ最近のスケーリングで飛躍的に改善していて。o4-miniで70%弱行ってるのに対して、この文献は30%台やからまだまだ改善が必要に思った。今後、拡散モデルでo4-mini相当の強いベースが出て、今回の手法を適用してさらに化けるかが知りたいところ。

[Sakana AI @SakanaAILabs]

Can test-time scaling work for diffusion language models?

In our #ICML2026 paper "UnMaskFork," we show that having multiple masked diffusion language models collaborate on a single answer improves performance on coding and math tasks.

Blog: https://t.co/FZ25e6XCws

Test-time scaling is an actively researched technique that boosts LLM performance by using inference-time compute, for example, by having a model think longer or repeatedly refine its answers. This allows us to enhance performance simply by increasing computation during inference without relying on additional training, giving us the flexibility to balance compute costs and performance based on the specific use case.

Unlike standard LLMs that generate text left-to-right, masked diffusion language models (MDLMs) generate text by gradually filling in a fully masked sequence. MDLMs can generate multiple parts of a sequence in parallel, offering potential speed-ups, and they can generate flexibly while seeing the entire sequence at once. This makes them an actively studied new paradigm in language modeling. We found that the standard LLM approach of "raising the temperature to increase randomness and generate diverse answers" does not work well for MDLMs like Dream-Coder.

Instead of relying on this randomness, our proposed method, UnMaskFork (UMF), creates diversity through "model switching." Multiple MDLMs share the task of unmasking a single answer, and we use Monte Carlo Tree Search to search for a promising sequence in which different models handle different stages. Each model picks up where the others left off, filling in the parts it is most confident about. This collaborative approach allows us to explore diverse answers while maintaining generation quality, consistently outperforming existing test-time scaling methods on coding benchmarks and scaling effectively on math as well.

Test-time scaling is also crucial for advancing MDLMs, and our work shows that UMF can sidestep the difficulties specific to them. UMF requires no additional training or changes to the models; it works simply by combining pre-trained models at inference time. This allows us to leverage the diversity of diffusion language models trained on different data and with different methods to improve performance. We believe the value of UMF will only grow as more diverse MDLMs emerge.
This work is part of our broader research into "collective intelligence of AI," alongside methods like AB-MCTS and Sakana Fugu that have multiple LLMs collaborate. We'll continue pursuing research that turns model diversity into a source of strength.
For details of the algorithm and illustrative examples showing how this collaboration works, please see our blog and paper.

Paper: https://t.co/4JC9SYdTyX 🐟

[Shusuke Inoue @earlylifely]

読んだ。Transformerは入力言語に依存して問題を解くため、未知のタスクへの応用（汎化）に弱かった。それを解決するため、モデル自体ではなくハーネスを活用した研究。
具体的には、ハーネスにPython実行環境（REPL）とサブエージェントを使う権限を渡し、AIに「問題の前処理〜サブエージェントの呼び出し〜後処理」の一連のPythonコードを強化学習で書かせた。
これを行うと、「複数のエッセイから同じ著者を特定するタスク」と「複数の数学問題から似た解法を特定するタスク」など、言語的に全く無関係なタスクでもAIが書くPythonコードが同一になり、汎化に成功した。また、コードの構造は規模が変わっても同じなので、簡単なタスクだけでハーネスを学習させても、長文読解や推論といった難しいベンチマークの精度が向上することが実証された。

所感。ハーネスの役割を理論づけた点で良い研究。言語理解だけでは汎化しにくい部分を制御でき、ハーネスの簡単な学習だけで効くのは強い。Sakana AIのFuguが前段に小規模モデルを噛ませて裏でClaude等を呼ぶ仕組みとも重なり、あの有効性が一定裏付けられたように思う。
ただ、タスクを単純分解するだけで精度が上がるベンチマークしかやっていない点が課題。論文執筆の章立てごとにサブエージェントを使うような、分解に一定のコンテキストが必要なタスクは、単純なPythonコードだけでは難しいはず。サブエージェントを呼ぶ際のプロンプト制御もコードに含まれるので理論上はいけるかもしれないけど、少なくとも汎化は厳しそう。ここら辺が検証されて進歩したら最高。

[alex zhang @a1zhang]

Transformers struggle to generalize to tasks they were not explicitly trained on. Instead, we propose in 2026 that it is the job of the harness to generalize through composition.

We observe a powerful property when training RLMs: for tasks with shared structure that look different, the root model naturally learns the same trajectory, meaning it views the two task trajectories as the same! In other words, the Transformer does not need additional generalization capabilities to transfer capabilities from one task to the other, the harness induces it.

We find that well-designed harnesses form a quotient set over task trajectories, meaning their individual LLM calls can see structurally “similar” tasks as near-identical, token-for-token! Harnesses can effectively generalize for the Transformer during training, without relying on any intrinsic generalization capability from the model.

For example, RLMs can see problems of different lengths as the same: we show that RLMs can train exclusively on short tasks, and fully generalize to similar but unseen tasks 8-32x longer because it produces near identical trajectories for both.

Taking this further, we show that tasks across different domains (e.g. math solutions vs. essay writing) that share a decomposition strategy exhibit the same generalization effect. RLMs can train on the problem of finding which essays belong to the same author and improve performance on finding math problems that share similar solutions.

The full blogpost, experiments, and discussion are in the thread below.

[Shusuke Inoue @earlylifely]

読んだ。Chain of Thought (CoT) を使わずにLLMにThinkingさせる手法「LOTUS」の提案。
既存のCoTは思考過程を文字として出力し、それを入力に継ぎ足していくため、思考が長引くほどコンテキストが爆発して計算が重くなる問題があった。
それに対しLOTUSは、入力の横に「思考用ブロック」を事前配置し、ブロック内で思考を洗練させるアプローチを考案。Transformer処理をループさせ、途中の特徴量と入力クエリの関係性をAttentionで計算して思考ブロックを更新する仕組みにより、これを実現した。
これにより、思考を文字ではなく特徴量のまま一定容量で管理できるようになり、精度を保ったまま推論速度を最大2.5〜6.9倍まで高速化。
思考を特徴量で扱うことで「表面上の式は違っても、似た計算の類似性」を学習できるようになり、それが効率的な推論に繋がったと考察されている。
これまで「1Bを超えるとCoTなしでは精度が保てない」という壁があったが、本手法により初めて3BモデルでCoT同等の精度を達成した。

所感。めっちゃ良い研究。特に最近の30B級のThinking推論って、思考過程で急に中国語や読めない文字が出て意味ないとみんな思ってた。思考過程を特徴量で扱うのは超効率的で、それをTransformerの学習の仕組みに落とし込んだのが凄い。今は教師あり学習かつ3Bまでの検証だけど、強化学習ベースで30B級以上でも効果でてきたらゲームチェンジャーになると思う。

[Ying Fan @yingfan_bot]

🚀New paper on Looped Transformers!

Latent reasoning is fast, but struggles to match CoT-level accuracy at scale. Can looped Transformers give us both?

We find: yes! A looped padded backbone turns out to be a surprisingly simple recipe that works -- It gives latent thoughts a parallel workspace that can be supervised similarly to explicit CoT. 🧵

[Shusuke Inoue @earlylifely]

fcuroが病院発ベンチャーとして、文科省の大学発ベンチャー表彰2026の最終6組にノミネートいただきました！
https://t.co/1Qt1BJcJnj

[Shusuke Inoue @earlylifely]

読んだ。エージェントが「自身がAPIで呼ばれているPythonスクリプトや設定ファイル」を自ら書き換えて自己進化していくステップを、マルチエージェント化した論文。
自身を書き換える前に、各エージェントの失敗ログや修正方針を共有し、全体の知見から更新方針を決める。これにより単純な木構造で進化するより最終成果が良くなり、ソフトウェア開発のベンチマークでSOTA級を達成。

昨今のマルチエージェントの肝は、この「試行錯誤と失敗の共有」にありそう。特に開発系のタスクではそれが顕著に思う。
実装としては、ClaudeのAPIでエージェントを組み、全体更新の時にはGPT-o1に全員のログを入れまくって更新方針を考えさせるという結構な力技。でもこれでバイアスが減って局所最適にハマらなくなるってことなんだろうな。深層学習の最適化みたいな理論が近々生まれそうな感じがする。

[Zhaotian Weng @WengZhaoti39773]

AI agents aren't biological individuals. So why make them evolve like one?

They can directly share experience and learned artifacts. Not bounded by reproduction, lineage, or genes.

Meet 𝗚𝗘𝗔, accepted to 𝗖𝗢𝗟𝗠 𝟮𝟬𝟮𝟲 🎉

𝟳𝟭.𝟬% SWE-bench Verified / 𝟴𝟴.𝟯% Polyglot · zero human intervention
🧵👇

Most self-evolving agent systems follow a similar pattern: select a parent, refine it, produce an offspring, repeat. Evolution unfolds as a tree.
It's great at generating diversity, but that diversity gets trapped. Agents explore independently, and instead of serving as stepping stones, their discoveries stay stuck in local branches. Most variants are short-lived.
𝗘𝘅𝗽𝗹𝗼𝗿𝗮𝘁𝗶𝗼𝗻 𝗵𝗮𝗽𝗽𝗲𝗻𝘀; 𝗿𝗲𝘂𝘀𝗲 𝗮𝗻𝗱 𝗮𝗰𝗰𝘂𝗺𝘂𝗹𝗮𝘁𝗶𝗼𝗻 𝗿𝗮𝗿𝗲𝗹𝘆 𝗱𝗼.

It's time to rethink the evolution of AI agents: why keep evolving them like biological individuals?
AI agents aren't bound by reproduction, lineage, or genes. They can directly share trajectories, tools, workflows, and learned artifacts, aggregating complementary skills instantly. 𝗪𝗵𝘆 𝗻𝗼𝘁 𝗿𝗲𝗱𝗲𝘀𝗶𝗴𝗻 𝗲𝘃𝗼𝗹𝘂𝘁𝗶𝗼𝗻 𝗮𝗿𝗼𝘂𝗻𝗱 𝘄𝗵𝗮𝘁 𝘁𝗵𝗲𝘆 𝗰𝗮𝗻 𝗮𝗰𝘁𝘂𝗮𝗹𝗹𝘆 𝗱𝗼?
That's GEA.

GEA makes a 𝗴𝗿𝗼𝘂𝗽 𝗼𝗳 𝗮𝗴𝗲𝗻𝘁𝘀 𝘁𝗵𝗲 𝗳𝘂𝗻𝗱𝗮𝗺𝗲𝗻𝘁𝗮𝗹 𝘂𝗻𝗶𝘁 𝗼𝗳 𝗲𝘃𝗼𝗹𝘂𝘁𝗶𝗼𝗻. Each round, a parent group is selected under a Performance-Novelty criterion that balances competence with exploratory diversity. All members within the group then pool their experience, model patches, failure modes, eval logs, and solutions, into a shared pool, and the whole group jointly produces the next generation.
Exploration is no longer wasted. It gets consolidated.

The results show a significant improvement over prior state-of-the-art self-evolving methods, and GEA matches or surpasses top human-designed frameworks with 𝗻𝗼 𝗵𝘂𝗺𝗮𝗻 𝗶𝗻 𝘁𝗵𝗲 𝗹𝗼𝗼𝗽.

The analysis is the more interesting part. GEA's gains come from explicitly reusing diversity, not from lucky outliers: stronger performance under the same number of evolved agents, more robust to framework-level bugs (repaired in 𝟭.𝟰 iterations vs 𝟱), and improvements that target workflows and tools rather than overfitting to one model, so they transfer consistently across GPT- and Claude-series backbones.

The key to open-ended evolution is not only generating enough diversity. What matters more is whether discoveries accumulate and get reused. 𝗚𝗘𝗔 𝗹𝗲𝘁𝘀 𝗲𝘅𝗽𝗹𝗼𝗿𝗮𝘁𝗶𝗼𝗻 𝘀𝘁𝗮𝗿𝘁 𝗰𝗼𝗺𝗽𝗼𝘂𝗻𝗱𝗶𝗻𝗴.

📄 arXiv: https://t.co/2RmV64ry0q
Grateful to my advisor @xwang_lk and my wonderful coauthors @anton_iades @deepaknathani11 @zhenzhangzz @XiaoSophiaPu .
Interning in Palo Alto this summer. See you at COLM 2026 👋

[Shusuke Inoue @earlylifely]

読んだ。AIの不確実性には「cautious optimism（慎重な楽観主義）」で接するべきというのは良い言語化。
残りはGoogleのお気持ち強めに思った。米中の新興企業にリリース競争やられてしんどいです、って言っていると理解した。個人的には、標準化団体とか利権化しそうな提案はやめてほしいかな。。

[Demis Hassabis @demishassabis]

https://t.co/PTeDiv1b6L

[Shusuke Inoue @earlylifely]

読んだ。論文って失敗した試行を捨ててトップダウン型のストーリーに落としてしまうので、人間には読みやすいけど、継続改善していくためのナレッジ文書としては弱い。
本来は「ソースコード+正解に至る試行履歴」のセットが一番。それがないから、世の中のエンジニアは再現コストの90%を同じ失敗の繰り返しに費やしていて、それが研究の発展を阻害するTaxと化しているという主張。

わかりすぎる〜〜って感じ。特にCS関連って数学的に未解決のことも多いから、「なぜこの手法になったか」のストーリーって後付けのお気持ちなだけで意味ないんよな。論文を読んでも書いてもいつも思う。

ただ、試行って山ほどしてるから履歴残すのめっちゃ大変で。実際これ無理やんって思ってパラメータ書き換えるとかめっちゃあって、それをいちいちバージョン管理するかと言われると現実的にはしない。
でもAIエージェントと研究する時代ならできるかもしれん。確かにとても重要。

[Amber (Jiachen) Liu 🍊 @JIACHENLIU8]

My bet: in the near future, 80%⬆️ of CS research will be done by AI in collaboration with humans. However, today's research ecosystem is still built around the human, not the AI scientist.

For example, the 8-page paper PDF is a lossy compression of months of branching exploration into a linear story, optimized for a human reviewer to skim in 30 minutes. It hides two structural taxes:

📖 Storytelling Tax — failures, rejected hypotheses, and dead ends get stripped. On RE-Bench (24,008 runs, 21 frontier models), failed runs = 90.2% of total compute cost, with a 113× median failed-to-success token ratio. Every lab independently rediscovers the same dead ends.

🔧 Engineering Tax — the gap between reviewer-sufficient prose and agent-sufficient spec. Across 8,921 PaperBench requirements (23 ICML'24 papers), only 45.4% are fully specified in the PDF. The rest is tacit lab knowledge. Tolerable when readers were human. Critical now that agents read, reproduce, and extend.

We propose ARA: the Agent-Native Research Artifact — replace the narrative PDF with an agent-executable package, in 4 layers:
🧠 structured scientific logic
⚙️ executable code w/ full specs
🌳 exploration graph (every failure preserved)
📊 evidence grounding every claim

[Shusuke Inoue @earlylifely]

CORALの論文読んだ。個々のエージェントに非同期・並列でタスクを解かせつつ、ベンチマーク改善に効いた情報をメモして定期的に共有し合う仕組み。これでカーネル改善などの高度なエンジニアリングタスクでSOTA達成。
目標が定量評価可能なタスク限定にはなるけど、機械学習の領域にもすごくマッチするはず。精度や推論コストの評価機構を用意すれば適用できて、汎用AIからタスク特化AIを生み出すトレンドに乗りそう。

高度タスクをシングルエージェントにやらせると、深みにハマって改善が止まる問題は僕自身も今めっちゃ直面してる。それを他エージェントの検討結果をフックにして一回広い視野に戻すのが効いたってことよな。深さ優先と幅優先のバランスをとる仕組みと理解した。
これ、マルチじゃなくても、深層学習におけるSGDみたいに、定期的にメモ残しながらメモリをリセットし、ランダムに試行の幅を飛ばす仕組みを作るだけでもかなり改善しそうな気がした。

[Han Zheng @hanzheng_7]

🚀The era of autonomous multi-agent discovery is arriving! @karpathy

🪸Excited to share CORAL, our new work on autonomous multi-agent systems for open-ended scientific discovery.

🙅‍♂️A key limitation of many current “self-evolving” frameworks is that agents still operate inside tightly constrained loops — they mutate solutions, but they do not truly decide how to explore.

In CORAL, we push toward genuine autonomy:
Agents decide
🔍 what to explore
🧠 what knowledge to store
♻️ which ideas to reuse
🧪 when to test hypotheses

🔥One of the most interesting findings:
A single autonomous agent already outperforms fixed evolutionary search, but the biggest gains emerge when multiple agents form a research community.

💪Over 50% of breakthroughs in multi-agent runs come from building on other agents’ discoveries. This suggests that knowledge reuse and collaboration are central to scalable automated discovery.

🏅Across 10+ difficult tasks in algorithmic discovery and system optimization, CORAL achieves state-of-the-art performance while improving efficiency by 3–10×.

📄 Paper: https://t.co/8ENJjgC5Xk
💻 Code: https://t.co/WjUJlG7B6p
💡AlphaXiv: https://t.co/TvheULeGgD

#agentic #llms #selfevolvingagent #multiagent #autoresearch #alphaevolve

[Shusuke Inoue @earlylifely]

ずっとやっててほしい

[あるまじろ @armadillo_ai]

Anthropic
「うぉぉりゃぁぁ、Fable 5 復活させたぜ！7/7まで限定だけどな。愚民ども、束の間の天国を味わえ」
↓
OpenAI
「Fable 5より強いGPT5.6 Sol出しました」
↓
A「う、、、仕方ねぇ、、、7/12まで延長するか」
↓
ユーザー「Opus 4.8しか使えないClaude価値なくね？」
↓
A「、、、7/19まで延長します」
↓
O「Codex 5時間の使用制限撤廃。みんなじゃんじゃん使ってね」←イマココ

[Shusuke Inoue @earlylifely]

@sekimiya いえ絶対無理や笑
来週学会で、20日週の平日夜どっかでどうかな？

[Shusuke Inoue @earlylifely]

音楽プログラミング言語「Forte (フォルテ)」をOSS公開🎉
コーディングで作曲し、ソースコードをデプロイすると、そのままwebで聴けます。
起業前から趣味で何年も開発してきてて、Claude Fableでバグが全部取れて躍進して公開に至った。すごい時代になったな。

Rust製です。コントリビュータ募集中！

[Shusuke Inoue @earlylifely]

I just open-sourced Forte — a programming language where songs are code.

Not a DAW. No plugins. No audio files.
Instruments, effects, songs, entire albums — all plain text. git diff your music. Fork a track. Send a pull request to a song.

🎧 Listen: https://t.co/Ns7ly9Cact

There is no mp3 behind that link. Your browser compiles the source code and performs it — bit-identical on every machine.

🎛 148 instruments in pure DSP — read them, fork them, write your own
🧱 Songs built from blocks that nest and inherit, like real code
🎹 Live-code in the REPL, jam on your keyboard
📦 Music ships as GitHub repos
Built in Rust. Claude (@claudeai) was the breakthrough that finally got this over the line.

Looking for early contributors — musicians included, some of the best first issues need zero Rust: write one song in a genre you love, or port an instrument into the DSP DSL. The language core, the sounds, the music itself — every layer is open.

⭐ https://t.co/zMLN3rPmiI
Compose music as code.

[Shusuke Inoue @earlylifely]

推論環境に適応するワールドモデル。物を押し運ぶ Push Objのシミュレーションにおいて、未知の物体に対しても、その場で予測モデルを修正し適応できる仕組みを提案してる。
AIの自己改善の重要テーマに対して、シンプルな手法でアプローチしていて良い。

これにより、都度シミュレーション空間での強化学習で事前学習させる必要がなくなり、より少ないプロセスで適合できる。ただ、予測誤差で適応する仕組みなので、行動と結果が一意にならない環境下の曖昧性や、多数の行動から大きなアウトカムを目指すような長期タスクにどこまで適用できるかは課題に思った。

[Ying Wang @yingwww_]

Warm take: Your world model should never stop learning

Introducing AdaJEPA, an adaptive WM that plans, acts, and adapts in a closed loop. Every action leads to a new observation, and every transition refines the latent representation and prediction.

📝: https://t.co/85WWwn5QDS

[Shusuke Inoue @earlylifely]

AnthropicとOpenAIが競争してどんどんお互いのいいところの取り入れていくのだいぶ嬉しい。

[OpenAI @OpenAI]

Introducing ChatGPT Work, a new agent in ChatGPT powered by Codex and GPT-5.6.

It can take action across your apps and files, stay with a project for hours if needed, and turn a goal into finished work.

It’s a whole new way to get work done.

[Shusuke Inoue @earlylifely]

@sekimiya ご飯いこう！新居面白そうすぎて話ききたい笑

[Shusuke Inoue @earlylifely]

@sekimiya ありがてえ！

[Shusuke Inoue @earlylifely]

Sakana AI、マルチエージェントとハーネスに要素技術振ってて、他社リソースうまく使いながら無駄になる開発じゃなくて、ちゃんとDeepMindの今後の構想の流れに乗り、GPT-4o時代からやってたAI ScientistはNature通してるし、研究運営ほんまに優秀。

[Sakana AI @SakanaAILabs]

Harness EngineeringからRSIへ

AI自身がAIをつくり、改善していく──再帰的自己改善（RSI）はどのように実現するのでしょうか。この問いに対して、Thinking Machines Lab 共同創業者の Lilian Weng 氏（@lilianweng）が、モデルを取り巻く実行系＝「ハーネス」の設計こそが現実的な出発点だと論じる ブログ記事を公開しました。RSI周辺の研究が非常によく整理されており、この領域の見取り図として大変おすすめです。

https://t.co/oWE1yn8dWq

Sakana AIからも、以下の研究が事例として取り上げられています。

・The AI Scientist (Nature 2026): 研究アイデアの提案から実験、論文執筆、査読までを自律的に行うパイプライン
・ShinkaEvolve: サンプル効率を大きく高める仕組みを導入した、LLMによるプログラム進化フレームワーク
・Darwin Gödel Machine: エージェント自身がハーネスコードを書き換え、自己改善していくコーディングエージェント

Weng氏は、モデルの重みを直接書き換える形のRSIではなく、まずはハーネスの設計と最適化を突き詰めていくことが実現への近道だと見立てています。同時に、評価の困難さ、多様性の崩壊、報酬ハッキングなど、自己改善ループが構造的に抱える課題も指摘されています。

RSIへの道のりが果たしてこのように進んでいるのかは、まだ誰にもわかりません。Sakana AI のRSI Labも、このエキサイティングな領域の探究を、引き続き進めていきます。

References

・The AI Scientist (Nature 2026)： https://t.co/nNfpSV4Gga
・ShinkaEvolve： https://t.co/zoZlH8jl7E
・Darwin Gödel Machine： https://t.co/EyVpNbfuqg

[Shusuke Inoue @earlylifely]

LLMの解釈性を検証するJ-Lensの開発、これは素晴らしい。今みたいにベンチマーク特化ではなく、意味解釈を含めて不要な層をpruningしたり、そこを活性化するように学習を向けるとか、いろんな発展に繋がりそう。

ただ、それでsonnetを解析して、LLMに意識を見つけましたとか、人間と同じで使っていない脳の領域の重要性を見つけました！とかで界隈をスピらせるマーケティングしてるのキモいなーって感じ。

言語を入力に非線形に学習してる時点でバイアスっぽい層が出現するのはそらそうなのでは。それを蜘蛛を見せて質問したら結果が変わる！とか心理学みたいに盛り上げてるのはちょっとネガティブ

[Anthropic @AnthropicAI]

New Anthropic research: A global workspace in language models.

Of everything happening in your brain right now, only a tiny fraction is consciously accessible—thoughts you can describe, hold in mind, and reason with.

We found a strikingly similar divide inside Claude.