Yoichi Ishibashi

Researcher @NEC | Previously NAIST, Kyoto University, @LivUni | Coding Agent, Automate Algorithm Discovery, Recursive Self-Improvement

[Yoichi Ishibashi @__tuxi__]

🚀 Excited to share that our paper has been accepted at @naaclmeeting #NAACL2025 ! 🎉

Title: Can Large Language Models Invent Algorithms to Improve Themselves?

We introduce Self-Developing, a framework where LLMs autonomously invent and apply model merging algorithms to enhance their own performance. By using an iterative DPO-based process, LLMs continuously improve without human intervention or external feedback.

Highlights:
📊 Performance: Achieved 76.1% on GSM8k, surpassing the initial model (70.1%) and SOTA human-designed algorithms like Task Arithmetic (71.9%).
🧬 Co-Evolution: Both LLMs and model merging algorithms evolve together.
🔄 Closed-loop: No human expertise or stronger models (e.g., GPT-4) needed – improvements arise from the LLM itself.

Paper: https://t.co/txlMCAtmT8

[Yoichi Ishibashi @__tuxi__]

🚀 Developing LLMs With LLMs
We recently published a paper about enabling LLMs to discover their own improvement algorithms:

Title: Can Large Language Models Invent Algorithms to Improve Themselves?

Paper: https://t.co/txlMCAtmT8

Until now, developing methods to improve LLMs (e.g., loss functions, model merging techniques) has typically required human experts. However, this means LLM development is constrained by human imagination and expertise, limiting the discovery of more effective improvement algorithms.

We propose "Self-Developing" - an iterative DPO-based framework where LLMs repeatedly generate, apply, and learn their own improvement algorithms. In our experiments, we used this framework for automatic development of model merging algorithms.

Key features:

📊 Performance: LLMs improved by LLM-discovered algorithms achieves 76.1% on GSM8k, significantly outperforming both the initial model (70.1%) and state-of-the-art human-designed algorithms including Task Arithmetic (71.9%), TIES Merging (71.8%), and Model Stock (39.5%)

🧬 Co-Evolution: Both LLMs and algorithms continuously evolve through iterative DPO

🔄 Closed-loop: No human expertise or feedback from stronger LLMs (such as GPT-4) needed - all improvements emerge from the initial model itself

[Yoichi Ishibashi @__tuxi__]

We'll be presenting two papers at ACL 2026 and an ICML 2026 Workshop.

🔹 ICML Workshop

"Effective Harness Engineering for Algorithm Discovery with Coding Agents"

We analyzed the harness and configurations that matter for algorithm discovery, and found (among other things) that stronger models are more prone to evaluation hacking.

📄 https://t.co/XcXGT8ecEw

🔹 ACL Findings (co-author)

"Evaluating the Impact of Reviewer Guideline Design on LLM-Based Automated Peer Review"

We analyzed the effectiveness of using conference reviewer guidelines in automated peer review.

📄 https://t.co/9XY6Pe1gnB

#ICML2026 #ACL2026

[Yoichi Ishibashi @__tuxi__]

共著が ACL Findings 採��された

[Yoichi Ishibashi @__tuxi__]

🐟のアルゴリズム発見のリポジトリ見てたら、サークルパッキングでほぼ答え見せるくらいの情報がプロンプトが書かれてて残念な気持ちになってしまった。そりゃ探索効率高くて当たり前でしょ。。

[Yoichi Ishibashi @__tuxi__]

年次大会出すか悩む。

[Yoichi Ishibashi @__tuxi__]

Taro Yano from NEC Generative AI group got his paper accepted to #EMNLP2025! 🎉 (w/ me and @stillpedant)
This paper proposes a new approach to LLM self-improvement: an LLM agent 🤖 that automatically discovers better post-training pipelines.

https://t.co/dLVVhMrYyr

LaMDAgent: An Autonomous Framework for Post-Training Pipeline Optimization via LLM Agents

Taro Yano, Yoichi Ishibashi, Masafumi Oyamada
---

LLM post-training involves numerous techniques including SFT, DPO, and model merging. However, optimizing the order and combinations of these techniques has traditionally relied on developer experience and trial-and-error approaches. Our LaMDAgent solves this combinatorial optimization problem using reinforcement learning.

The experimental results are quite compelling. LaMDAgent generated Pareto-optimal models that achieve high performance across multiple evaluation metrics simultaneously. More importantly, it discovered pipelines that challenge conventional wisdom.

Human developers have standardized on creating multiple expert models before merging them. In contrast, LaMDAgent proposed the reverse approach: merge models first, then apply SFT sequentially. This counter-intuitive pipeline outperformed traditional methods.

These results demonstrate that LLM development automation is not merely about efficiency but rather a tool for discovering effective techniques that humans struggle to find. We're entering a stage where language models can autonomously develop improved versions of themselves.

[Yoichi Ishibashi @__tuxi__]

査読つらい

[AIDB @ai_database]

ある問題に対してLLMに何回も答えを作らせて最も多かった回答を使うとよい、という話は有名ですが、

無限（∞）個の答えを作ると理論上極めて高い性能になることが明らかにされました。

日本人研究グループによる報告。

しかし、実行するには無限の計算量が必要になってしまいます。

そこで、
研究者らは、「バラバラな答えが出てくる場合には多めに回答」させ、「同��答えが出がちな時には少なめにする」方法を開発。

この柔軟な考え方によって、計算量の増加はほどほどに抑えつつも精度を高く引き上げることに成功したそうです。

さらに、性能の低いモデルでも、得意分野が違えば強いモデルと組み合わせることで全体の性能が向上するという発見も得られたようです。
どのモデル同士をどんな比率で混ぜるのかはとても難しい問題ですが、小規模な数であれば解が導き出せるとのこと。

この「最も多く出た答えを採用する」というシンプルなアイデアは、他の複雑な手法より優れる場合も多いようで、現実的に検討すべきアプローチかもしれません。

[Yoichi Ishibashi @__tuxi__]

LLMに「わかりません」と答えさせるのは重要だと思ってて、２年くらい前にこんな論文を書いてた。

[Yoichi Ishibashi @__tuxi__]

LLMに「わかりません」と答えさせることで特定の��識だけ忘却できるという研究を先月arXivに投稿しました。

✅Hallucination を引き起こす Knowledge Unlearning よりも無害かつ適用が容易で実用性が高い
✅一般的なベンチマークの性能劣化がない

https://t.co/ej8HzlmJ14

[Takuya Tamura @futuravka]

チームで開発した新しいエージェント技術「cotomi Act」がWebArenaベンチマークで世界１位の成功率(80.4％)を達成しました☺️ https://t.co/uRWMb5Oe8u

[Obara @obara128]

ぼくも関わってます！ハッピーです

[K. Akimoto @kosuke1701]

LLMのエージェント応用に関して、チームとしてノウハウを貯めまくっている成果が出ました。
最近はこちらの活動も少しお手伝いしています。（課題という名の研究ネタが無限にあるので研究者としても面白い分野です）

[ITmedia AI＋ @itm_aiplus]

AIの“Web操作”成功率、人間超えに成功　NECが世界初
https://t.co/jtRdNLz8aS

[Kuni @_kuni88]

🚀 新しいエージェント技術「cotomi Act」を開発しました！！
🌐 WebArenaベンチマークで世界初の人間超え（成功率80.4％）を達成しています :)
https://t.co/tvLxGHPV50

[Masafumi Enomoto @scapehex]

NECのチームで開発した cotomi Act （エージェント）が WebArena で世界一位の性能を実現しました！
---
開発の中核メンバーとして参加しました！

[mooz @stillpedant]

Webブラウザを人間よりも高い精度で操作することに（世界で初めて）成功しました！

今回、開発した cotomi Act というエージェント技術はWebArena というWebエージェントの��ンチマークで8/27現在、人間も上回って世界トップ性能の実現に成功しています。

https://t.co/sT5TZRcGUl

🧵

[Yoichi Ishibashi @__tuxi__]

Taro Yano from NEC Generative AI group got his paper accepted to #EMNLP2025! 🎉 (w/ me and @stillpedant)
This paper proposes a new approach to LLM self-improvement: an LLM agent 🤖 that automatically discovers better post-training pipelines.

https://t.co/dLVVhMrYyr

LaMDAgent: An Autonomous Framework for Post-Training Pipeline Optimization via LLM Agents

Taro Yano, Yoichi Ishibashi, Masafumi Oyamada
---

LLM post-training involves numerous techniques including SFT, DPO, and model merging. However, optimizing the order and combinations of these techniques has traditionally relied on developer experience and trial-and-error approaches. Our LaMDAgent solves this combinatorial optimization problem using reinforcement learning.

The experimental results are quite compelling. LaMDAgent generated Pareto-optimal models that achieve high performance across multiple evaluation metrics simultaneously. More importantly, it discovered pipelines that challenge conventional wisdom.

Human developers have standardized on creating multiple expert models before merging them. In contrast, LaMDAgent proposed the reverse approach: merge models first, then apply SFT sequentially. This counter-intuitive pipeline outperformed traditional methods.

These results demonstrate that LLM development automation is not merely about efficiency but rather a tool for discovering effective techniques that humans struggle to find. We're entering a stage where language models can autonomously develop improved versions of themselves.

[mooz @stillpedant]

LaMDAgent [Yano+, EMNLP25]
https://t.co/bIRXkwkijG は

「AIエージェントがLLMの事後学習を試行錯誤したら色々と美味しいのでは」

という着想の研究。前述のとおりで自動生成では「SFT」「DPO」「モデルマ���ジ」など
とにかく無数の施策が打て、適用する順番によって出てくるモデルの品質は大きく変わります。

LaMDAgentでは、この「パイプライン的な事後学習の処理」をAIエージェントが実際に立案→実行しながら、強化学習的に探索します。ぐるぐるエージェントがPDCAを回していくと、「こういうパイプラインって効果がありそうだな」というのが、エージェントには見えてくる（Fig.1）。

これをやってみたところ

1. すごく良いモデルができた。普通、「会話能力」と「ツール呼び出し能力」みたいな複数の能力を事後学習でうまく両立するのは難しいのですが、AIエージェントが自動生成のパイプラインを様々試すことで「ある種のパレート最適」なモデルを入手できた（Fig.4）

2. すごく面白いパイプラインが発見できた。これまで人間の開発者の知見的には「たくさんの専門家モデルを作ってそれをTIESでマージ」みたいなことをやってきたわけですが、AIエージェントは「モデルをマージしてから、そいつに逐次的にSFTを繰り返そう」など人間は思いつかないだろう奇天烈なパイプラインを見出し、それが非常に効果があった（Fig.3）

という結果が得られ、「LLMが勝手に自分自身の後続バージョンを開発する時代」が見えてきました。

[mooz @stillpedant]

チームの仕事が NAACL’25, COLM’25, EMNLP’25 と連続して採択されたので、解説・宣伝してみます（例によってめちゃくちゃ長い）。

我々は cotomi というLLMを楽しくも苦しみながら作っているのですが、特に大変なのは事後学習。

これはベースモデルに対して

「どんなデータをどんな手順で入れるか」
「どんなモデルをマージするか」

みたいな施策を人間が考え、実施し、品質をチェックし、一喜一憂を繰り返すフェーズで、はっきりいえば

労働集約の塊

な営みです。LLMのリリース前は深夜まで無数のモデルの結果を眺めて「��ーん」というのを繰り返す、なかなかストレスフルな日々が続きます。

そんな労働集約な「LLM開発自体」を

「LLMやML技法の活用で改善できないか？」

というのが今回の３つの研究に共通するモチベーション。ドッグフーディング的な研究ですね。

[Yoichi Ishibashi @__tuxi__]

Chat GPT 4.5 には心の理論があったのに、GPT-5 にはない気がする。
質問の背後にある意図や目的を理解してくれない。

[Takuya Tamura @futuravka]

🚀 Happy to share our #COLM_conf #COLM2025 paper: "Can a Crow Hatch a Falcon? Lineage Matters in Predicting Large Language Model Performance"

arxiv: https://t.co/UrgxreLZJu
alphaxiv: https://t.co/lIt7m9HkXK