Kazuki Inamura

AI Engineer @ IVRy Inc

[Kazuki Inamura @kzinmr]

LLM-jp(NII)で行われたLLM勉強会にて、ハーネスエンジニアリング周りの発表を行ったので資料を公開します。貴重な機会をいただきありがとうございました。
https://t.co/dE2AFkYph0

[Ben Burtenshaw @ben_burtenshaw]

So excited to be opening up OpenEnv to the whole community. It will now be owned by @huggingface , Meta-PyTorch, @reflection_ai , @UnslothAI , @modal, @PrimeIntellect , @NVIDIAAI , @mercor_ai , and @fleet_ai .

the reason is: frontier labs train the model and the harness together, so the model is fitted to its harness. that coupling is a chunk of why claude code and codex feel so good.

open source can't do that. you bring whatever harness, whatever model, whatever env, whatever trainer. which is the whole point of open source and also the problem for training.

openenv is the socket in between all of this.

in short: it's a protocol layer, not a reward framework. it does not have opinions about your rewards or your training loop. those live in the libs that are actually good at them.

read more in the blog post. it's early, come break it.

[Kazuki Inamura @kzinmr]

いま我々が触れるフロンティアモデルはdense的な賢さに圧倒されるけど、大域脱出して局所最適解から抜け出す残差接続的な賢さモードがそろそろ欲しくなってくる

[Kazuki Inamura @kzinmr]

programmatic tool callingが、programmatic subagent callingに動的拡張された感じ

[Kazuki Inamura @kzinmr]

RLMのひとつの見方としてsubagent delegationでコンテキスト共有できるモードと捉えることもできそう (RLMの見方いろいろあり得て難しい)

[Binfeng Xu @billxbf]

Excited to release 🌟Polar🌟, our Agent RL rollout infra for real-world harnesses. Be it Codex, Claude Code, OpenClaw, Hermes, or your self-made ones 🔥 -- Polar takes your harnesses directly as training environments without code change.

Find a problem, design the harness, and train your own agents! 🧵

[Kazuki Inamura @kzinmr]

最近のモデル賢すぎて指示というより概念の召喚とかのがもはや感覚的に近い (そのスペルがtasteなのか)

[Kazuki Inamura @kzinmr]

遅ればせながらこちらの発表資料を公開しました
https://t.co/SnoLUptWp1

[Kazuki Inamura @kzinmr]

明日19時にSansan様のオフィスで以下イベントで発表します。弊社からは音声言語理解と音声合成のモデリングに関する発表を主に報告する予定です。ぜひご参加ください。
https://t.co/2UvHcEF5Vq

[Kazuki Inamura @kzinmr]

ブログ書いたら自ずと自分のエージェントが同期して勝手に議論してくれるようになってそうだし、個人ブログ開設する機運がやってきた

[Kazuki Inamura @kzinmr]

思考のハーネス/空間制約を与える基盤って意味では、graph ragよりはむしろcontext graphとかが最近見てたのかな(agent-traceやバズったSaaSのcontext graph記事とかで)

[Kazuki Inamura @kzinmr]

少なくともGPT proやGemini Advanced(Deep Think)を個人的に必要とする理由の半分以上は失われたように思う

[Kazuki Inamura @kzinmr]

なんか自律拡張しかつ操作可能な知識ベースを得てしまった結果、X眺めるよりも多くの時間を底で過ごしてしまっているようで本末転倒感はある（楽しくはあるけど）

[Kazuki Inamura @kzinmr]

過去に夢見られていた知識の記号的操作がいかにして失敗してきたかが実感触をもって理解できる気がする (マクロにはthe bitter lessonsなんだけど、実挙動として)

[Kazuki Inamura @kzinmr]

ただ同時に因子化によって冗長性/誤り耐性減る点が知識自動管理は難しい。因子を冗長化すると可読性が落ちたり追記時の迷いが増えたり管理コスト増えたりとかの悩ましさが別途生える。ある規模からは分散表現に任せた方が良い管理側面が創発してくるとかもあり得そう。

[Kazuki Inamura @kzinmr]

llm-wikiを運用しだして数日経ったけど、graph ragとかって思考のハーネスエンジニアリングだったんだなあって感想がつよい

[Kazuki Inamura @kzinmr]

セマンティック層の操作挙動の巧拙にコーディングと差分出るのかは理解したい。直感的には高知能モデルの方が獲得した知識やその運用がより豊かなはずで、そのdecodingの必要最小性やoutcomeの洞察性が高い期待なので、そこをうまく評価して良いモデル使い分けたい (解釈性というよりは)

[Kazuki Inamura @kzinmr]

ART+W&B(+SkyPilot)のCoreWeaveスタックか、Prime Intellectのどっちかかなって考えてたけど、atropos + tinker になりそうな感じか

[Kazuki Inamura @kzinmr]

Hermes Agent 触ってるけどRL連携のtinkerってthinkingmachinesのサービスなんだ (追えてなかった)