👴Tajima Itsuro👴

👴, Cyberpunk, Social Informatics Research, LLM.

[👴Tajima Itsuro👴 @niryuu]

現在Open for Workです。地理空間情報エンジニアですが、LLM関連のエンジニア・リサーチャーなどの仕事を探しています。
履歴書: https://t.co/0smXVqUxZ7
Researchmap: https://t.co/XTe7iKyfXa

[👴Tajima Itsuro👴 @niryuu]

これだよこれ、「日本航空機製造」みたいな
https://t.co/77Y46Lk1BH

[👴Tajima Itsuro👴 @niryuu]

@nyalra パープル・ロリポップ

[👴Tajima Itsuro👴 @niryuu]

epochが出た。ついにInstruction Tuningを脱して、答えを出す必要がない言語的世界モデルの方向に行ったか。

[Qwen @Alibaba_Qwen]

📣📣 Meet Qwen-AgentWorld — a native language world model that simulates 7 agent environments (MCP, Search, Terminal, SWE, Web, OS, Android) within a single model. Environment modeling is the training objective from day one, not a post-hoc adaptation.

🤔 LLMs are trained to be better agents — better at acting in environments. But nobody has trained them to model the environments themselves.

🗺️ Our roadmap: investigate how language world modeling can push the boundaries of general agent capabilities, along two routes:

1️⃣ Build a foundation model for environment simulation — outperforming Claude Opus 4.8 and GPT-5.4 on AgentWorldBench

2️⃣ Investigate how world modeling enhances agent training:
🔬 Controllable Sim RL (agentic RL with LWM as environments) surpasses training in real environments
🧠 Learning to predict environments (LWM warm-up) makes agents stronger — remarkably, even without any agent-specific training, this predictive knowledge transfers to agentic tasks with zero fine-tuning

📑 Paper: https://t.co/Jx2l5RKq71
📖 Blog: https://t.co/7tVcKyhsx2
💻 GitHub: https://t.co/B5Lvb1UZCn
🤗 HuggingFace: https://t.co/Kw3QBL1TM5
🧩 ModelScope: https://t.co/YBnGYgMWWI

[👴Tajima Itsuro👴 @niryuu]

Zen...

[t.toda @Trtd6Trtd]

https://t.co/ybdDQhJhNU
禅をAI研究に当てはめたTips
「Zen of AI」だw

個人的には

> A flower does not think of competing with the flower beside it. It just blooms.

が刺さった

自分は研究者ではないので論文ではないが、同じ構造でSNS上の輝かしい成果を見ると色々考えちゃうんだよな〜

[👴Tajima Itsuro👴 @niryuu]

Thank you, thank you everyone

[👴Tajima Itsuro👴 @niryuu]

今日はこちらに参加しています。Agentを学ぶためにAgentic RLから入るというあれですが

[Keisuke Kamata @olachinkei]

今日はW&Bのハンズオンデイです！
Agentic RLとAuto improving Agentいうディープな内容ですが、100人を超えるご登録になりました！

今から始まります！

[👴Tajima Itsuro👴 @niryuu]

@Holy_fox_LLM あくまで類推です。o1が出た時期の再現研究にPPOが多く、そこそこ再現できていたのでOpenAIの初期の推論モデルではPPOが使われていた可能性がそこそこあります。またPPOで推論を上げるのにはノウハウが必要なため、その辺の人材がhttps://t.co/lT5cms7uPBにジョインしたのかなと。

[👴Tajima Itsuro👴 @niryuu]

@Tebasaki_lab 少し議論に混ざってしまったので一応。恐らく既に普通に大学を出る方ではないと思うのですが、大学には「これを知っていれば不効率なことはしなくて済んだ」とか「この講義と俺の知見を組み合わせれば…」とかが割と眠っています。発掘は難しいですが（ただ未踏勢は無視して突っ走っていたかな…）

[👴Tajima Itsuro👴 @niryuu]

@yo_ehara @Tebasaki_lab なるほど、恐らくJST/JSPS系と他省庁系の研究開発資金で座組や資財の所在、アクセス基準が異なるのだと思います。例えば科研費で雇用する、企業と連携するなどのケースでは仰る通りです。

[👴Tajima Itsuro👴 @niryuu]

@yo_ehara @Tebasaki_lab これは私の周囲の話ですが、正直ほとんどの場合Ph.D. or notの方が扱いが全く変わる、参入の基準になっている印象です。確かに学部卒でも修士でも単位取得退学でも原理上は雇えますが、その人のために会議の議題を1つ増やす価値があるかどうか、というところに障壁があります。

[👴Tajima Itsuro👴 @niryuu]

さらばFable…この数日君でないとできないことがいくつも解決した。

[Anthropic @AnthropicAI]

The US government, citing national security authorities, has issued an export control directive to suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States, including foreign national Anthropic employees.

The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance.

Access to all other Claude models is not affected.

We apologize for this disruption to our customers. We believe this is a misunderstanding and are working to restore access as soon as possible.

Read our full statement: https://t.co/bwn0sximKZ

[👴Tajima Itsuro👴 @niryuu]

@tomo3141592653 「科学社会学なら大丈夫だろう」と思ったら植物の分類実践のところで弾かれました

[👴Tajima Itsuro👴 @niryuu]

結局画像解析してpython-docxでリバースエンジニアリングすることに。ついに成功した！AGI！！！！

[👴Tajima Itsuro👴 @niryuu]

書式の当たっていないdocxの表とかを書式にするタスク、Fableでついに実現できた…Open XML意外に難しいんだよな

[👴Tajima Itsuro👴 @niryuu]

markdown->Luaで変換
PDFからdocxテンプレート生成
pandocで結合
docxの中身を編集して網掛けをつける
というとんでもないパイプラインができつつある

[👴Tajima Itsuro👴 @niryuu]

オライリー『ゼロから作るDeep Learning ❻―LLM編』の公開査読に参加させていただきました。今入手しました。査読時とはかなり変わっている感じで私がどれだけ貢献できたかわかりませんが、それだけ行き届いた本になったのだと思います。
https://t.co/EOW2R5xqZW

[👴Tajima Itsuro👴 @niryuu]

#CodeWithClaude の個人的MVPはこのスライドの部分。今のInstruction-basedのLLMでは日本の「業務」がラスボスになりそう。「法律の規制もあれば、社内の規定もあれば、個別のレギュレーションもあれば」という1000行を超える指示で漏れがあってはいけない。

[👴Tajima Itsuro👴 @niryuu]

Fableに人生相談していたら「俺-中間層-Human」の中間層レイヤーを設計し始めた。もしかしてこの層Harnessではないか。

[👴Tajima Itsuro👴 @niryuu]

Fable自身と話してたら「俺の言い分を鵜呑みにせず潰しに来い。読解ドリルの相手が要るときも言ってくれ、初見のコードを渡して問い詰める面接官役くらいはやる。」とやる気を出してきた。

[👴Tajima Itsuro👴 @niryuu]

Claude FableのSystem Cardの該当部分(1.4, 6.1)を読んだが、曖昧な規定なのでサイバーセキュリティ関連の対策などを援用すると、弱体化範囲がLLMの事後学習コードまで及んでいる可能性は十分にある。ある意味だがオープンLLMのフリーランチ時代が終わっていく感じがある。困ったなあ