DLHacks

DeepLearningに関する勉強会（輪読、実装会）。 東京大学松尾豊研究室、Deep Learning JPのメンバーが中心に運営しています。DeepLearningのニュースや論文・実装などをツイートします。

[DLHacks @DL_Hacks]

On-Policy Distillationを拡散モデルに導入。Flow-OPDは複数の教師モデルからの密な教師信号から単一の生徒モデルにオンポリシーに蒸留する手法。D-OPSDはマルチモーダルな条件付けをした教師からテキスト条件のみの教師モデルへ自己蒸留する。
https://t.co/DBP25ouzD0

[DLHacks @DL_Hacks]

DeltaWorld は「連続フレームの差分を1 token に圧縮」+ 「Best-of-Many」+ 「VFM 特徴量空間」の組み合わせの生成世界モデルで, 0.3B モデルで1回のforward から多様で現実的な未来を生成
し, Cosmos-12B を2,000×少ないFLOPs で超える
https://t.co/fO60FKf1cM

[DLHacks @DL_Hacks]

Causal-JEPAは物体単位でmaskし他物体から推論させるobject-centric world model。patch maskingと違いinteraction reasoningを学習目的に組込み、masking=latent interventionと解釈。CLEVRER反実仮想+21%、Push-Tは僅か1%のtoken・8.6倍速で同等性能を達成
https://t.co/WYbSxJTnO1

[DLHacks @DL_Hacks]

完全オープンなVLAモデルMolmoAct2を提案。Molmo2-ER・大規模データ・OpenFAST・action expert・adaptive depth reasoningを統合し、低〜中価格帯ロボットでout-of-the-box deploymentを実現した。
https://t.co/ZINwDG0zCE

[DLHacks @DL_Hacks]

学習時にクロスビューのポイントマップ整合を行うことで、新規視点からでも視点一貫性のあるRGB-D系列を生成可能な4D動画モデルを提案。また、既存の6-DOFトラッカーを用いて動画からロボット軌道を抽出し、未観測視点にも汎化可能なマニピュレーションポリシーを実現した。
https://t.co/wfhWvCIq5r

[DLHacks @DL_Hacks]

Attention Residualsは従来の足し算による残差接続を、層方向のSoftmax Attentionに置き換える。深い層で情報が薄まる希釈問題を解決し、1.25倍の計算量に匹敵する性能向上を達成。
https://t.co/6yEHKPNqES

[DLHacks @DL_Hacks]

WorldMarkは、インタラクティブ動画ワールドモデルを同一シーン・同一操作で比較する統一ベンチマークである。500件の評価例、共通操作変換、画質・制御整合性・世界一貫性の評価ツールを備え、従来困難だった異種モデル間の公平な比較と再利用可能な評価基盤を可能にする。
https://t.co/LQsNMPjO8R

[DLHacks @DL_Hacks]

WebRouterはWebエージェント向けのクエリ単位LLMルーター。冗長な長文プロンプトを情報ボトルネック(VIB)で圧縮し、コスト項を加えたca-VIB損失で安価モデルを優先。GPT-4o比でコスト87.8%削減・精度低下わずか3.8%を達成。
https://t.co/fUXvKSfylW

[DLHacks @DL_Hacks]

視覚トークンとテキストトークンはMLLM内で共有意味空間に射影されている, ならば両方で推論すべき, という発想のLVR. ROIのpatch embeddingをMSEで再構成させ視覚埋め込み空間で自己回帰的に思考. NLPのCoconut系を視覚に最も簡潔に拡張した一例.
https://t.co/wi96ubu8Mh

[DLHacks @DL_Hacks]

LeWorldModelは画像から直接学習する新しいJEPA型世界モデル。予測損失+SIGReg正則化の2項のみで安定訓練し、15Mパラメータ・1GPUで学習可能。基盤モデル系より最大48倍速い計画を実現し、多様な制御タスクで高性能。
https://t.co/syRbglvggl

[DLHacks @DL_Hacks]

PlayWorldは、人手デモに頼らずロボットの自己遊びから多様な接触経験を集め、高忠実度な動画ワールドモデルを学習することで、物体操作の物理予測、失敗予測、方策評価、実世界での強化学習性能を大きく向上させる。https://t.co/YsZw7SFS26

[DLHacks @DL_Hacks]

Physical Intelligenceの新VLA．言語・メタデータ・サブゴール画像による多様なプロンプト条件付けで訓練され，単一モデルで専門モデル級のdexterous操作，ゼロショットのクロス身体転移，言語コーチングによる未知タスク遂行を実現する．
https://t.co/DroNkTXbZy

[DLHacks @DL_Hacks]

長期タスクのためのstage-awareな報酬モデルSARMの提案. subtask predictionを入れることで長期タスクに対応.報酬を利用したReward-Aligned BCで大幅にを性能改善
https://t.co/BVphj3BFMv

[DLHacks @DL_Hacks]

少量コーパス(1.3M)から合成データ(455M)を生成しLLMを継続事前学習する手法EntiGraph。RAGと併用でRAG単体を上回り、両者は相補的。学習曲線を混合指数関数で理論解析する点も秀逸で、ICLR2025 Oral採択論文。実応用でも使える内容です。
https://t.co/RfGuPWF8ms

[DLHacks @DL_Hacks]

マルチエージェント討論（MAD）による性能向上はディベートよりも多数決による寄与が大きい．マルチエージェントLLMの研究の焦点は「もっと話させる」から「何を・どう共有するか」へ．
https://t.co/cHd0BWRLDK

[DLHacks @DL_Hacks]

【松尾研Diffusion勉強会資料公開】
World Action Models
https://t.co/0sB9ITvsAr

[DLHacks @DL_Hacks]

自己回帰モデルの内部には時間的抽象表現が自発的に生まれており、それを教師なしで抽出・操作することで階層RLを行う。内部の抽象表現を用いて強化学習を行い、自己回帰モデルへ注入することで高次行動の切替を制御。通常のRLでは困難なスパース報酬タスクを解決。
https://t.co/sRmytKQhFc

[DLHacks @DL_Hacks]

ロボットの継続学習において、新スキル獲得に伴う破局的忘却が課題だが、大規模な事前学習済みVLAモデルは少量の経験再生データのみで忘却に強い耐性を示し、失われたように見える知識も迅速に回復可能であることを示した。
https://t.co/FNproqFg7A

[DLHacks @DL_Hacks]

【松尾研Diffusion勉強会資料公開】
Google DeepMindの「Unified Latents」 latentを統一的に学習する新しい拡散モデル設計。 prior・decoderを統一的に訓練し、生成品質と計算効率を同時に改善。https://t.co/BMoD1UbCjF

[DLHacks @DL_Hacks]

人間とLLMの帰納バイアスが言語形成に与える影響を参照ゲームで分析。人間同士、LLM同士、人間とLLMの対話を比較した結果、LLM向けに最適化された語彙は人間向けの語彙と異なる構造を示した。人間とLLMの相互作用により、人間に近い共有語彙が形成された。https://t.co/S1SA2ReGLR