S.I

Deep Learning / Computer Vision / Neural Fields

[S.I @ito_cv]

The first paper I wrote was cited in a survey paper. I would like to continue to do research that will be cited in the future.

[Zubair Irshad @mzubairirshad]

How do we represent 3D world knowledge for spatial intelligence in next-generation robots? We recently wrote an extensive survey paper on this emerging topic, covering recent state-of-the-art! 🦾 🚀

Check it out below. Feedback/Suggestions welcome!

📖arXiv: https://t.co/SbrPYKJRwk
🖥️github list: https://t.co/VecNOsxyM3

@GTrobotics @ICatGT @mlatgt @ToyotaResearch @neural_fields

[学術バーQ｜賛助会「学術バーQ友の会」めざせ会員100名キャンペーン開催中 @Q_Gakujutsu]

【6/16 (火）の学術バーQ】

日本のAI研究を牽引する第一人者たちが一堂に会し、AIを語り尽くす超贅沢なイベント「AI研究最前線」をお届け！

ディープラーニング協会の理事を筆頭に、東大・科学大のPI経験者、大手企業の研究員の方々が集まる貴重なイベントです（ @hf149 , @losnuevetoros , @viaminicab , @snow11828147 , @naokok963 , @mmkkey_ ）
学会の招待講演に匹敵するAIの最先端をめぐる豪華なトークの数々を、お酒を片手に学術バーQで楽しみませんか？

※ 参加希望の方は、事前にGoogle Form（https://t.co/Ga9fEq1YeC）より参加申込をお願いいたします。
※ 異分野融合の促進のため、幅広い分野・年代に基づく30名の抽選とさせていただきます。
※ お住まいが離れている方など、オンライン配信（Zoomにて実施予定）もご検討ください。

[Camaro @mlaass1]

Kaggleの類似コンペの解法検索サイトを公開しました。コンペ選択するだけで類似コンペの解法を詰め込んだLLMに渡せるプロンプトが生成できます！
https://t.co/XXp9RUxkpI

[Nikhil Keetha @Nik__V__]

Very cool blog showing MapAnything for robotics!

PS: The title and narrative is a bit spicy though 🌶️

Stayed tuned for some exciting updates coming this week!! 😉

https://t.co/rwmIxtO6KF

[yoschi_s @stern_bow]

統計・機械学習の数理 Advent Calendar 2025は，全日程埋まった。これまでの記事はとても勉強になるが，これから公開される記事も楽しみ。
https://t.co/YS7P8TPHSA

[yoschi_s @stern_bow]

ベイズ統計の公式は２変数のものが多いが，確率的機械学習の書籍では3変数以上のものも多く，初学者のつまずきポイントになる。
事後予測分布を題材に，ベイズ統計における3変数以上の公式をまとめた。また，式変形以上に大事なことについてもまとめた。

▼詳細
https://t.co/RPGEVz9Zk3

[Kosuke @kosuke_agos]

AIと機械学習の世界トップの国際学会「NeurIPS 2025」で、2025年の最優秀賞を得た論文がついに発表されました。

受賞したのは、大規模言語モデル（LLM）の基盤技術であるTransformerモデルの根幹「Attention」メカニズムに、大幅な改善をもたらす研究です。

従来のAttentionが抱える「初期トークンへの過度な集中」という課題を、シンプルなGatingメカニズムで解決し、LLMの性能を劇的に向上させることが証明されました。

その驚くべき詳細を5つのポイントにまとめました。

1. TransformerのAttention問題への挑戦
従来のTransformerモデルにおけるAttentionメカニズムは、トークン間の関連性を計算する強力な手法ですが、学習の初期段階で導入される特定のバイアスや、不必要な初期トークン（特に $[CLS]$ や $[BOS]$ のような特殊トークン）が不当に大きな注意を引いてしまう「Attention Sinks」という現象を引き起こし、モデルの性能限界の一因となっていました。

2. シンプルな「Gating」の追加
研究では30以上のバリエーションを検証した結果、各Attentionヘッドの出力に、現在のトークンから計算された「学習済みゲート」を掛け合わせるという手法が最も効果的であることが判明しました。これにより、文脈に応じて各ヘッドが情報の流れを柔軟に制御できるようになります。

3. 学習の安定性と「Attention Sinks」の解消
この変更により、従来では発散してしまうような高い学習率でも安定して学習が可能になります。さらに、初期のトークンが不必要に注目を集めてしまう「Attention Sinks」現象が大幅に減少します。

4. 長文コンテキスト性能の劇的向上
このGatingを加えたTransformerモデルは、標準的な手法でコンテキストウィンドウを拡張した際、長文処理のベンチマークにおいて性能が大幅に向上することが確認されています。特に長い依存関係を持つタスクにおいて、その効果が顕著に現れました。

5. LLMアーキテクチャの標準となる可能性
複雑なTransformerの構造変更ではなく、Attention出力を的確に制御するGatingの追加だけでこれだけの成果が出るのは非常に興味深いです。このシンプルで効果的なアプローチは、今後のLLMアーキテクチャの新しい標準となる可能性があります。

[mat @ballforest]

「新しい相関係数」について https://t.co/m2VQ5rBePg

[mi141 @mi141]

NeurIPS2025のbest paperの１つが、引用先と関連する話だったのでざっと読みました。
拡散モデルの学習では、(1) 汎化による高品質な生成が可能になるタイミングと、(2) 学習データを記憶し始めてしまうタイミングが存在し、この２つの時間差がデータ数nに比例することを理論的に示した話です。

[Kenta@ImVisionLabs Inc. @imvisionlabs]

11月13日に開催されたオンライン勉強会 #AIMTG にて「3次元 #点群 からの点の間引き（サンプリング）について」を発表しました。その際の動画がYoutubeにアップロードされています。
イベントページ
https://t.co/hENimWG9hL
動画
https://t.co/fM3P4ocNyi
スライド
https://t.co/O3yy4Gomt8

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

Perception EncoderはCLIP型の画像・テキスト対比学習で作られたViTモデルであるが、分類/VQA/検出/対比学習といった異なる性質の下流タスクに強い表現を作れる。
これらの良い特徴は最終層でなく中間層に集中し、それらを言語整合・空間整合で最終出力に引き出すことであらゆるタスクに転用できる

学習は画像の大規模事前学習を行ったあと、動画の拡張学習を行う。これらは全て同一の対比損失の枠組みで行い、対応する画像由来特徴とテキスト由来特徴ペアが近づくように、対応しないものは話すように学習する。

次に最終層では言語や位置に関する豊かな特徴が消えているため、中間層から取り出す。
言語整合の場合はPE側は凍結し、軽量な線形射影層のみを学習する
空間整合の場合は、既に（初期の）中間層で位置情報が残っているため、自己蒸留で中間層と最終層の特徴分布を一致させ、SAM2の出力マスクをPEの特徴空間に射影し、類似行列の分布が一致するように学習させる。
検出、深度推定、追跡などで既存モデルを上回った。

この結果は例えば、画像とテキストの対比学習さえあれば、関係なさそうな深度情報（３D情報）すらもNNの内部表現に存在し、しかもそれを引き出せるということで興味深い

実用的にも一度汎用モデルを作りさえすれば、それを様々な後続タスク向けに利用（ただし使う特徴層は異なる）することができることが示された。
例えば全40層のモデルにおいて、分類は38層目、言語・空間両対応タスクは27層付近、空間は後半が最適であるとされる

[JUNDE WU @JundeMorsenWu]

Segment Anything 3 just silently dropped on ICLR 🤯

The first SAM let you click on an object to segment it.
SAM 2 added video and memory.
Now SAM 3 says: just describe what you want — “yellow school bus”, “striped cat”, “red apple” — and it will find and segment every instance of it across images or videos.

It’s like segmentation finally learned language, but in a grounded, minimal way, by just saying concepts.
Short noun phrases, image exemplars, or both.
You say the concept, it understands what you mean, and draws the boundary everywhere it appears.

Behind it is a massive data engine: 4 million unique concepts, 52 million verified masks, built through humans and LLMs checking each other’s work.
It’s both old-school annotation and self-improving AI loops.

The result: roughly 2× better than SAM 2, near-human recognition on open-vocab benchmarks, and real-time speed.

[LangChainJP @LangChainJP]

【LLMでtemperature=0でも結果が揺れる現象の解決手法を研究グループが発表】

temperature=0でもLLM APIが同一入力で揺れる現象について、数値差の根底要因は浮動小数点の非結合性にある一方、実際の非決定性はバッチ不変性（バッチサイズが変わっても各要素の計算結果が変わらない性質）の欠如に起因すると説明。

研究チームはRMSNorm、行列積、アテンションでバッチ不変性を満たす実装を提示。Qwen3-235Bで検証し、通常設定では1,000回の生成で80種類の出力が生じたが、バッチ不変カーネル適用時は1,000回すべて同一となった。103トークン目での分岐という具体例も示した。

実装はvLLMのFlexAttentionを活用し、GitHub「thinking-machines-lab/batch_invariant_ops」で公開。推論を決定的にすることで、サンプラーと学習器の数値を一致させた真のOn-Policy強化学習も可能とした。

[菊地佑太 @AOjv1]

今日の発表資料です
https://t.co/ilUmOH23Fc
#cvsaisentan

[Zhenjun Zhao @zhenjun_zhao]

RayletDF: Raylet Distance Fields for Generalizable 3D Surface Reconstruction from Point Clouds or Gaussians

Shenxing Wei, Jinxi Li, Yafei Yang, Siyuan Zhou, @boyang_vLAR

tl;dr: raylet distance field->signed distance between the surface hit point and the raylet starting point

https://t.co/WgLzcgCOK3

[Zhenjun Zhao @zhenjun_zhao]

A Survey on 3D Gaussian Splatting Applications: Segmentation, Editing, and Generation

Shuting He, Peilin Ji, Yitong Yang, Changshuo Wang, Jiayi Ji, Yinglin Wang, Henghui Ding

tl;dr: in title

https://t.co/1WlSjF0Coh

[Koji Nishiguchi (西口浩司) @EulerNishiguchi]

このスライドは、PINNsの課題を的確にまとめてあると思います。PINNsの特徴は、ニューラルネットワークの学習プロセスに「物理法則」そのものを組み込んだ点にあります。従来の有限要素法（FEM）などが領域をメッシュで分割して離散化方程式を解くのに対し、PINNsは領域内の点で物理法則（支配方程式）や境界条件が満たされるように、ネットワーク自身が連続的な解の関数を学習します。この「メッシュフリー」なアプローチが、PINNsの大きな特徴の一つです。

ただし、実用化を見据えた際には、以下のような課題が学術コミュニティで広く認識されています。

* 計算効率
一度学習が完了したPINNモデルによる推論（解の予測）は確かに高速です。しかし、その前段階である「学習」には、特に複雑な問題において膨大な計算コストと時間を要する場合があります。設計・解析の現場で求められる総所要時間（ターンアラウンドタイム）を考慮すると、成熟した既存のソルバーに軍配が上がる場面は依然として多いのが実情です。

* 「メッシュフリー」の利点と精度保証のジレンマ
メッシュ生成という煩雑な工程を回避できる可能性は魅力的ですが、これは工学的に最も重要な「精度保証」の観点から大きな課題を内包します。応力集中部や流体の境界層など、局所的に解が急激に変化する現象を正確に捉えるには、従来法におけるアダプティブメッシュのような、解に応じた洗練された離散化戦略が不可欠です。PINNsにおける計算点の配置戦略は、未だ発展途上の研究分野です。

* 汎用性と再学習の問題
標準的なPINNsは、与えられた特定の物理条件（境界条件、材料定数、形状）に対する「専用のソルバー」を生成する技術です。条件が少しでも変われば、原則としてゼロからの再学習が必要となります。パラメータスタディが必須である工業製品の設計開発プロセスにおいて、この特性は大きな制約となり得ます。

[Zhenjun Zhao @zhenjun_zhao]

Advances in Feed-Forward 3D Reconstruction and View Synthesis: A Survey

Jiahui Zhang, Yuelei Li, @AnpeiC, Muyu Xu, Kunhao Liu, @jianyuan_wang, @xxlong0, @hx_liang95, @zexiangxu, @haosu_twitr, Christian Theobalt, Christian Rupprecht, Andrea Vedaldi, @hpfister, Shijian Lu, @fnzhan0507

tl;dr: in title

https://t.co/AD0w8TBgZG

[Zhenjun Zhao @zhenjun_zhao]

A View-consistent Sampling Method for Regularized Training of Neural Radiance Fields

@AoxiangFan, @CorentinDumery, @NicolasTalabot, @FuaPv

tl;dr: view-consistency distributions per-ray instead of fixed depth predictions->regularize NeRF training

https://t.co/MYhgEolor8

[MrNeRF @janusch_patas]

CL-Splats: Continual Learning of Gaussian Splatting with Local Optimization

TL;DR: "CL-Splats efficiently updates existing scene reconstruction from an incremental set of images while enabling new applications."

Contributions:
• We introduce a general framework for continual and localized updates in Gaussian Splatting representations, enabling flexible and efficient scene reconstruction.

• We propose a lightweight yet effective change-detection module and present the first dynamic local Gaussian optimization with a custom kernel implementation, improving speed and adaptability to evolving scenes.

• We empirically validate our approach on diverse real and synthetic scenes, demonstrating its effectiveness. Additionally, we show its ability to perform tasks such as batched updates and scene history recovery.

• We contribute novel synthetic and real-world datasets designed explicitly for benchmarking dynamic scene reconstruction, which we plan to release publicly to support further research.

[Zhenjun Zhao @zhenjun_zhao]

Active View Selector: Fast and Accurate Active View Selection with Cross Reference Image Quality Assessment

@ziruiwang_, @ysbhalgat, @RayLi234, @viprad

tl;dr: CrossScore helps active NVS

https://t.co/HXSZHVYtWd