Mana Sakai / 酒井 真菜

Ph.D. candidate in the Department of Statistics, Graduate School of Economics, The University of Tokyo / 今泉研

[Mana Sakai / 酒井 真菜 @_iammana]

https://t.co/fi8efv3oab
訓練済み多層トランスフォーマーに対し、パラメータ行列のSchattenノルムに基づく事後的汎化上界を導出しました。この上界はSchatten指数を事後的に選択することで深さ、隠れ次元、スペクトル構造のトレードオフを自動的に調整し、ノルムベース上界の課題をカバーできます。

[Mana Sakai / 酒井 真菜 @_iammana]

理研桜舞賞をいただきました。今泉先生および関係者の皆様に心より感謝申し上げます。

[今泉研究室（東京大学・理化学研究所） @imalab_org]

酒井さん(D1)が理研桜舞賞を受賞しました。
https://t.co/l4rfzizsSF

[Mana Sakai / 酒井 真菜 @_iammana]

公開されました

https://t.co/bmuQymFERu

[Mana Sakai / 酒井 真菜 @_iammana]

こちらの論文が、Biomtrikaのmiscellaneaに採択されました！

[Mana Sakai / 酒井 真菜 @_iammana]

I’ll be presenting my #NeurIPS2025 poster “Infinite-Width Limit of a Single Attention Layer: Analysis via Tensor Programs” in San Diego.
I am excited to talk with anyone interested!

Date: Dec 3, 4:30 – 7:30 PM
Location: Exhibit Hall C,D,E #3503

https://t.co/bAF8C611Sb

[Mana Sakai / 酒井 真菜 @_iammana]

こちら参加枠にまだ余裕があるそうなので、お時間ある方はぜひ！

[理研AIPセンター @RIKEN_AIP]

11月19日　『AI×未来×キャリア』研究者と語る対話型ワークショップを開催します。東京・大妻女子大学で開催。オンライン配信も行います。オンラインは一般の方の参加も可能です。9人のAIの研究の話を聞いてみませんか？
会場：大妻女子大（学部生対象）またはZoom（一般可）
https://t.co/vOgykOst6z

[Mana Sakai / 酒井 真菜 @_iammana]

@yuma_1_or ありがとうございます！！

[Mana Sakai / 酒井 真菜 @_iammana]

こちらの論文が、NeurIPS 2025に採択されました！

[Mana Sakai / 酒井 真菜 @_iammana]

唐木田先生、今泉先生との共著論文を公開しました。

NNのアテンション層では、特殊なスケーリングや無限ヘッドを採用しない限りガウス近似に基づく従来の理論解析はできませんでした。
本研究では通常設定におけるアテンション層の非ガウス極限分布を理論的に導出しました。
https://t.co/gIH56p6LV1

[Mana Sakai / 酒井 真菜 @_iammana]

@yo_ehara ありがとうございます！

[Mana Sakai / 酒井 真菜 @_iammana]

@sssugasawa ありがとうございます！

[Mana Sakai / 酒井 真菜 @_iammana]

こちらの論文が、Biomtrikaのmiscellaneaに採択されました！

[Mana Sakai / 酒井 真菜 @_iammana]

松田孟留先生、久保川達也先生との共著論文を公開しました。

ベイズ推定量が2次不偏となるような事前分布である asymptotically unbiased priors の特徴付けを、i.i.d.ではないモデルで行いました。
その上で、そのような事前分布の存在条件と構成方法をまとめています。

https://t.co/yftx0mVxbk

[Mana Sakai / 酒井 真菜 @_iammana]

@gooutfrom_ ありがとうございます！

[Yuzo Maruyama @umaruyama]

久保川先生の最後の修士学生の修論が，Biometrikaに掲載決定ということで素晴らしい！別ルートからも喜びの報告がありました。おめでとうございます。

[Mana Sakai / 酒井 真菜 @_iammana]

@umaruyama 丸山先生、ありがとうございます！

[Mana Sakai / 酒井 真菜 @_iammana]

誤字: Biometrikaです

[Mana Sakai / 酒井 真菜 @_iammana]

@h_okahara_tus ありがとうございます！

[今泉研究室（東京大学・理化学研究所） @imalab_org]

酒井さん(D1)の論文を公開しました。ニューラルネットにおけるアテンション層の無限幅出力分布を導出したものです。通常設定のアテンション層出力はNNGPのようなガウス分布近似が成立しないため、変数間の積に対応するCLTを導入して非ガウス出力分布を理論的に導出しました。
https://t.co/1UZjarNpdY

[Mana Sakai / 酒井 真菜 @_iammana]

唐木田先生、今泉先生との共著論文を公開しました。

NNのアテンション層では、特殊なスケーリングや無限ヘッドを採用しない限りガウス近似に基づく従来の理論解析はできませんでした。
本研究では通常設定におけるアテンション層の非ガウス極限分布を理論的に導出しました。
https://t.co/gIH56p6LV1

[Mana Sakai / 酒井 真菜 @_iammana]

@ano2math5 ありがと笑

[Yuzo Maruyama @umaruyama]

久保川先生のインタビューのこれですね！
https://t.co/TRCF3d5keQ
どんなpriorならベイズ推定が２次不偏になるのか…フィッシャー情報量をpriorにとれば2次不偏…
多次元への拡張は計算が大変で研究が止まっていましたが，修士課程の学生がその拡張に取り組んでくれ，かなりいい結果を出してくれて…

[Mana Sakai / 酒井 真菜 @_iammana]

松田孟留先生、久保川達也先生との共著論文を公開しました。

ベイズ推定量が2次不偏となるような事前分布である asymptotically unbiased priors の特徴付けを、i.i.d.ではないモデルで行いました。
その上で、そのような事前分布の存在条件と構成方法をまとめています。

https://t.co/yftx0mVxbk