HIROKI IIDA

IR and NLP/Machine Learning Engineer@Uzabase Inc./ ex. Retrieva researcher/ ex. Tokyo Intsitute of Technology Okazaki Lab

写真はChatGPTの漫画風似顔絵です
論文系ツイートはあとで読む集です

[Uzabase Tech @Uzabase_Tech]

／
スポンサー出展します📢
＼

第40回人工知能学会全国大会(6/8-6/12)にスポンサーとして協賛します👏
ユーザベースのブースも出展し、ノベルティの配布や論文の展示やサマーインターンシップの案内も実施します✨

ぜひお立ち寄りください🌸

https://t.co/2WmK98exZ3

#JSAI2026 #ユーザベース

[nikkie(にっきー) / にっP @ftnext]

Gメッセ群馬2Fには受付前以外に、FFG会場前にも「ご自由にお取りくださいコーナー」があります #JSAI2026
そちら側にユーザベースのご自由にお取りくださいがあります！(91)
サマーインターンシップのQRコードです！！

[HIROKI IIDA @HIROKIIIDA7]

第273回お試しアカウント付き並列プログラミング講習会 | 東京大学情報基盤センター スーパーコンピューティング部門 https://t.co/5n392z3iaF

[Kazuki Fujii @kazukifujii]

Finally!! Accepted to ICLR 2026! 🎉

Cited by Nemotron 3 Nano and OLMo 3, yet it was a long journey to get this through academic peer review. So glad to cross the finish line.

📄 Rewriting Pre-Training Data Boosts LLM Performance in Math and Code: https://t.co/tbGL1IPiQf

[HIROKI IIDA @HIROKIIIDA7]

長文を分割して扱う。LLM にコードも含めて探索させて扱う
https://t.co/29semYnWcP

[HIROKI IIDA @HIROKIIIDA7]

エンタープライズは、米でも似た感じっぽい

https://t.co/pzgRQQTilq

[HIROKI IIDA @HIROKIIIDA7]

自社LLMを超高速でデプロイ！待ち時間を劇的に短縮するGKE高速化テクニック https://t.co/U9stTpKNv2 #Qiitaアドカレ #Qiita

[HIROKI IIDA @HIROKIIIDA7]

Continuous Batchingの中身を調べました
https://t.co/VilUdsTFsX #zenn

[HIROKI IIDA @HIROKIIIDA7]

パラレル思考の強化学習もあるっぽい
https://t.co/2icBNOwpAh

[Naoaki Okazaki @chokkanorg]

SwallowCode, SwallowMathのv2を公開しました。このデータセットを中間学習に使用すると、他のデータセットで学習したのと同等かそれ以上の性能（コーディングや数学において）が出ています。ライセンスもApache 2.0になり、使いやすくなりました。詳細は藤井 (@kazukifujii) さんのスレッドで。

[HIROKI IIDA @HIROKIIIDA7]

ちょっとしたTipsを書きました

[Uzabase Tech @Uzabase_Tech]

／
テックブログ更新しました📣
＼

-LLMによる表抽出で精度評価を行う際、簡便に実施で「行・列名の揺れ」で評価値がバラついた
- 解決策として「行・列名の抽出」と「値の抽出」を2段階に分離
-評価の安定化と工数削減を実現、現場向けの簡便な検証に有効

https://t.co/6PoIfoUgc8

#Uzabase

[Jiro Nishitoba @jnishi]

自然言語処理への寄稿記事でレトリバの研究チームの紹介を行いました。公開できる内容・成果については大体まとめられたと思います。
https://t.co/gA5PunZN05

[HIROKI IIDA @HIROKIIIDA7]

Sentence Transformers でQLoRA+FSDP したときに、ややはまったので、Tips書いておきましたー

[Uzabase Tech @Uzabase_Tech]

／
テックブログ更新しました📣
＼

- SentenceTransformers × QLoRA + FSDP で学習するときのつまりどころを解説！
- 特に、開発データでの評価と最良モデルの読み込み方法を紹介
- Adapterのみの保存と読み込み方法も記載

https://t.co/rG9YGpaMBd

#スピーダ #ユーザベース

[Naoaki Okazaki @chokkanorg]

Swallow LLM Leaderboardを更新しました。Llama 3.1 Swallow 8B v0.5, Llama 4 Scout, llm-jp-3-*-instruct3, llm-jp-3.1-*-instruct4, Qwen2.5-32B, Qwen3-*-Baseを追加しました。この評価ではLlama 4 Scout InstructよりもLlama 3.3 70B Instructの方が高性能でした。 https://t.co/xZAWFu08wJ

[HIROKI IIDA @HIROKIIIDA7]

IR READINGで論文紹介しました。密ベクトル検索のスコアを足切りように変換して、いい感じに足切りできるようにする手法ですhttps://t.co/cNhNWJcJSE

[Naoaki Okazaki @chokkanorg]

Gemma-2-Llama Swallow 2B, 9B, 27Bを公開しました。各規模において、日本語の理解・生成・対話でトップクラスの性能ですので、ぜひご活用頂ければと思います。なお、モデル学習の計算資源として、GoogleからTPU Research Cloud (TRC) のご支援を受けました。 https://t.co/cvovDHwt8n

[開発室Graph @stu3dio_graph]

Webスケールの日本語-画像のインターリーブデータセット「MOMIJI」の構築 /巨大テキストデータをAWSで高速に処理するパイプライン
https://t.co/R72tvqyKR4
チューリング入社してから数ヶ月やってた仕事をまとめたテックブログ書きました！最強VLM作るのをデータセット作成から支えられてよかった…

[セコン @hotchpotch]

情報検索モデルの学習時に必要になる、文章に対応する質問文を高速に生成するモデル、query-crafter-japanese を公開しました🚀🚀🚀
RTX5090で、入力トークン48,000toks/s 出力トークン 2,200toks/sで、1万文章に対応する質問文程度なら100秒弱ぐらいで生成できます！
https://t.co/LXxu6RDHpC

[Jiro Nishitoba @jnishi]

今年もレトリバでインターンを行います。募集サイトを公開いたしました。自然言語処理、LLMに関する研究開発に興味のある学生の方は是非。
https://t.co/CHw4UNUV2x

[hpp @hpp_ricecake]

情報検索・検索技術 Advent Calendar 2024に書いたRuriの紹介記事にRuri v2, Ruri v3の記述を追加した
https://t.co/4nNZmiVZ0e