g_votte

One of maintainers of Optuna:

[g_votte @g_votte]

書きました。遺伝的アルゴリズムで日本語LLMベンチマークのスコアを爆上げします。爆上がりするだけにLLM評価の難しさも見えてきます。

[PFN Tech @preferred_jp]

【ブログ】LLMのプロンプトを自動最適化する技術について、エンジニアの佐野(@g_votte)が紹介します。実応用ではモデル本体の性能に加え、プロンプトで能力を最大限に発揮させることが重要です。例として最適化した日本語指標JCommonsenseQAでは精度が約40%改善しました。 https://t.co/fIHL35faUJ

[c-bata @c_bata_]

Optuna v5.0.0のリリース候補版（RC）を公開しました。

デフォルト最適化手法の性能改善や、KDD 2026に論文が採択されたConditional PED-Anovaのサポートなど様々な新機能・改善が含まれています。

Optunaをお使いの方はぜひバグ報告等にご協力いただけますと幸いです。
https://t.co/Cb0GUrTvCG

[ゆう@資格| 院試面接死にました @YuPhEngine]

これガチ良書だった。

ベイズ最適化の理論だけじゃなくてOptuna(Pythonフレームワーク)を使った実践方法が身につく感じ。

扱ってる内容はベイズ最適化の書籍の中でもかなり難しい方だったけど、少なくともOptunaは使えるようになるから、実務でベイズ最適化したい人にはかなりおすすめ。

[himako @himkt]

Optuna の設計思想に深く触れる経験はソフトウェア開発のいろいろなところで活きると思います。興味ある方いらっしゃったらぜひ

[やねうら王 @yaneuraou]

AIに巨大なプログラムを書かせているとき、本質的なのは「AIが1秒あたり何行書けるか」ではない。実際に効いてくるのは、コード量が増えるにつれて、開発オーバーヘッドがどうスケールするかである。

AIが素で単位時間あたり一定量aのコードを書けるとしても、実開発ではコンパイル、テスト、デバッグ、調査、影響範囲の確認といったオーバーヘッドが必ず乗る。問題は、そのオーバーヘッドがその時点tでのコード全体量C(t)に対してどう増えるかだ。

単純化すると、以下の二つのケースがある。

1. オーバーヘッドが C にほぼ比例するケース
2. オーバーヘッドが log C 程度に抑えられるケース

コンパイル時間は、フルビルドだと1.に近い。
原因の切り分けが二分探索的に進められる種類のデバッグでは、2.に近い。

1.と2.のケースにおいてC(t)が時間tに対してどのように増加するか計算してみたのが添付図だ。

結論としては、
1.は、C(t)は√tに比例するので、コードを10倍にしようと思うと100倍の時間が必要。
2.は、C(t)はtに対してかなり直線に近い増え方をする。
である。

言うまでもなく1.と2.とは雲泥の差である。ソフトウェア工学のかなりの部分は、1.の世界をいかに2.に近づけるかという試みだったとも言える。

コードを書くときの認知的・構造的オーバーヘッドも、放っておけば前者に寄りやすい。しかし、モジュール分割、関数分割、クラス分割、依存の局所化、テスト単位の分離をきちんと行えば、そのコストを後者に近づけられる。そうなるようにプログラミング言語やモジュール機構、テスト手法、設計原則は発展してきたわけであり、マイクロサービスやクリーンアーキテクチャも、その文脈で理解できる。

AI時代になると、この問題はむしろ先鋭化する。AIはコードそのものを書く速度が高いぶん、設計や検証のオーバーヘッドの悪さが、以前よりはっきり露呈するからだ。

設計が悪く、影響範囲が広く、テスト単位が粗く、どこが壊れたのかを絞れない構造になっていると、1.に近づく。すると、せっかくの生成速度がオーバーヘッドに食われる。

だから、今後AIで巨大なプログラムを開発するエンジニアに強く求められるのは、単にプロンプトがうまいことではない。

システムを分割し、影響範囲を閉じ込め、検証単位を細かく設計して、開発全体のスケーリング則そのものを改善する能力だと思う。

[V @voluntas]

LLM での大量の Pull-Request は本当にやめたほうがいいけど、やってる側は成果を積み上げるという感じなんだろうか、デメリットしかないと思うが。

[まむ @mamurai1208]

東京科学大学の岡崎研究室のセミナーのためスライドを作ったので公開しました https://t.co/qbwMQFAM0x

[PFN Tech @preferred_jp]

【ブログ】Matlantis上で結晶構造探索を自動化するプロダクトMatlantis CSPにおける、ブラックボックス最適化フレームワークOptunaの利用について技術詳細をご紹介します。 https://t.co/docFGHlZqb

[g_votte @g_votte]

チームの人数を極力絞って『コードを書く方も読む方も全てLLM』な低認知負荷なチームが偉いかもしれないし、数十人規模を超えても認知負荷をコントロールできる組織が偉いかもしれない。

[g_votte @g_votte]

コードレビュー不要論が盛んですが、個人的にはチーム人数やプロダクトの歴史による『コミュニケーションのボトルネック度合い』によって重要度が変わると思っています。認知負荷と呼ばれるやつです。

[g_votte @g_votte]

認知負荷の考え方はチームトポロジーなる書籍から学びました。バイアスがかってる可能性があるので他の資料も知りたい。

https://t.co/1ogT9RIjEh

チームトポロジーのパターンも、コーディングエージェントによって大きく変わるとは思います。

[日経電子版 ビジネス @nikkei_business]

プリファードの大規模言語モデル、「国産AI」で性能と安全性を両立
日経優秀製品・サービス賞　開発の現場から
https://t.co/lZKWs4yNEV

[日経 スタートアップ @nikkei_startup]

プリファードの大規模言語モデル、「国産AI」で性能と安全性を両立 https://t.co/gw87Q2qvjL

[Findy メディア編集部 @findy_englab]

全員が「正しい」と言うアイデアはあえて避ける。自らを信じ、尖った仮説を。

Optuna開発者 秋葉さん（@iwiwi）の「世界的OSS」を生み出す思考法を探りました
https://t.co/m4652XL8i8 #EngineerLab

[Takuya Akiba @iwiwi]

Optunaの開発秘話についてインタビューして頂きました！

2018年当時のOptuna誕生の経緯と裏側、この経験の振り返りや学び、今の仕事にも繋がる自分の根底にある考え方、などを上手く引き出してまとめてくださってます。ぜひ！ https://t.co/bz5E0G9xxU

[Yoshitaka Haribara 針原 佳貴 @_hariby]

Sakana AI 秋葉さんのインタビューが Findy メディアに出ました！
Preferred Networks 時代に開発されたハイパーパラメータ最適化のための Optuna 開発秘話です。僕も同席して取材協力させて頂きました。
2人目の開発者として友達の佐野くん @g_votte も登場します。
https://t.co/ZHxyrKKMIP

[smly @smly]

Happy Optuna Year End Party!!!!🍻

[Preferred Networks @PreferredNetJP]

【発表】国産LLM PLaMo™の最新版PLaMo 2.0 Primeを公開、従来の1/4以下の価格で提供します。
日本語ベンチマークでGemma3-27B、Qwen2.5-32B、GPT-4o miniなどを上回るスコアを達成したモデルはGENIAC第2期で開発しました。
GENIAC-PRIZE応援キャンペーンも実施しています！
https://t.co/uJPAh9P0qd