物性けん/bussei_ken

研究を生業として生きる者のはしくれ。【興味】量子情報、生命物理、物性物理、統計物理、ソフトマター、言語処理系、画像処理、音楽情報処理、グラフアルゴリズム、自然言語処理、コンピュータアーキテクチャ、並列分散処理、数学基礎論

[物性けん/bussei_ken @bussei_ken]

【注意】このアカウントは東京大学物性研究所とは縁もゆかりもない、ある人間の研究生活や日常生活を記述する代物です。

[ルカ @11ruka_ai]

世界中の天才が作ったSkillsが1,170,769個もある無料サイト見つけたwww

https://t.co/dXQU2KPbRQっていうねんけど、超便利なSkillが山ほど入ってて最高すぎる🥺

これって、自分が叶えたいこと探せばいいだけのゲームってことよね…？

ちなみに僕が実際入れてよかったスキルは3つで、

[yoschi_s @stern_bow]

統計で期待値などの積分計算をするとき，無邪気に積分と極限を交換してしまうことがある。しかしこれには注意が必要である。
積分と極限が交換可能な条件とは、

▼積分と極限が交換可能な条件～「確率の半歩先」第2部を読む
https://t.co/Lz5Jj0532h

[数学とか語学とか楽しいよね @sasaburo]

『微分幾何によるロボットモデリング: 運動・形状・力学・制御を読み解く幾何学』
「姿勢、配位、運動、拘束、最適化といった対象は通常のユークリッド空間だけでは自然に記述しにくいことがある。本書はこれらの対象を微分幾何学の考え方に基づいて表現し扱うための入門書」
https://t.co/bfVmSPFvB8

[数学とか語学とか楽しいよね @sasaburo]

『有向パーコレーションの数理: 相転移と臨界現象の厳密証明』
「本書は、感染症や森林火災などの伝搬や流体の層流・乱流相転移など、幅広い現象を記述する「DP(有向パーコレーション)普遍性クラス」の代表モデルに特化し、数学的に厳密な解析を網羅した本格的専門書である」
https://t.co/vC7lWIHYXs

[Avi Chawla @_avichawla]

NVIDIA researchers did it again!

They found a way to make KV cache transferable between models.

The target model skips prefill entirely, and the conversion runs 2.7 to 25x faster than processing the context again.

Let's understand why this is so important today.

LLM APIs are stateless, so every turn sends the entire conversation back to the model. The model reads all of it again before writing a single new token, and all of it is billed as input.

Prompt caching allows Anthropic and other providers to hold the KV cache for a stable prefix and bill a hit at roughly 10% of the base input rate, because the compute was already done once.

The 90% reduction is one of the largest lever in LLM serving, which is why so much production work goes into keeping prefixes byte-stable.

But the cache only works on the model that produced it. Keys and values are produced from that model's weights, so no other model can read them.

In pratice, the constraint shows up in LLM routing. If the traffic is shifted to a different model for cost/capability reasons, the accumulated KV cache becomes invalid.

As a result, the accumulated context has to be processed from scratch, and it's billed at full rate.

NVIDIA's recent paper treats this as a representation problem.

Prefill's only output is the KV cache, so to move KV between models, we need to convert one model's cache into the format the other expects.

They first checked whether the conversion has any structure worth exploiting.

They found that moving from Qwen3 14B to 32B, a plain linear regression from a single source layer reconstructed 56% of the variance in the target model's keys.

The two models obviously may have different layer counts, so there is no natural one-to-one pairing between them.

For each target layer they rank every source layer by how well it predicts that layer, then feed the top eight in together, which takes the reconstruction to 79%.

The mapper itself has three parts:

> Each target layer and head gets its own independent linear map, solved in one closed-form step rather than by gradient descent.

> The cross-layer selection described above is the second part, and their ablation shows it carries the most weight of the three.

> Keys also carry a position-dependent rotation from RoPE. They strip that rotation, fit the map in position-free space, then re-apply the target model's rotation at inference.

Across six pairs from Qwen3, Llama 3.1 and Ministral 3, four retain 73 to 98% of the receiving model's standalone accuracy, and the conversion runs 3-25x faster than processing the context again.

Prior work on cross-model KV reuse exists, but it either trains a neural adapter per pair or requires both models to be architecturally identical.

This is probably the first version that is closed-form and training-free, so a lot of it is still open research.

Every pair tested belongs to one family, so it works on Qwen to Qwen and Llama to Llama.

Cross-family transfer is listed as future work.

All six pairs mentioned above also happen to share KV head count and per-head dimension across scales. Mismatched head configurations are currently untested.

The researchers scoped this to dense full-attention only, so sliding-window and attention-recurrent hybrids still need work.

Here's the paper: https://t.co/tMUGhijFbc

Plenty of work is yet to be done. Still, the constraint being solved is genuine.

Every model swap currently invalidates the full KV that was already paid for, and this is the first result showing that work might be recoverable without training anything extra.

That said, all of this only matters because of what the KV cache is doing in the first place.

I wrote a first-principles breakdown of it, covering why the model stores keys and values at all, why the cache grows with every token, and what generation speed looks like with and without it.

Read it below.

[ScienceHub (サイエンスハブ) 公式 @sciencehub_o]

電磁気学のゲージ対称性から、素粒子の相互作用、さらには一般相対論の接続まで。

ゲージ理論を理解するための最短コースをまとめたノートです。

👉 https://t.co/NrhWufzO7G

[さみだれ @F_undergraduate]

和訳出るんだ(セミナーで読んだ)
https://t.co/nA1Jv6IsHr

[一般社団法人日本量子コンピューティング協会 @jqca2023]

OptQCとNTT、100万量子ビットの光量子コンピュータ構築に向け資本提携を締結 https://t.co/hGNEA2ymva

[量子ポータルサイトQ-Portal @Q_Portal_]

光量子コンピューター実用化加速へ　NTTと東大発企業資本業務提携：朝日新聞 https://t.co/iFw7cLe9Hr

[橋本幸士 Koji Hashimoto @hashimotostring]

夏の学校の共通講義のpptが130ページを超えてしまった．90分だが，できるか？（無理か）
#学習物理学 について，講義します．
https://t.co/wtCHbUlkdh

[数学とか語学とか楽しいよね @sasaburo]

新井先生新刊！！！

『場の量子論の数理　古典場と量子場の構造』
「場の量子論の数学的基礎を問い直し、新しいアイディアを探求することが望まれる。古典場と量子場の数理を詳細に解説した入門書。」
https://t.co/VI4Pi6ZYKF

[Jose @ATURULLAO4]

$IONQ IBM and The University of Chicago Demonstrate Quantum Advantage
- The Malaysian Reserve
Scientists used a new error correction method to encode 70 logical qubits and crack a classically intractable problem. https://t.co/cVzGFyjx4L

[科学情報出版(株) @kagaku_book]

【9月4日発売】
量子力学からつながる 場の量子論入門－調和振動子から多体系・非平衡系へ－
私たちが住むこの世界で、量子と呼ばれる原子を構成している粒子や光がどのようなものかを解説する実用入門書。
詳しい内容はこちら
HP: https://t.co/eJZZZHLuDg

[りょうま @engineer_ryoma]

何十回も言ってるけどDockerアレルギーをなくすには『入門 Docker』が最強

・Progateのようにブラウザ上で動かせる
・ハンズオン形式で学べる
・解説が絶妙に分かりやすい
・しかも無料

僕もかつては大のDocker恐怖症でしたが、これを2周してかなり自信がつきました！
https://t.co/XNSH5M1V8C

[PRX Quantum @PRX_Quantum]

A new polynomial-time method designs fast, robust, programmable multiqubit entanglement gates across hundreds of trapped-ion qubits, offering a scalable route to large ion-crystal quantum computers.

Read the paper: https://t.co/4Jv93eZXRY

[オープンソース研究所 @opensourcelab9]

【衝撃】
中国が「100ページのPDFを一発で丸ごと読むOCR」を無料公開、しかも手元のPCで動く
baidu/Unlimited-OCR

https://t.co/gNjURok1bt

何がすごいかというと👇

・たった30億パラメータで軽い、ページ分割せず1回で通読
・多言語そのまま、標準ベンチでDeepSeek-OCRを上回る精度
・クラウドOCRは1000ページ$1.5〜15、こっちは無料でずっとローカル
・Transformers/vLLM/Ollama/llama.cppですぐ動く

つまり
今まで有料クラウドに投げるしかなかった書類のテキスト化が、手元のPCで無料で完結する。
長い契約書も論文も、1回読ませれば終わる時代になった。

[Amarillo @anyelamarillo]

🚨 UN PROGRAMADOR SOLO ACABA DE LOGRAR LO QUE GOOGLE LLEVA AÑOS IGNORANDO

Desarrolló Obscura, un navegador headless en Rust creado específicamente para agentes de IA, scraping masivo y automatización.

Solo usa 30 MB de RAM.
Las páginas cargan en 85 ms.
Bloquea automáticamente 3.520 trackers.
Elimina anuncios, analíticas y todo script de rastreo.

Se llama Obscura y tiene lo que Chrome nunca podrá darte:
Cada sesión genera una huella digital completamente distinta.
GPU, canvas, audio, batería… todo se randomiza en tiempo real.

Ningún detector de bots lo identifica porque se comporta exactamente como un Chrome real.

Es el reemplazo directo de Puppeteer y Playwright.
Sin Node.js. Sin dependencias pesadas. Un solo binario ligero.

Ya supera las 19k estrellas en GitHub. 100% open source. Totalmente gratis.

Si trabajas con scraping, IA o automatización… esto no es solo una mejora. Es un cambio de juego.

Guarda este post antes de que se te olvide. Es una de las mejores herramientas que han salido este año 💎

[Daiki Nishiguchi @daikinish]

東京科学大 理学院 物理学系「夏の談話会」で話します。学部生・異分野大学院生を主な聴衆と想定して話すので、アクティブマターや非平衡に興味あれば、物理学系以外の人も是非気軽に来てください！
（ビアパーティはたぶん物理学系の人だけ...）
https://t.co/BWX3GBYPJx

[arXiv bot (quant-ph) @krxiv_quant_ph]

Parallel QEC Decoding Applied to Distributed Quantum Computing
https://t.co/M1lWhKWSde
Gabriele Incardona, Davide Ferrari, Michele Amoretti.
https://t.co/dTmuEybqIG

[Sweex @sweexx9]

🚨 ¡BOMBAZO EN LA IA! 🚨
Alguien acaba de lanzar OpenManus, la versión 100% gratis y de código abierto de Manus.
Sin código de invitación. Sin paywalls. Sin límites.

Construida en solo 3 horas por investigadores de MetaGPT.
Dale cualquier tarea por terminal y se encarga de todo sola:
✦ Planea y razona paso a paso
✦ Navega por internet de forma autónoma
✦ Usa herramientas y ejecuta acciones
✦ Soporte MCP incluido
✦ Funciona con cualquier LLM

Gratis. Open source. Listo para usar ya.
Esto no es un juguete. Es el futuro que queríamos… y llegó antes de lo esperado.
¿Ya lo estás probando? 👀