Shinji Yamada

・AI Agent Operator
・Software Developer

Qiita:

[Shinji Yamada @santa128bit]

これ審査側がパンクしないのかね。

[日本経済新聞 電子版（日経電子版） @nikkei]

生成AIの特許公開数、ソフトバンクGが世界首位
https://t.co/1LMwle1fdC

同社はAIエージェントを1人100個開発するよう求めるなど社員に利用を促してきました。一方オープンAIはわずか35件で、特許より実装速度を重視しているとみられています。

[shi3z @shi3z]

オープンソースにしよう

[Shinji Yamada @santa128bit]

何の役にもたたないデコーダーオンリーOCRを個人的に作ってみてる。そういう研究はあるので可能なことは知ってるけど、最新の知見を活かして小規模に作った場合どの程度精度が出せるのか気になる。

[Shinji Yamada @santa128bit]

colab cliが神過ぎる。正直colabのUI苦手だったのでストレスから解放された。
心置きなく課金できる。

[Shinji Yamada @santa128bit]

今日はチャッピーずっと調子悪いな。

[Shinji Yamada @santa128bit]

勉強になるな。naflex差し替えかと思ったけどちゃんと考えて作られてそう。
https://t.co/CsdKok6PTq

[Kotaro Kinoshita / MLism @KINOCOAI]

YomiToku v0.13.1を公開しました。

今回のアップデートでは、軽量モードに動的可変長幅入力とバケットバッチングを導入し、長い文字列の認識精度を保ちながら、CPU推論の高速化を実現しています。

採用した技術の背景と仕組みをTech Blogで紹介しました。
https://t.co/gwm76ZUw8S

[h100envy @h100envy]

Ex-vLLM core contributor explained how to make LLM inference 10x cheaper in 34 minutes - better than $3000 inference optimization bootcamps.

request comes in -> check LMCache -> hit? load KV cache from CPU/SSD/remote -> skip prefill -> serve.

That loop is why Bloomberg and other production stacks now push 300 terabytes of KV cache per week.

LMCache + vLLM + CPU/SSD/remote storage + zero-copy CUDA kernels - that's the stack.

Watch and save it, then wire the KV-offload into your inference stack.

[Shinji Yamada @santa128bit]

gpt-5.6 luna でも grok-4.5 よりかなり遅く感じる。OpenRouterだと64tpsで記録されてるから実際遅いんだろうな。Azureだと早くなるのか。

[Shinji Yamada @santa128bit]

gpt-5.6 より grok-4.5 の方がむしろ快適まであるかも。
コーディングエージェントについては精度を競うフェーズを完全に終えたか。エージェントを選ぶ観点の比重としては精度から速度に移った。つまり OpenAI は celebras はよ〜ってこと。

[Shinji Yamada @santa128bit]

今日は良いワインを手に入れたみたいだね🍷

[Sam Altman @sama]

homeboy you're the one sellling public market investors on short-term space datacenters

[Shinji Yamada @santa128bit]

grok-4.5 普通に使えるな。

[Shinji Yamada @santa128bit]

ちょっとだけクレジットチャージしたけど¥3000がとんでもない速度で溶けた。自動チャージで無制限にしてたらAI破産待ったなし。B200 のレンタル料金より余裕で高いだろこれ。さすがにおかしくないか。

[Shinji Yamada @santa128bit]

Ultraを使って後悔。。。あと３時間俺は何もできない。。。

[Shinji Yamada @santa128bit]

codexさん、サブエージェント3つまでしか作れないのか。10個くらい作って欲しい。

[Shinji Yamada @santa128bit]

プランAが可能なら世界はもっと平和だわ

[Shinji Yamada @santa128bit]

transformerの神8のうち何人かはAI使ってポストtransformerの研究をやってるだろうけど、いまだにtransformer超えられないのすごいよな。

[Shinji Yamada @santa128bit]

そうか。in app browser で外部サイトに繋げばいいのか。
suno とかAPI持ってないサービスとかも実質API持っている状態にできるじゃん。