ビルドタイガー

迫真終活部 断捨離の裏技

[けだま @kedamamofu]

名前も折れ耳も可愛すんぎ。

[ライス軍曹 @dddydehg754wf]

おまえら、聞け。静かにせい。話を聞け。男一匹が命をかけて諸君に訴えてるんだぞ

[平野耕太 @hiranokohta]

#好きなアニメのOPを上げる
火魅子伝
突っ立ってなんかどっかから風が吹いてる系のOP好きにはたまらない逸品です

[ﾓｯﾁｬﾝ @mooooo3052]

ポルノの晴一さんが提供してるだけあって楽曲センスが異次元　永遠に好き
#好きなアニメのOPを上げる

[wata @FWata12]

何故かこのOP好きなんだよね

[『葬送のフリーレン』公式 @FRIEREN_PR]

柔道のフリーレン

[☨てりてりソース若鶏のディアボラ風小松平健好法師爺☨ @KOMATU_000]

なんかシギラリアさん前より美味しくなってきてる

[みっトミー @aisachi_mgo]

アングラな知名度かとは思いますが……コチラが
ALI PROJECTアリプロのコッペリアの柩

NOIRノワールというアニメ絵なのにジャッキーチェンばりに戦闘アクションが最高に作り込まれた女の子だらけのガンアクションアニメでした
#好きなアニメのOPを上げる

[イー&ルミ@まったりゲーム中 @hihilite1984]

まさかの令和verが出るとは思いませんなんだ
#好きなアニメのOPを上げる

[NORICO @nnt_360]

#好きなアニメのOPを上げる

[風鷹(かぜたか) @kazetaka_makai]

男好きな鳩🕊️
❁レース鳩❁ドバト❁カワラバト❁
❁Pigeon❁Dove❁

[絵画の名前 @artstitle]

アントニー・フレデリック・サンズ
（Antonio Frederic Sands、1829-1904）
『愛の影』
（Love’s Shadow）

[安田峰俊 @YSD0118]

"たとえば下記は現地紙『自由時報』のスクショです。日本で言えばおおむね朝日新聞くらいのポジションの大手紙ですが、編集部はなにを考えているのか"

[ディルイ @zastruga_4]

オタクくん！女々しいのはカッコだけにしとけよ！態度も女々しく腐った女みたいになったら「終わり」やで！！

[ごんた @TjPqXb5YO700Qs7]

すごい面白いことになって来た٩( 'ω' )و

最新のローカルAI技術の方向性がかなりジサカー向きになってきているな。
GPT纏めさせたら以下。
一言で言えば
VRAM至上主義からバランス性能重視に進化した。であるが、
詳細に書くと、、、

GPTまとめ
ローカルAIのVRAMの壁は死んだ……

と言いたいところだが、そこまで言うとベンチ警察が来るので正確にはこう。

「VRAM容量の壁は、Sparse MoE + Host RAM前提のモデルではかなり崩れた」

Qwen3.8-Flash-Next、こいつがかなり面白い。

125B main model + 51B N-gram embeddingという巨体なのに、1 tokenあたり実際にactivateされるのは約6B。

125B級の図体で、働いてるのは6B。

社員125人、実働6人。
残り119人どこ行った。
会議室か。
(┐「ε:)

しかもN-gram embeddingは最初からHost Memoryへ置く設計が想定されている。

つまり発想が、

「モデル全部をGPU VRAMに載せる必要なくね？」

になっている。

今までのローカルLLMは、

VRAM足りない
↓
GPU買え
↓
まだ足りない
↓
もう1枚買え

みたいな脳筋世界だった。

そこへQwenが、

「RAMあるやろ」

と言い始めた。

雑ゥ！！
でも動く！！٩( ᐛ )و

UD-Q4_K_XLは約111GB。

それを、

RTX 4090 24GB + DDR4 RAM

で、

約21 tok/s

出している。

昔なら、

「111GBモデル？」
「A100 80GBを2枚どうぞ」

だった世界が、

「4090ある？」
「RAMいっぱいある？」
「じゃあ行け」٩( 'ω' )و

になりつつある。

⸻

特に重要なのがllama.cppの-cmoe。

MoE expert weightsをCPU側RAMへ置き、AttentionなどGPU向きの処理を4090側へ残す。

実測例では、

23.85GB VRAM / 22.52 tok/s
↓
11.66GB VRAM / 20.84 tok/s

VRAMを約12GB返して、速度低下は1割未満。

普通なら、

「VRAM半分返して」

GPU
「じゃあ性能も半分返せ」

になる。

今回は、

VRAM
「12GB返すわ」

速度
「1.7 tok/sだけ貰うね」

なんやこの優良取引。:(；ﾞﾟ'ωﾟ'):

ただし、これは猛烈にSparseだから成立する。

Dense 70BをDDR4へ丸投げしたら、

CPU「聞いてない」
RAM「聞いてない」
メモリ帯域「死ぬ」

になる。
_:(´ཀ`」 ∠):

Sparse MoEは512 expert全部を毎token読むわけではなく、使うのはtop-10。

要するに、

必要なやつだけ呼ぶ。

全社員を毎回会議室へ集めるDenseに対して、MoEは担当者だけ呼ぶ。

人類の会議もこれでいい。

⸻

なお、

「250k contextで動いた」

は少し盛られている。

実際のpromptは約28k tokens。

-c 250000で250k context用KV領域を確保した状態で動作確認した、という意味。

なので、

250k tokens全部を投入して364 tok/s

ではない。

ただしVRAM使用量は、

80k → 11.66GB
180k → 15.6GB
250k → 18.3GB

なので、

250k級KV cacheを24GB VRAM内で確保できる

こと自体は普通にヤバい。

4090：
「まだ入るぞ」

怖いわ。
:(；ﾞﾟ’ωﾟ’):

⸻

現時点ではllama.cpp対応も実験的PR段階なので、

個人ローカルAI
→ かなり実用圏

production-grade
→ まだ待て人類

くらい。

でも今回の本質は、

「125Bが4090で動いた」

ではない。

VRAM / RAM / NVMeを、一つのメモリ階層として使い始めたこと。

従来：

GPU VRAM
↓
モデル全部
↓
入らない
↓
死亡

これから：

GPU VRAM
→ Attention / KV / 高頻度weight

System RAM
→ Sparse MoE experts

RAM / NVMe
→ 巨大lookup table

になる。

要するに今まで、

「全部L1キャッシュに入らないと動きません」

みたいな無茶をしていた。

ようやく、

RAM使え。
SSD使え。
階層化しろ。

という普通のコンピュータ設計に近づいてきた。

そしてこれ、4090みたいな24GB GPUの価値を上げる可能性がある。

4090 = 高速演算用working memory
128GB RAM = 巨大expert倉庫

つまり、

GPUだけ豪華でRAMも無駄に多い変態PC

が、

ローカル巨大MoE推論機

として突然まともになる。

時代がお前ら変態PCユーザーに追いついてきた。
٩( ‘ω’ )و

GLM-5.3-Flashとの比較なら現時点では、

純粋能力
→ GLM-5.3-Flash

効率
→ Qwen3.8-Flash-Next

ローカルPC変態王冠
→ Qwen3.8-Flash-Next

特に、

125B級なのにActive 6B

は狂ってる。

125人雇って6人しか働かせないのに高性能。

普通の会社なら倒産。
MoEなら最先端。

世の中どうなってる。
( ͡° ͜ʖ ͡°)

結論。

VRAMの壁は死んでいない。

ただし、

「モデル全体をVRAMへ積まなければならない」

という常識は、Qwen3.8-Flash-Nextがかなり派手に壊し始めた。

111GBモデルが、

「4090？ある」
「RAM？いっぱいある」
「なら行ける」

の世界へ来た意味はデカい。

ローカルAIがGPU容量勝負から、PC全体のメモリ階層を使う時代へ移る転換点候補。

VRAM足りないならRAM使えばええやん。

2026年、ついに本気でそれをやり始めた。
(☝︎ ՞ਊ ՞)☝︎

[まーにゅ @magnus532]

ロシアが核撃つ

国際社会が何もしない→戦術核までなら使用して良いという前例が生まれ国際秩序が崩壊

国際社会が核による報復攻撃をする→報復核による報復核で世界が崩壊

[秋田犬ルナ @luna20230414]

よーく見てください
顔の中に顔が‼️
わかるかな？
なんの動物に見えるかな？

[みとがわ @mitogawa]

なんとこちら添付の通り、購入時に希望すればわんちゃんのブロマイドを付けてくださいます！

パッションフルーツ、いつも出品後10分以内には売れてしまってるくらい大人気なのでフォローして通知チェックするのがおすすめです

🐕農家さんのメルカリ
https://t.co/I3otWvtpmg