TOSUKUi

エンジニアでゲーマーです
RTX PRO 6000 Blackwellを購入したのでハイパースケーラーです

[TOSUKUi @ToSukui]

qwen3.8-flash-next nvfp4 pagoda garden
時刻変更機能など様々な機能が搭載されている
作業時間14分

[TOSUKUi @ToSukui]

Qwen3.8 flash next はホストメモリが100GBあればpro6000で爆速で動くな。
ただ、ホストメモリ100GBも使いたくないので、vllm向けでn-gram embedding層を8bitにしたやつが早く出てきてほしい

[天竜川ナコン @love_eminemu]

【現実さんぽ：千葉 五井駅】
駅から徒歩55分の港まで飲酒を重ね「感受性」を増幅させながら移動をし、トワイライトな工場夜景を見に行く動画です　宜しくお願い致します

[TOSUKUi @ToSukui]

女児に東方が人気で、一番くじまであると聞いてビビってる

[TOSUKUi @ToSukui]

お、dflash2 メインにマージされた https://t.co/1EdVN6w8sl

[TOSUKUi @ToSukui]

これ実はFlashInferが原因じゃないっぽい

[TOSUKUi @ToSukui]

Flashinferはマジで早いカーネルなんだけどGPUがロックしやすいな(ホスト強制再起動が求められる)

[TOSUKUi @ToSukui]

2度目の実行は壁にぶち当たりまくって20分超えはじめたので寝る

[TOSUKUi @ToSukui]

Qwen3.8-27B-FP8 pagoda garden

かかった時間6分くらい
ツール呼び出しは計 43 回(実働フェーズでは bash 18 / browser 16 / edit・write・read 計 9)。

[TOSUKUi @ToSukui]

環境: RTX PRO 6000 Blackwell
モデル: Qwen3.8-27B-FP8

FP4なら平均110tok/sくらいは行きそう

[TOSUKUi @ToSukui]

vllmの速くて安定感のある起動オプションっぽいの見つけた（かもしれん）

左引数、右実際の動作速度

[TOSUKUi @ToSukui]

https://t.co/CiNsEtQHsn

[odacchi♥️🥃☕️🎮 @is_odacchi]

浅学すぎて泣ける。

洪水の前で女性が踊っているからといって、承認欲求と決めつけるな。

日本には古来より、
「噴火・地震を鎮める少女の舞」
「疫病を除ける巫女の舞」
「災厄消除を願う神楽」
が存在する。

彼女らが蘇我の水害を鎮めるために舞っている可能性を、なぜ考慮しないのか。

少しは民俗学を学べ。

[TOSUKUi @ToSukui]

--attention-backend TRITON_ATTN にしたら安定性と速度がいい感じにバランス取れた。

[TOSUKUi @ToSukui]

qwen3.8-27b dspark入れて試してるけど、attention backend FA2が自動選択されて、これの時にコンテキストたまるとクソ遅い
--attention-backend FLASHINFERを引数で渡すとかなりよくなる

[TOSUKUi @ToSukui]

vLLMの話です

[TOSUKUi @ToSukui]

@nwnwnyo v100安いよ
https://t.co/mbtWE1kbUg

[McDonalds Japan @Love_McD]

@shou11777 あなたの目撃情報は…114514番目❗親子を捕まえるには、まだまだ情報が足りません😱引き続き情報をお寄せください😭
https://t.co/LOxHQpdZmf

[TOSUKUi @ToSukui]

qwen3.8-27bがあると聞いたんですが...