ますらるく

今は東方,鳴潮,地元のLLM(情報分野は素人)

[ますらるく @masral_k]

勝手推奨有線イヤホン:
TRUTHEAR x Crinacle ZERO:RED In-ear Monitor

https://t.co/ilyh2Ooypm

[ますらるく @masral_k]

strata-IQ3_S&200kは
V12GB,D64GBでギリギリ。

decode45〜55t/s,prefill600〜1500t/s
程度だった。
多少遅くてctx少なくても良いタスクなら
アリかな。
普段使いはIQ3_XXS&500kが良さそう。

[ますらるく @masral_k]

V12GB,D64GBのwinでも
strataのFN_IQ3_XXSで500k実用水準だ
圧縮直前あたりでdecode52t/s、prefill900t/s程度には動く。

[ますらるく @masral_k]

Qwen3.8-27BのEXL3_5.75bpwを触って明確に感じた。
主力として使うなら5〜6bpwは欲しいと
GSQ-RCO_IQ3_Sとかは数値は優秀だけど、やっぱりなんか違う

[りりすちゃん @Lilyth_ch]

地元のLLMさんの量子化について��うこと

[Qwen @Alibaba_Qwen]

Qwen4 is coming.

Deeper knowledge. Richer world understanding. Stronger coding and agentic capabilities.

Built for real-world tasks — from complex coding and knowledge work to front-end builds and professional software workflows.

Qwen4-Max is now in preview on Alibaba’s Token Plan. You can also get early access to the new model on QwenWork, Qoder, Qwen APP, and QwenStudio.

Put it to the test on a real problem. Show us what you build. 👀

Token Plan: https://t.co/LOB2Jdt3Sk

[ますらるく @masral_k]

FN作のQwen4-27B出来たから、
なんちゃって自前ベンチやってみた。
結果は

オリジナル: 24.09/36 (66.9%)
今回モデル: 20.04/36 (55.7%)

だろうな！
だって簡易な蒸留で教師、IQ3_XXSだもん
でもQwen4作れと言ってここまでやったのは素直に褒める

[ますらるく @masral_k]

まさにワイ
最早ワイが完全にボトルネック

[𝗸𝘂𝘀𝘂𝗿𝗶. @kusurichan_]

Qwen3.6 27B時代からローカルモデル縛り開発してるけどもうQwen3.8 27BとFNあればとりあえずなんでもできるんじゃねえかなという気持ちになってるよ本当に

[ますらるく @masral_k]

そして3.8FN-IQ3_XXSから27Bへの蒸留とかいう
クソみたいな方法でQwen4制作進んでて草

[ますらるく @masral_k]

おうおう遅いのは当局が原因かよ
折角米が止まりそうなんだから
むし���推進すれば良いのにと素人意見

[smlay @Smlay_ero]

Word on the street says Qwen4 release has been delayed because the Cyber module hasn’t been fully separated and hasn’t cleared review by relevant Chinese regulators.

Looking at recent CAC rules requiring security filing for open-source model weights, real-name download requirements plus the draft export-control framework, this line of reasoning makes sense.
Already released models face limited impact, but upcoming next-gen open models including DeepSeek, Kimi and GLM will likely encounter similar compliance scrutiny. Their release timelines may get slowed down.

[ますらるく @masral_k]

ってことは安易に更新しない方が良いということか。
人柱待ちになるか？

Windows 11、アプデで「完全新規OS」になる可能性。「27H2」にて、Windows 12になるかは不透明 https://t.co/iHHLNHyAGz @sm_hnさんから

[ますらるく @masral_k]

(生成タグ付け忘れてた)
無料版チャッピーの適当生成

[ますらるく @masral_k]

Deepseekばっかり擬人化でqwenが
可哀想、と思ったけどqwenはカピバラか。

ってことはカピバラ擬人化にqwenの雰囲気を蒸留すればqwenの擬人化それっぽく出来る！

[ますらるく @masral_k]

なんかFNを教師に27Bに蒸留してた。
おもろ

[ますらるく @masral_k]

来なさすぎてこれ

[ますらるく @masral_k]

えぇ…

[GMOメディア【公式】 @GMOMedia_Inc]

「スクショ」の商標について、多くのご意見をありがとうございます。
「スクショ」は当社の事業保全や将来的な活用の可能性を踏まえて取得・管理している商標であり、日常的な使用（SNS投稿・創作など）に対して権利を行使する意図は一切ありません。
詳しくは下記URLをご確認ください。

[ますらるく @masral_k]

東方曲はいつも心を癒してくれる

[ますらるく @masral_k]

嘘つけ

私の精神年齢は52歳でした、あなたは？ https://t.co/WDS1OjXfUb #精神年齢診断

[ますらるく @masral_k]

暇すぎてDSH入れてみたけど、コレ良いな
初心者はLMStudio→DSHの流れが良いよ多分

[ますらるく @masral_k]

ずっと待ってるんだが？
ずっと待ってるんだが？
ずっと待ってるんだが？
ずっと待ってるんだが？
まだなのかQwen4は！

[ますらるく @masral_k]

あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛あ゛Qwen4はまだかあ゛あ゛あ゛あ゛あ゛

[ますらるく @masral_k]

暇すぎて