🔰にっくす

🔰ITインフラエンジニア/週末はテスラ乗り/日産サクラ/AWSからHPCまで幅広く/会社員しながら兼自社社長で複数業務委託/フルリモート20年以上/アニメや映画が好き/株も好き/B'zファンクラブ/妻と3人の息子+娘（トイプー）/最近はAIが仕事してます/ｵﾝ･ｻﾞ･ｴｯﾁﾞｼｭｯｼﾝ

[🔰にっくす @___nix___]

ウチの社用犬🐶

[🔰にっくす @___nix___]

もう少しプロパーの人にしっかりして欲しいかな

[🔰にっくす @___nix___]

macOSくん、急にどうした？

[🔰にっくす @___nix___]

これはww

[金のニワトリ @gosrum]

gemma-4-12b-it（UD-Q4_K_XL）をお試し

明らかに出力がおかしいのでベンチマークどころではない。。。お試しされた方、他の量子化モデルでも似たような感じでしょうか？

[🔰にっくす @___nix___]

何だか期待できそうなサイズ
GGUFってところも嬉しい

[Unsloth AI @UnslothAI]

Gemma 4 12B can now run locally on just 8GB RAM via Dynamic GGUFs.

Google's new model, Gemma 4 12B Unified supports image, audio and 256K context.

You can run and train the model via Unsloth Studio.

GGUF: https://t.co/8cL321pVDh
Guide: https://t.co/odRo9WjRpA

[witcheer @witcheer]

OpenAI's GPT-OSS-120B runs on a single RTX 5090.

it's a 59GB model in native MXFP4. it doesn't fit in 32GB of VRAM.
the move is MoE offload: keep attention on the GPU, spill the expert weights to system RAM (llama.cpp --n-cpu-moe).

this way, only 5.1B of 117B params fire per token, so the CPU side stays cheap.

with reasoning on, measured on my box, temperature 0, ~100 items per task (MMLU 114):

- MMLU 89.5
- GSM8K 97.0
- HumanEval 98.0 pass@1
- ARC-Challenge 95.0

that's a good frontier-grade scores, on one consumer GPU.

~~~
it is quite slow tho: 47 tok/s generation.

that's because the experts live in RAM, so token speed waits on the CPU, not the 5090.

prefill is fine with 473 tok/s at 512 ctx. it is generation that pays the offload tax.

the model is usable, not fast. but you get a real frontier model you fully own, on hardware you can buy, for the price of patience.

[🔰にっくす @___nix___]

これは良さそう

[Publickey @publickey]

ブログ書きました： ［速報］Windows上でLinuxコンテナの作成や実行ができる「WSL containers」発表
https://t.co/4dywY8LEyi

[🔰にっくす @___nix___]

@Sagasa8045 重要なのは道具ではありません！
何をするのかです！

[🔰にっくす @___nix___]

GitHub Runner の IP が軒並み悪さしていていて困る
GuardDuty にも検出されるし

[🔰にっくす @___nix___]

Terraform あるある

❌https://t.co/6Avpt9WlCC
❌https://t.co/k17yKYl1Z4

⭕️https://t.co/vHC6wyoOJD_region.current.region

[村本章憲 Stamp CEO @1amageek]

https://t.co/Bo6DKMCdRx

ここが変わるだけで日本大きく変わりそうなのにね。

[🔰にっくす @___nix___]

持ち株は全てマイナスなのに、日経平均がプラスである理由を誰か説明してください

おはようございます🌞

[🔰にっくす @___nix___]

確かに Composer は悪く無い印象
Kimi ベースでしたよね

[V @voluntas]

周りの人達が「Cursor の Composer 2.5 くらいでよい」みたいな話をし始めている。早さ、安さ、賢さのバランスがいいってことなんだろうな。自分も使っててそう思う。

[🔰にっくす @___nix___]

ChatGPT Atlas って結局何してくれるんだっけ？

[🔰にっくす @___nix___]

MiniMax って、結局のところ大きいの？小さいの？

[MiniMax (official) @MiniMax_AI]

Watch M3 reach the frontier 🚀

[🔰にっくす @___nix___]

AWS で H100 を使った LLM の性能試験をやりたいのだけど中々 SI の容量が割り当てられないのよね

5分毎に様々なリージョンでループさせてる

[🔰にっくす @___nix___]

パ〇ナさんの名前が無いのはなーぜなーぜ？

[朝日新聞デジタル編成席 @asahicom]

【速報】人材派遣大手5社、全国の派遣料金でカルテルの疑い。公取委立ち入り
https://t.co/dv3jwrUVfn

[🔰にっくす @___nix___]

王翦将軍はどこ？？

[🔰にっくす @___nix___]

映画『キングダム 魂の決戦』6月2日(火)ワールドプレミア｜7月17日(金)公開

豪華キャスト♪