PALINOEMA

Return to see anew

[PALINOEMA @Palinoema]

@real_winidi @yasakani_dev Is this much speeder than ninfer?

[PALINOEMA @Palinoema]

This month I think antigravity is better

[Tibo @thsottiaux]

How can codex be improved? Try not to say model.

[PALINOEMA @Palinoema]

How about plus

[Tibo @thsottiaux]

We shipped some good updates to dots today and the banked reset has been activated and should land in everyones accounts sometime soon!

[PALINOEMA @Palinoema]

♞

[Tibo @thsottiaux]

It’s been a while without resets. Maybe I should come back out of the basement

[PALINOEMA @Palinoema]

going to try

[Ash Hart @ashxhart]

TensorFold is coming to Omarchy 🚀

TensorFold recipes are already in Omarchy's local AI catalogue for Qwen3.8-27B, Flash Next and Nemotron 3.5 Bolt.

Seeing that is pretty wild. 🤯

Huge thanks to @dhh and the Omarchy contributors for all the work that went into this.

I want local AI to be easier and faster to use on your own machine, and I'm really excited to contribute to this.
https://t.co/Pqx03K0EJc

https://t.co/H2dBxCSaUV

[Ash Hart @ashxhart]

TensorFold is coming to Omarchy 🚀

TensorFold recipes are already in Omarchy's local AI catalogue for Qwen3.8-27B, Flash Next and Nemotron 3.5 Bolt.

Seeing that is pretty wild. 🤯

Huge thanks to @dhh and the Omarchy contributors for all the work that went into this.

I want local AI to be easier and faster to use on your own machine, and I'm really excited to contribute to this.
https://t.co/Pqx03K0EJc

https://t.co/H2dBxCSaUV

[PALINOEMA @Palinoema]

after tibo's one month hard work, I found codex sucks more

[PALINOEMA @Palinoema]

#RTXON lol

[NVIDIA GeForce @NVIDIAGeForce]

We're giving away a Hogwarts Legacy custom wrapped NVIDIA GeForce RTX 5090 to celebrate its official release with DLSS 5 🪄

To enter:
🟢 Share this post
🟢 Comment #RTXON

Terms and Conditions: https://t.co/45T3R732hf

[PALINOEMA @Palinoema]

@k2sbhai # API access for this model is not available yet.
#
# This endpoint is published for preview and playground use only — it is not
# open for programmatic access, and no API key will authorize it.

[PALINOEMA @Palinoema]

coming

[Qwen @Alibaba_Qwen]

The becoming begins.

[PALINOEMA @Palinoema]

colorful....

[Sebastian Raschka @rasbt]

Catching up on the 10 (!) open LLM architecture releases from the past month. Quite a lot happened in October.
I guess we can call it "Open October"!

1. Kolibri-1 (78B): A notable model from Germany. Features classic Grouped Query Attention (GQA) and Sliding Window Attention (SWA) attention module.

2. Ling 3.1 Flash (560B): Uses Kimi Delta Attention and the eighth uses gated Multi-head Latent Attention (MLA) inspired by DeepSeek.

3. Muse Spark Open (816B): Besides Musse Glimmer, the first major open weight release from Meta (since Llama). Uses classic GQA + SWA but adds a LatentMoE.

4. Nemotron 3.5 Super VL (120B): Combines Mamba-2 layers with just eight attention layers. Also LatentMoE

5. Dory1.0 (4B): A looped transformer design.

6. Reflection Beam (501B): GQA+SWA architecture.

7. Recursive Flint (40B): Note that "Recursive" is the company name; the architecture is a fairly standard MoE with GQA and SWA.

8. MiniMax M3.1-Flash (428B): Uses their own MiniMax Sparse Attention module.

9. LFM3 (1.7B): Hybrid architecture that mixes short convolutions and attention.

10. Mistral Large 4 (1T) combines MLA with sparse attention.

Will probably cover/discuss things in more depth in the coming weeks!

[PALINOEMA @Palinoema]

@thsottiaux new model or new reset, plz

[PALINOEMA @Palinoema]

nice video

[Akito Hirai （YASAKANI） @yasakani_dev]

YASAKANIエンジンで、RTX 5090 の単一デコード 1,220 tok/s を達成!!
今回は世界最速のエンジンである証明をしました。

RTX 5090 1枚・Qwen3.8-27B・1本の生成で、公開されている最速記録を5本すべて上回った（定格・同じ土俵の条件で、最大2.5倍）。
「5090で最速」を名乗る MegaCapybara 1.39 とは、同じPC・定格・同じ問題で直接対決。動画は実際の生成を、記録した時刻どおりに再生しています。

■ 公開記録 → YASAKANI（tok/s）
- mkyt（JSON）500 → 1,220（2.44倍）
- NInfer（構造化3問）377 → 937（2.49倍）
- TensorFold（英語）298 → 424（1.42倍）
- ignis（コード）491 → 532（1.08倍）
- MegaCapybara（コード）540※ → 498（同じPC・定格では466、1.07倍）
※540はメモリ+20% OCと自前のプロンプトでの値

■ 同じPCで直接対決（MegaCapybara 1.39 Tiny、思考オフ・greedy）
- JSONL 160行：1,220 vs 635（1.9倍）
- 英語の推理小説：424 vs 253（1.7倍）
- 中→英 翻訳：613 vs 366（1.7倍）
- SQL：745 vs 603（1.2倍）
- コード編集（ファイル全文の書き戻し）：1,241 vs 440（2.82倍）
- JSONL 8,192トークン：1,260 vs 666（1.89倍）
12問の平均でも、構造化1.4倍・散文1.6倍・翻訳1.6倍。

■ エージェントの仕事ほど速い
コード編集は「約4,700トークンのファイルを1か所直して、全文を返す」課題。AIエージェントが毎日やっている作業です。
3つのエンジン（YASAKANI 高速版・標準版・MegaCapybara）の出力は完全に同じ（4,711トークンが一致）で、違うのは速さだけ：1,241 / 1,136 / 440 tok/s。

■ Qwen推奨設定（思考あり・温度1.0）でも
雑談・説明・コード・数学・JSON・長文入力の6課題の中央値：YASAKANI 381、SGLang 184、vLLM 183、llama.cpp 147（10/18、同じPC、他社は課題ごとに一番速い設定）。
この条件で250 tok/sを超える公開記録は、10月中旬の調査では見つかっていません。

■ 長い文脈でも
25万トークンの文書を140秒で読み、続きの返事は0.3秒で開始。25万トークンを積んだ状態でも152 tok/s。262,144トークンの窓でVRAM 24.9GB（32GBのカードに収まる）。（10/30計測）

■ 速いだけではない
元モデルとのズレ（KLD）：標準版 12.4GB で 0.021。MegaCapybara Tiny は 0.058（16.6GB）。
1,220 は高速版（11.7GB、KLD 0.044）。標準版でも 1,114。

■ 正直に書いておくこと
- ゼロから書くコードは僅差（1.04〜1.08倍）。540はOC込みの値で、定格では向こうも406〜533
- MegaCapybara以外の相手の数字は各自の公表値（別のPC・別のプロンプト・別の日）。同じPCで測ったのはMegaCapybaraだけ
- 中国語の物語は英語より遅い（176〜302 tok/s）
- 第三者の再現は公開後。それまでは「この条件で測って」と言われれば、同じPCで測って出します

■ 測り方
RTX 5090 ×1（定格600W・OCなし）、Windows、2026-11-03。NInferが公開している12問（コード3・物語3・翻訳3・構造化3）＋自作のコード編集・長いJSONL。上限4,096トークン（長いJSONLは8,192）、思考オフ、greedy。速度＝(出力トークン数−1)÷生成時間（読み込みは除く）。MegaCapybaraは公開版1.39を公式の1会話設定で起動し、向こうのサーバーの表示とこちらの計測は一致。

エンジンもモデル形式も自作。オープンソース・無料で公開予定。日程はこのアカウントで。

#YASAKANI

[PALINOEMA @Palinoema]

🧐

[Akito Hirai （YASAKANI） @yasakani_dev]

世界一速い推論エンジン「YASAKANI」。
RTX 5090・Qwen3.8-27Bで、SGLang・vLLM・llama.cppに全10テスト全勝（最大2.86倍）。

その27Bが、指示1回・人の手ゼロでこの深海を作りました。
オープンソースで、無料で公開する予定です。日程はこのアカウントでお知らせします。

#AbyssBench #YASAKANI

---

■ 同じPC・同じモデルで直接比較（RTX 5090・Qwen3.8-27B、2026-10-18実測）
答えを書く速さ、思考ありの6種類の中央値（tok/s）
- YASAKANI 380.6
- SGLang 183.9
- vLLM 182.9
- llama.cpp 146.9
全10テストで最速。他社の一番速い設定より1.69〜2.86倍。
※他社は各テストで一番速い設定（DFlash 2／DSpark／MTP）、YASAKANIは2回測った遅い方。SGLang・vLLMはWSL2、YASAKANIはWindows。別のテストでExLlamaV3（MTPあり）にも2.39倍。TensorRT-LLMはMTP設定がRTX 5090で動かず未比較。

■ 12.4GBの独自形式 .mgtm（勾玉）
- 業界標準のGGUF Q4_K_M（17.4GB）より5GB軽い
- 同じ12GB級で最良の公開GGUF（unsloth UD-IQ3_S）と比べ、元モデルとのズレ（KLD）は約半分：0.021 vs 0.039
- 最新研究 GSQ-RCO（IQ3_S）とも：0.021 vs 0.044
（WikiText-2・C4・FineWeb-Edu、ctx 2048、同じPCで測定）

■ 専用エンジン YASAKANI（八尺瓊）
- 25万トークンの文書を140秒で読む（約1,800 tok/s）。続きの返事は0.3秒で開始
- 25万トークンを積んだ文脈でも152 tok/s
- 262,144トークンの窓でVRAM 24.9GB。KVも独自圧縮で容量1/3、品質はほぼ落ちない

■ 深海ベンチマーク #AbyssBench
どちらもワンショット（プロンプトは1回だけ、途中で人は口を出さない）
- エージェント部門（自分で描画→画像を見る→修正）：33手・19分04秒・エラー0。コード生成 477 tok/s、思考込み平均 284 tok/s
- チャット部門（返事1回で一発出力）：6分19秒・101,816トークン・269 tok/s

あなたのモデルでも試してください。HTML 1ファイルをChromeで開いて、スクショを #AbyssBench で（部門と何回目の試行かも添えて）。

プロンプト（このままコピペ可）↓

Design and create a very creative, elaborate, and detailed 3D scene of a bioluminescent deep-sea world at night: pulsing glowing jellyfish, schools of fish swimming in formation, an anglerfish with a glowing lure, coral and sea anemones, drifting plankton particles, and a small submarine whose headlights cut volumetric beams through the dark water. Everything should glow, drift, and animate so it feels alive, with an orbit camera I can drag with the mouse. Make it mesmerizing and atmospheric. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.

[PALINOEMA @Palinoema]

@coldniko Still, I loved that it showed up

[PALINOEMA @Palinoema]

still too many bugs coming out in the strata

[Niko Veit @coldniko]

A BIG update is here! Qwen3.8 Flash Next now runs on a 8GB graphics card at 20+ tokens/second 👀

Huge improvements across all hardware and especially massive change in parallelism!

https://t.co/F2i0To065Q

[PALINOEMA @Palinoema]

LLM communicates with LLM

[Rikiya Takehi @rikiyatakehi]

We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math.
It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training.

We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵
Blog: https://t.co/bOWCcFhCVq

[PALINOEMA @Palinoema]

sounds good

[James Whittington @jcrwhittington]

Today we are happy to share one of our first open research releases: Latent Sparse Attention (LSA), a step towards subquadratic attention that matches accuracy of full attention at ultra-long context.

Sparse attention attends to only a few tokens per query, but it has to find the right ones. At 10M tokens, that search takes 98% of the attention layer's time. LSA makes sparse attention up to 22.7× faster and full attention 72.4x faster.

With @kubicek_ales @caciolai @PengLiangzu @SukritSumant @Ben_Hoov @FraserGreenlee @RMBattleday @radim_urban @thoefler @jcrwhittington

[James Whittington @jcrwhittington]

Today we are happy to share one of our first open research releases: Latent Sparse Attention (LSA), a step towards subquadratic attention that matches accuracy of full attention at ultra-long context.

Sparse attention attends to only a few tokens per query, but it has to find the right ones. At 10M tokens, that search takes 98% of the attention layer's time. LSA makes sparse attention up to 22.7× faster and full attention 72.4x faster.

With @kubicek_ales @caciolai @PengLiangzu @SukritSumant @Ben_Hoov @FraserGreenlee @RMBattleday @radim_urban @thoefler @jcrwhittington

[PALINOEMA @Palinoema]

@thsottiaux October sucked.