Top Tweets for #abyssbench

12 days ago

世界一速い推論エンジン「YASAKANI」。 RTX 5090・Qwen3.8-27Bで、SGLang・vLLM・llama.cppに全10テスト全勝（最大2.86倍）。その27Bが、指示1回・人の手ゼロでこの深海を作りました。オープンソースで、無料で公開する予定です。日程はこのアカウントでお知らせします。 #AbyssBench #YASAKANI --- ■ 同じPC・同じモデルで直接比較（RTX 5090・Qwen3.8-27B、2026-10-18実測）答えを書く速さ、思考ありの6種類の中央値（tok/s） - YASAKANI 380.6 - SGLang 183.9 - vLLM 182.9 - llama.cpp 146.9 全10テストで最速。他社の一番速い設定より1.69〜2.86倍。 ※他社は各テストで一番速い設定（DFlash 2／DSpark／MTP）、YASAKANIは2回測った遅い方。SGLang・vLLMはWSL2、YASAKANIはWindows。別のテストでExLlamaV3（MTPあ��）にも2.39倍。TensorRT-LLMはMTP設定がRTX 5090で動かず未比較。 ■ 12.4GBの独自形式 .mgtm（勾玉） - 業界標準のGGUF Q4_K_M（17.4GB）より5GB軽い - 同じ12GB級で最良の公開GGUF（unsloth UD-IQ3_S）と比べ、元モデルとのズレ（KLD）は約半分：0.021 vs 0.039 - 最新研究 GSQ-RCO（IQ3_S）とも：0.021 vs 0.044 （WikiText-2・C4・FineWeb-Edu、ctx 2048、同じPCで測定） ■ 専用エンジン YASAKANI（八尺瓊） - 25万トークンの文書を140秒で読む（約1,800 tok/s）。続きの返事は0.3秒で開始 - 25万トークンを積んだ文脈でも152 tok/s - 262,144トークンの窓でVRAM 24.9GB。KVも独自圧縮で容量1/3、品質はほぼ落ちない ■ 深海ベンチマーク #AbyssBench どちらもワンショット（プロンプトは1回だけ、途中で人は口を出さない） - エージェント部門（自分で描画→画像を見る→修正）：33手・19分04秒・エラー0。コード生成 477 tok/s、思考込み平均 284 tok/s - チャット部門（返事1回で一発出力）：6分19秒・101,816トークン・269 tok/s あなたのモデルでも試してください。HTML 1ファイルをChromeで開いて、スクショを #AbyssBench で（部門と何回目の試行かも添えて）。プロンプト（このままコピペ可）↓ Design and create a very creative, elaborate, and detailed 3D scene of a bioluminescent deep-sea world at night: pulsing glowing jellyfish, schools of fish swimming in formation, an anglerfish with a glowing lure, coral and sea anemones, drifting plankton particles, and a small submarine whose headlights cut volumetric beams through the dark water. Everything should glow, drift, and animate so it feels alive, with an orbit camera I can drag with the mouse. Make it mesmerizing and atmospheric. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.

yasakani_dev's tweet photo. 世界一速い推論エンジン「YASAKANI」。
RTX 5090・Qwen3.8-27Bで、SGLang・vLLM・llama.cppに全10テスト全勝（最大2.86倍）。

その27Bが、指示1回・人の手ゼロでこの深海を作りました。
オープンソースで、無料で公開する予定です。日程はこのアカウントでお知らせします。

#AbyssBench #YASAKANI

---

■ 同じPC・同じモデルで直接比較（RTX 5090・Qwen3.8-27B、2026-10-18実測）
答えを書く速さ、思考ありの6種類の中央値（tok/s）
- YASAKANI 380.6
- SGLang 183.9
- vLLM 182.9
- llama.cpp 146.9
全10テストで最速。他社の一番速い設定より1.69〜2.86倍。
※他社は各テストで一番速い設定（DFlash 2／DSpark／MTP）、YASAKANIは2回測った遅い方。SGLang・vLLMはWSL2、YASAKANIはWindows。別のテストでExLlamaV3（MTPあ��）にも2.39倍。TensorRT-LLMはMTP設定がRTX 5090で動かず未比較。

■ 12.4GBの独自形式 .mgtm（勾玉）
- 業界標準のGGUF Q4_K_M（17.4GB）より5GB軽い
- 同じ12GB級で最良の公開GGUF（unsloth UD-IQ3_S）と比べ、元モデルとのズレ（KLD）は約半分：0.021 vs 0.039
- 最新研究 GSQ-RCO（IQ3_S）とも：0.021 vs 0.044
（WikiText-2・C4・FineWeb-Edu、ctx 2048、同じPCで測定）

■ 専用エンジン YASAKANI（八尺瓊）
- 25万トークンの文書を140秒で読む（約1,800 tok/s）。続きの返事は0.3秒で開始
- 25万トークンを積んだ文脈でも152 tok/s
- 262,144トークンの窓でVRAM 24.9GB。KVも独自圧縮で容量1/3、品質はほぼ落ちない

■ 深海ベンチマーク #AbyssBench
どちらもワンショット（プロンプトは1回だけ、途中で人は口を出さない）
- エージェント部門（自分で描画→画像を見る→修正）：33手・19分04秒・エラー0。コード生成 477 tok/s、思考込み平均 284 tok/s
- チャット部門（返事1回で一発出力）：6分19秒・101,816トークン・269 tok/s

あなたのモデルでも試してください。HTML 1ファイルをChromeで開いて、スクショを #AbyssBench で（部門と何回目の試行かも添えて）。

プロンプト（このままコピペ可）↓

Design and create a very creative, elaborate, and detailed 3D scene of a bioluminescent deep-sea world at night: pulsing glowing jellyfish, schools of fish swimming in formation, an anglerfish with a glowing lure, coral and sea anemones, drifting plankton particles, and a small submarine whose headlights cut volumetric beams through the dark water. Everything should glow, drift, and animate so it feels alive, with an orbit camera I can drag with the mouse. Make it mesmerizing and atmospheric. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.

115

17K

Top Tweets for #abyssbench

Last Seen Hashtags on Sotwe

Trends for you

Most Popular Users