FPGA des GARÇONS

Low Layer SWE/FPGA HWE, CyberSecurityEng(Incident Response & Forensics, Malware analyst)
Like live, Music, Shuffle and Camera✨

[FPGA des GARÇONS @hypermac6502]

@andrewarruda Nah, that’s the problem...
GLM-5.2 eats all 8 Sparks for breakfast. There’s nothing left!
At that point, 8 Sparks somehow feels like 1.
I just need more Sparks🥹

[FPGA des GARÇONS @hypermac6502]

DGX Spark x8 — not a PoC. This is a POV. 😎

Yeah, the setup looks absolutely cursed, but the airflow is GOD-TIER!!!

I’ve pushed a full 524,288-token context in a single prompt and it still hasn’t crashed. Not once.

Looks terrible. Runs like a monster🔥

[FPGA des GARÇONS @hypermac6502]

@1a1n1d1y Okkk, Cheap tape on a DGX Spark? Yeah… my bad. 😂
Upgraded to something a little more appropriate. 🎀
@andrewarruda @1a1n1d1y

[FPGA des GARÇONS @hypermac6502]

@sash__mit @kaustabpal Yeah, totally fair concern!
Those aren’t coolers though — they’re air purifiers.
I also have a separate large dehumidifier running 24/7, so the room humidity always stays below 40%🌬️
@sash__mit @kaustabpal

[FPGA des GARÇONS @hypermac6502]

@kaustabpal Nope! 😄
This is just a temporary setup.
I’m testing how much airflow is actually needed before doing the final installation.

It’s a bit unstable right now, so I taped the Sparks down just to make sure they don’t fall.
@kaustabpal

[FPGA des GARÇONS @hypermac6502]

@TechMDAI @NVIDIAAI @TechMDAI @NVIDIAAI @Alibaba_Qwen
Absolutely!❤️‍🔥

[FPGA des GARÇONS @hypermac6502]

@TechMDAI @NVIDIAAI Thanks bro! 😎🔥
Let’s wait for the new Qwen together — and get hyped when it drops! 🚀

[FPGA des GARÇONS @hypermac6502]

DGX Spark x1 Solo : meta-models/Muse-Glimmer-30B

解析をさせてみたが、QwenやDSV4Fとはまた違った思考なので楽しみ＆期待したが、max_model_len = 131072 上限で終了。。

モデルカード情報ではContext length:131072+だが冒険はせず・・・

爆速ではないが Qwen3.6-27b より速い（体感）

[FPGA des GARÇONS @hypermac6502]

@drikin $6,000になる前に！！！！！

[FPGA des GARÇONS @hypermac6502]

DGX Spark x1 Solo : NVIDIA Nemotron-3.5-Lightning-30B-A3B-NVFP4

123 tok/s !!!
DSpark による圧倒的な速さ!!!
爆速過ぎて何だかわからない!!!笑

このモデルの長所に特化（エージェント）して使うべき！

[FPGA des GARÇONS @hypermac6502]

DGX Spark x8 Cluster : GLM5.2 nvfp4
Spark 4台ではメモリ容量が足りずKV cache少ないしコンテキストサイズもわずかだったが、Spark 8台にしたら余裕になったのでこれで仕事ができそうだ！
tool-evan-bench(2.5.1)のスコアもかなりい✨

[FPGA des GARÇONS @hypermac6502]

DGX Spark x4 Cluster : GLM5.2 で解析させたら、DSV4F、Qwen3.6-27Bより解析力は素晴らしかった！！！
だが、、、メモリが足りずコンテキストも小さいし、KV cacheも増やせないし実用として使えない・・・DGX Spark 8台にするしかない！・・・😂

[FPGA des GARÇONS @hypermac6502]

DGX spark でも VirtuaFiger 動いたら ConnectX7 接続で対戦する✨

[プロ散財家 どりきん @drikin]

これは熱い！！

[FPGA des GARÇONS @hypermac6502]

推奨の NADDOD Q2Q56-400G-CU0-5 ケーブルももちろん動作する。ただ、NJAAKK-N911-RE ケーブルは Spark 同士で 200Gbps 出てるのに動かないわけない！と思ったのでいろいろ試したところ 200Gbps の再設定すれば普通に動いた。ケーブル無駄に買っちゃったよ😂

[FPGA des GARÇONS @hypermac6502]

DGX spark 4 Clusters!
400Gbpsの2:1ケーブルは買ったけど使わず。Spark同士を繋げるNJAAKK-N911-RE各ポートに接続する方法でも運用できた！

ただし、CRS804は自動ケーブル判定なのか自動ネゴシエーションでデフォルト100Gbpsになるので手動で200Gbpsの設定は必要。

[FPGA des GARÇONS @hypermac6502]

@momiji_manjyuu DGX sparkに搭載されてる QSFPのConnextX7 I/Fカードは20万くらいする情報が海外のサイトにありました。
ConnectX7通信機能を使わないのは勿体無さすぎるので、DGX sparkの機能を最大限に発揮させるためにももう一台DGX sparkが必要です！笑

[FPGA des GARÇONS @hypermac6502]

@Vengineer Vさん、ご無沙汰しております！10年ぶり？？笑
Vさんが、TLに出てきたのでコメントしました！
それ無理でしょ我々みたくSW,HWを実設計レベルでHPC目指したことない人々に問いても・・・ｗ

[FPGA des GARÇONS @hypermac6502]

@drikin お互いに購入出来てよかったですね！4クラスタどうなるか楽しみですね！
ちなみに B&H もう Sold Out になってました。以前の Supreme 状態で瞬間でなくなるやつ！😂
日本の代理店もありましたが入荷が10月頃とか話にならない状況でした。

[FPGA des GARÇONS @hypermac6502]

@drikin 今！B&Hで売ってますよ！僕は先ほど注文しました！そして昨日4台目のSpark到着しました😁