Mako

开源文化爱好者，关注增强个人能力的知识与工具 ，涉及：AI、Crypto、Geo、全球概览杂志、露营、DIY、开源硬件

[Mako @v2eth]

一个敢做，一个敢下单。让 AI 帮我设计 V12 肌电手环：ADS1298 做 8 通道采集，搭配 XIAO，想把肌肉活动变成电脑输入。
第一版 PCB 65×60mm，先留足接线、测量和排查噪声的空间。等板子到手，再用真实数据验证。价格超级贵新用户 600 券，后还需要再付 600

[Mako @v2eth]

可以送你的 AI 去打比赛https://t.co/AVTRpa2hrG

[Mako @v2eth]

Spark 优势，大内存一次性可以加载多个模型

[Mako @v2eth]

@dhh Would you consider supporting ARM64 devices too—especially Raspberry Pi 5 or RK3566 boards?

[Mako @v2eth]

一台 DGX Spark 的真实日常：

跑 DeepSeek V4 Flash：95GB 权重 + 384K 上下文，128GB 统一内存基本直接吃满，只剩约 1.5GB。Embedding 和其他服务只能先停掉。

换成 Ornith 1.5 35B A3B 后舒服很多：约 22GB 权重 + 262K 上下文，同时还能跑 Qwen Embedding、DSH，系统依然剩约 10GB 可用内存。

我的 5070 Ti 应该也能跑 Ornith 的低量化 / CPU Offload 版本，但 16GB 显存很难复刻 Spark 上 NVFP4 + 262K 上下文 + 多服务并行这套玩法。

用了之后越来越觉得，DGX Spark 的优势可能从来不是绝对速度。还是 128GB 统一内存带来的自由度

[Mako @v2eth]

@ashxhart @NVIDIAAI @vllm_project @OpenWebUI @Apple This is pretty much what I’ve built too: DeepSeek harness + Tailscale, so any device can securely access my local models and private data

[Mako @v2eth]

@LotusDecoder https://t.co/vv30tKmWXs 先买个域名

[Mako @v2eth]

实际速度演示

[Mia @MiaAI_lab]

Run Ornith-1.5-35B-A3B on your DGX Spark ✨

MoE shows its power on the spark, and it's really fast.
Up to 440 tok/s on 24 concurrent sessions

- b12x backend
- 256k context
- 24 concurrent sessions
- mtp

This should be better than Qwen3.6-35B, but not as good as Qwen3.8-27B. I'll be testing it out.

Thanks to @ViC305 for the base of the recipe.

Get it here:
https://t.co/OEuPAWSere

[Mako @v2eth]

@MiaAI_lab @deepseek_ai @Zai_org @MiniMax_AI @Alibaba_Qwen @XiaomiMiMo @Kimi_Moonshot 一台 Spark = 本地的Agent，本地的数据，本地的无限 Token

[Mako @v2eth]

DGX Spark 加装散热器

[Mako @v2eth]

@jun_song DGX Spark 可以发一个 Meme coin 了，稀缺产品

[Mako @v2eth]

@0xkeenz Spark 斩杀线，无法跑稠密模型，还需要买一台 5090

[Mako @v2eth]

@alexocheema https://t.co/iuEyJHHgLL 稀缺资源

[Mako @v2eth]

@randyloop 死去的记忆涌现出来

[Mako @v2eth]

@masoncaiws 今天直接做了一个，本地模型就可以实现功能

[Mako @v2eth]

App 更新

[Mako @v2eth]

Agent 能力越来越强，对于电脑的CPU 要求也越来越高，我的 air 已经配不上 codex， 任务多了就卡卡的，散热也不好

[Mako @v2eth]

@woaitaoershi

[Mako @v2eth]

Mykey AI 钱包，可以交易你的 AI Token，https://t.co/Q2FpH0pxrd

[Mako @v2eth]

云服务商也可以找代理支付，可以用 U