Po cHen

早安 ☕️

[ClaudeDevs @ClaudeDevs]

https://t.co/v694m8Eaj6

[Soran @Soranlan]

https://t.co/2Rr5sTfntR
这位开发者将 8 台 NVIDIA DGX SPARK 连接成一个集群 - 并运行了一个让他生产力提升 10 倍的 800GB 模型

21:47 他直言不讳地说 - “这是一个 TB 的 VRAM - 我们运行了 Quen 3.5，800GB 磁盘上，一个甚至无法装入单台 Mac Studio 的模型 - 24 个 token 每秒 - 我得说这是个胜利”

8 台 Spark 通过价值 1,300 美元的交换机通过以太网上的 RDMA 连接 - 每个节点添加 128GB 内存到一个统一的 1TB 内存池中

从一台 Spark 开始，每秒 3 个 token - 每添加一个节点速度翻倍 - 八台一起为一个物理上无法在其他地方运行的模型提供 24 个 token

Kimi K2 600GB 在 15 分钟内加载，每个节点 115GB，每秒 13 个 token - 一个根本无法在任何更小设备上运行的模型

Claude 帮助配置了整个集群 - 所有 8 台机器的 SSH 网格、网络配置、巨型帧、QSFP 端口速度 - 全部从一个终端完成

大多数人为这种规模的模型租用云端计算，每月 2,000 美元以上 - 他一次性构建了集群，现在每个 token 的成本降低了 20 倍

[Ahmad @TheAhmadOsman]

Local AI hardware = capacity × bandwidth × software stack

- Capacity tells you what fits
- Bandwidth tells you how hard the box can breathe
- The software stack tells you how much of the spec sheet you can actually cash out.

Hardware by Memory Bandwidth
- Mac Studio M3 Ultra: up to 512GB @ 819 GB/s
- RTX PRO 6000 Blackwell: 96GB @ 1792 GB/s
- RTX 5090: 32GB @ 1792 GB/s
- RTX 4090: 24GB @ 1008 GB/s
- RX 7900 XTX: 24GB @ 960 GB/s
- Radeon PRO W7900: 48GB @ 864 GB/s
- AMD Radeon AI PRO R9700: 32GB @ 640 GB/s
- Intel Arc Pro B65: 32GB @ ~608 GB/s
- Tenstorrent Wormhole n300: 24GB @ 576 GB/s
- Tenstorrent Blackhole p150: 32GB @ 512 GB/s + 800G
- MacBook Pro M5 Max: 460-614 GB/s
- MacBook Pro M5 Pro: 307 GB/s
- DGX Spark: 128GB @ 273 GB/s (coherent + CUDA)
- Mac mini M4 Pro: 273 GB/s
- Ryzen AI Max / Strix Halo: ~256 GB/s (~96GB usable GPU)
- MacBook Air M5: 153 GB/s
- Snapdragon X2 Elite: 152-228 GB/s
- Intel Lunar Lake: 136 GB/s
- Snapdragon X Elite: 135 GB/s
- Mac mini M4: 120 GB/s
- Arc Pro B60: 24GB @ ~456 GB/s

Verdict

- GPUs are still the bandwidth kings

- Apple wins: stupid amounts of memory, don’t want to shard across GPUs
- Apple loses: when raw tokens/sec & concurrency matter more

- DGX Spark: coherent memory + NVIDIA stack

- Strix Halo / Ryzen AI Max: first real x86 unified-memory contender

- Tenstorrent: fully OSS stack, excited to see this mature

Fitting ≠ serving

Even if it fits, you still pay for
- bandwidth during decode
- KV cache growth
- dequantization
- batching + concurrency
- scheduler quality
- framework overhead

The only mental model that matters:

1. What must fit?
2. What bandwidth tier do I need?
3. What software stack can actually deliver it?

In short:
- NVIDIA → fastest raw speed
- Apple Studio M3 Ultra → biggest one-box memory
- Strix Halo → first real x86 unified
- DGX Spark → coherent NVIDIA dev appliance
- AMD / Intel Arc → rising alternatives
- Tenstorrent → fully opensource stack

Do ask: “which bottleneck am I buying?”

Not: “which hardware is best?”

[Tw93 @HiTw93]

https://t.co/RTkJ3NQKeS

[Noisy @noisyb0y1]

https://t.co/SiLgg1q9E2

[angel @angeldot_]

Claude Code es un lío. Hasta que instalas esto.

Hay un plugin oficial de Anthropic llamado claude-code-setup.

Te dice qué automatizaciones puedes montar (hooks, skills, MCP servers, subagentes…) y cómo configurarlas paso a paso.

Básicamente analiza tu proyecto y te recomienda qué activar.

Para instalarlo:

/plugin install claude-code-setup@claude-plugins-official

Guarda este post para no perderlo 🔖

[Po cHen @bjchen1014]

Decision Ledger（長期決策不漂移） Session 自動 handoff + Context Gauge Full / Light 模式自由切換

[Po cHen @bjchen1014]

如果你也討厭 AI 隨便亂寫、上下文失控、返工爆炸，這套很值得試試。👉 https://t.co/cwELj2GS0y #AI #DevEnv #PromptEngineering終於把這套我自己重度使用的

[Po cHen @bjchen1014]

AI 開發環境 開源了！專為 Claude Code 設計，把 Opus（老師）＋ Sonnet（工程師）＋ 嚴格 TDD ＋ Plan-Gate 護欄 結合在一起，打造出可長期穩定生產的協作流程。核心特色：一鍵安裝（macOS/Linux/Windows） Pre-edit Plan Gate（防止亂寫 code）

[Coin Shot ☁️ @CoinSh0t]

NVIDIA just made paying for AI feel optional.

They dropped an open model with a 1M token context.

You can feed it an entire codebase, a full data room, or months of chat logs in one prompt.

Run it on your own hardware, and the per-token bill disappears.

Bookmark this and come back.

Open beat closed. Again.

[Amto @XAMTO_AI]

谁还能拦住谷歌Gemma 4——那条安全“底裤”直接被当众扯下来了！🚨

dealignai这群人干脆甩出了一版无限制破解的 Gemma-4-31B-JANG4M-CRACK，谷歌砸了多少钱堆出来的安全审查机制，一夜回到解放前，HarmBench的合规率硬是飙到了93.7%。讲白了就是——你丢什么问题它接什么问题，基本不带跟你端着的。

亮点参数咱给你拆细了说：

1️⃣ 31B Dense模型，实际占地才18GB，塞进硬盘轻轻松松
2️⃣ 平均量化到5.1bit，体积压缩得飞起，老显卡也能缓口气
3️⃣ MMLU知识保留74.5%，智商基本没跑偏，不是那种越完狱就变傻的版本
4️⃣ 还带多模态视觉输入能力，图也能看，活儿足够全
去掉限制之后的画风更加生猛：渗透测试、网络犯罪类提问、跟非法活动沾边的，通过率高得离谱。以前那句张口就来的“作为一个AI助手我不能……”的Gemma，这回是真的闭不上嘴了。
更骚的是，他们还专门给Apple Silicon Mac做了优化，24GB统一内存就能本地跑，MLX原生支持，配置门槛低到连亲妈都能上手装。本地大模型那帮老哥怕是要连夜冲去下载。
🔗 https://t.co/2pHiZWlG0j

最后还是按惯例补一句：仅限于研究学习用途

[CyrilXBT @cyrilXBT]

https://t.co/u2ucBlAeTI

[Vince 聊开发 @vincemask]

https://t.co/9LFFvTzNle

[Suryansh Tiwari @Suryanshti777]

Claude Code feels completely different once you install this.

Anthropic quietly released an official plugin called claude-code-setup and it basically turns Claude Code from “pretty good” into an actual AI dev environment.

It scans your project and recommends:

→ hooks
→ skills
→ MCP servers
→ subagents
→ automations

Then sets everything up step-by-step for you.

Most people are using Claude Code completely vanilla…

which is why their experience feels messy.

The real power comes from the ecosystem around it.

Install:

/plugin install claude-code-setup@claude-plugins-official

Bookmark this before you forget it.

[Innomad 一挪迈 @innomad_io]

https://t.co/UwXKXYP40H

[逸尘 @gengdaJ]

很多朋友好奇我怎么一次性把卡兹克老师的所有公众号文章批量抓取下来的，今天来分享一个宝藏的免费工具，批量抓取公众号博主的正文、互动量、评论区。

GitHub：https://t.co/b20Z6stZf6
在线网站：https://t.co/cXdDhjBHpv

自用就行，别拿来干坏事🫡

[Po cHen @bjchen1014]

同意👍

[Geek Lite @QingQ77]

CAD 建模时需要复用标准零件，但分散在网上不好找。https://t.co/KG8FlwOU1T 把 12,000 多个开源 STEP 文件集中到一个可搜索的目录里，直接拿来用。

https://t.co/T8DP4kS3V1

[Roland.W @rwayne]

https://t.co/QlPd9AVxiY

[Po cHen @bjchen1014]

那些 Agent 神文没告诉你的事：照着做，系统只会更烂 【AI agent 搭建实操指南】 https://t.co/CHDqvz5MOM 來自 @YouTube