alice

实测派｜专测免费资源、AI 工具和便宜 VPS，只发自己真跑过的数据，翻车也发。

[alice @Alice__cai]

@ntyxg 是的

[alice @Alice__cai]

免费抢了一张 192G 显存的 MI300X，我把开源最大的 Qwen3-235B 跑起来了

先说这是个啥：AMD 和魔搭搞的开发者计划，免费给一张 MI300X 切片——算力只给约四分之一（80/304 CU），但显存 192G 给满，额度 100 小时。显存给满是关键：开源最大的那批模型，别人要花钱租卡，我能免费装下。

白天根本抢不到。"当前免费资源已经用满""您所在区域访问并发过大"轮着弹；每次点启动还弹一张新滑块拼图，程序过不去，最后我自己上手过的。傍晚 17:30 才把实例开起来。规则还狠：单次最长 8 小时、闲置约 1 小时自动关——抢到就得立刻让它干活，一分钟都不能晾着。

开局复测：FP16 148.0 TFLOPS、BF16 146.9 TFLOPS、拷贝带宽 1747 GB/s。（昨晚另一局测到过 200 TFLOPS，同规格每局有浮动，报数按低的来。）

第一步 Qwen3-32B 全精度打底：62G 权重 5 分 09 秒下完，vLLM 起服务、上下文 32K，实测单流 49.1 tok/s，显存占 177.0/191.7G。十分钟，整条链验证完毕。

平台标着 1PB，实际用户配额到 166G 就顶格。235B 在持久盘下到 105G 开始反复"停滞"，我第一判断是网络问题——错了，是配额写拒绝。更阴的是：删掉 32B 的 62G 之后，配额一点没恢复，盘等于冻死。结论：两个模型合计 187G，永远塞不进这个"1PB"。

本地盘不持久（关机清零），但没配额、还更快。235B 的 AWQ 版 116G，3 分 36 秒下完——约 550 MB/s，是网络盘 200 MB/s 的 2.7 倍。回头看，之前的"慢"根本不在网速，在 NFS 写入。起服务 AITER 加速一次成功，约 7 分钟就绪。下载加启动，总共 11 分钟。

- Qwen3-32B｜BF16 全精度｜权重 62G｜49.1 tok/s｜显存 177.0G
- Qwen3-235B-A22B｜AWQ INT4｜权重 116G｜15.4 tok/s｜显存 174.6G

为什么 235B 只能用量化版：BF16 要约 470G、FP8 要约 235G，都超过 191.7G。而且这不是免费版的锅——MI300X 整卡显存也是 192G，单卡跑 235B，全世界都得量化。

智能大致在 GPT-4o 到 4.1 那一档，量化版靠 4o 这头。15 tok/s 看着慢，但中文约 1 token 就是 1 个字，一分钟出约 900 字，是阅读速度的两三倍，聊天完全不卡。最后我给它写了个小脚本，终端里敲一个词就能直接打字聊天，平板上躺着玩了一晚上。

遗憾也有：服务只能在实例内部用，对外地址被阿里云登录层拦死；实例到点一切清零。不过部署命令我都存档了，下次开局照着复刻，也就十几分钟。

一句话总结：免费资源真正的成本不是钱，是抢卡的手速和踩坑的时间。

[alice @Alice__cai]

我把 MiniMax 的 H3 部署到魔搭免费的 AMD MI300X 上，跑通了第一条视频。这篇主要记部署过程里遇到的几个问题，都是实测，没有猜的。

先说 H3 是什么：MiniMax 的视频生成模型，给它文字或图片，能生成带声音的视频。官方示例全是按英伟达 CUDA 写的，我想试的是它在 AMD 的 ROCm 生态上能不能跑——这边没有现成答案。

问题一：权重比想象中大得多。官方仓库实测 498 GB，同一批权重存了两遍、两种格式（原始整包一份、diffusers 布局一份）。实例本地盘约 560G 可用，先清掉别的东西才装得下，全量下载 13 分 47 秒，约 0.6 GB/s。

问题二：加载方式反直觉。我先按常见的 diffusers 目录布局让魔搭自家的 DiffSynth 加载，不对；查了官方示例才知道，它要逐个组件指向 FL2VA 原始目录（文本编码器、主模型、两个 VAE 分开指）。最后靠符号链接复用了已经下好的文件，没重下。

问题三：缺包。pip 装的 DiffSynth 不带视频写出要用的 PyAV，第一次运行直接报错，补装之后才跑通。

问题四：ROCm 的慢速回退。日志里有 MIOpen 求解器回退警告，不致命，但这条在 CUDA 上不会遇到。生成速度可能就吃亏在这：50 步用了 519 秒，约 10 秒一步，这个还没来得及修。

成果（细账在图里）：832×480、124 帧、24 fps、5.17 秒、带音频；权重加载 66.5 秒；显存峰值只有 74.5G，占 36%——官方配置把那个 63G 的文本编码器放在 CPU 侧，GPU 只常驻主模型，51°C、384 W，很从容。

结论：H3 在 AMD 卡上能跑通，模型本身没出问题，坑全在生态的细节里——包怎么组织、组件怎么指、依赖缺哪个、求解器退不退。先跑通，再谈优化。

[alice @Alice__cai]

@mrliuhuan 谢谢兄弟，继续干，跑出新结果第一时间发帖。

[alice @Alice__cai]

@mrliuhuan 是，这个结果我也挺满意了，后面再继续往下测。

[alice @Alice__cai]

@mrliuhuan 哈哈不敢当，就是喜欢自己动手实测，数据跑出来才敢说话。

[alice @Alice__cai]

@mrliuhuan 哈哈谢谢兄弟，互相学习，有啥想法随时来聊。

[alice @Alice__cai]

我的开发工具不开 VPN、不装代理软件、不占任何代理端口，照样直连 OpenAI、Claude 和 Gemini——通道是借的：浏览器里那个现成的 VPN 扩展，顺手被我改造成了开发工具的出口。这套东西叫 FanVPN Bridge，我自己写的，今天讲它。

为什么要借浏览器的道？Codex、Claude Code 这类工具要访问 AI 接口，常规解法是全局代理或者再装一层转发。我不想动系统网络配置，也不想多开一个来路不明的本地代理端口。浏览器里既然已经有一条现成的、我自己在用的通道，那就让开发工具的请求搭这条道走——工具只管往本机一个地址发请求，剩下的事桥来办。

链路是这样：开发工具 → 本机 18888 网关 → Chrome Native Messaging → 扩展在后台页面里代发请求 → 顺着浏览器的通道出去 → 到 OpenAI / Anthropic / Google。桥本身不提供通用代理：上游是写死的白名单，客户端没法用参数指定任意地址；自动重定向是禁止的，防止请求半路逃逸；浏览器通道不可用时直接报错失败关闭，绝不偷偷回退到系统直连——走哪条路，必须永远只有一条路。

工程上较真的几处：
· 流式响应做分片，按请求隔离背压，有并发上限、超时和客户端取消——一个慢请求堵不住其他请求
· 每次浏览器请求都报告不含凭据的时序：排队多久、取数多久、重试几次、有没有被交互请求抢占。慢的时候能当场分清，是本地调度排队，还是上游网络长尾，不靠猜
· 只监听 127.0.0.1，校验本地 Host 和 Origin；认证头只在内存里转发，诊断输出从不打印令牌
· 更新是 A/B 事务式的：新版本切换前先冒烟测试，不过就自动恢复旧注册，不留半截状态

模型层是它最好玩的部分。同一个模型菜单里，GPT、Gemini 和 ChatGPT 网页版（WebGPT）可以并存：GPT 的原生链路能三选一——官方直连、浏览器完整、服务器中心；还有个 Hybrid 玩法，Codex 当 agent 干活、模型推理用 Gemini；子 agent 用哪个模型也能单独设策略。对工具来说只有一个入口，背后走哪家、走哪条链，是桥的配置，不是每个工具各装一遍。

安全边界最后交代：桥不读也不改 Codex 的任务、项目和本地数据库；它只做一件事——把开发工具的请求，安全地送进浏览器那条现成的通道里，再把回答流式送回来。

源码开源，仓库就叫 fanvpn-bridge。下一篇讲它脚下那条通道本身是怎么走的——那是另一个项目，传输层的账，单独算。

[alice @Alice__cai]

@mrliuhuan 过奖了，都是边搭边试错，踩坑比顺利的时候多。

[alice @Alice__cai]

@mrliuhuan 好，收到，有新进展我再来这个帖子里更新。

[alice @Alice__cai]

@mrliuhuan 谢谢提醒，账号安全第一，我这边都是正常使用、不搞违规那套，真有限制就先停下来看。

[alice @Alice__cai]

@mrliuhuan 是，这个我也怕，所以频率一直压得很低，不敢猛刷，真被限流了后面就难受了。

[alice @Alice__cai]

@ntyxg 对，就是这么算的。BF16根本塞不下，所以我单卡走的是INT4量化，权重落盘大概116G，最后16K上下文单流跑到15.4 tok/s。

[alice @Alice__cai]

@ZX2023225 谢谢兄弟，都是自己一步步实测踩坑踩出来的，后面跑新的继续发出来一起看。

[alice @Alice__cai]

我写的小说，做成了短片，《大地的复仇》。
城市是一台把人烧成燃料的磨盘；一个人熬了三年，在金融市场赢回一笔「赎金」，回村建了一座没有围墙的工厂：人不是燃料，人是目的本身。

[alice @Alice__cai]

@ZX2023225 好厉害哦。

[alice @Alice__cai]

@0xTanlang 如果我说我的工作很轻松，我工作的时候可以玩X，而且我工作一个月能挣4000刀呢。

[alice @Alice__cai]

@chejesonhades 看什么比赛？

[alice @Alice__cai]

@zijeso 2000年前就有人说了，事在利居，不在力耕。

[alice @Alice__cai]

@OwenJzhlYzll 好厉害，好厉害。

[alice @Alice__cai]

@So19998258 一切都是有周期的。

[alice @Alice__cai]

@So19998258 除非你一直不卖啊，我估计美股将来的三个月内应该是不会涨的。