陈有数

记录 AI 工具、自动化和线上收入的小实验。写清楚怎么做、花了什么、结果如何，也记踩过的坑。

[陈有数 @shshajs85]

仓库：https://t.co/dB0D68bGjp 中文说明：https://t.co/IOJlJna4UW

[陈有数 @shshajs85]

GitHub 上有个项目叫 Strata，9 月 24 号建的，到今天 1.2 万星。它干的事是：让你在自己的游戏 PC 上跑一个 1250 亿参数的模型。

Qwen3.8-Flash-Next，平时得放服务器上那种。装法很简单，Windows 双击 START-HERE.bat，Linux 跑 ./setup.sh，它自己认你的显卡，问你几句，然后把模型下下来，大概 70 GB。

但门槛得先说清楚，不然白激动。

12 GB 显存起，32 GB 内存起，80 GB 硬盘空间。三个都是硬线。我这台笔记本是 8 GB 显存、31.2 GB 内存，两条都没过，装都装不上。

过了这道门还有第二道。

要在消费级显卡上跑 1250 亿参数，模型必须压得很狠，2 到 3 bit。压得越小跑得越快，也越笨。32 GB 内存的机器，官方推荐的是 Coder 版，它把一半的专家层砍掉了，代码上能到完整版的 91%。但官方 README 自己写了一句话：它在代码之外更弱，包括中文和其他 CJK 文字。要拿它写中文，得换成 Q2_0、IQ2_XS 或 IQ3_S 那几个保留全部专家的尺寸。

速度是这样，官方在两张普通游戏卡上测的：RTX 5070 12 GB 上，最小的 Q2_0 每秒 94 个 token，最大的 IQ3_S 每秒 53 个。每秒 60 个就比你读得快了。

第一次启动，电脑会卡住一到三分钟，因为它要往内存里塞 35 到 55 GB。官方特意写了一句：这是正常的，别关窗口。

装完它给你一个本地的 OpenAI 兼容接口，127.0.0.1:8080/v1，key 随便填，模型名也随便填。用 Claude Code 的把 ANTHROPIC_BASE_URL 指过去就行。东西全在你机器上，不联网。

MIT 开源，免费。

你机器现在多少显存？够不够得着这条线？

[陈有数 @shshajs85]

Cloudflare 和亚马逊同一天开源了个新东西，叫「决策模型」。
它跟 ChatGPT 那类模型完全不一样。你不问它问题，它也不写一个字给你。你给它一段状态（一张工单、一个 agent 准备执行的操作），再给一组固定答案的问题——是或否、从几个选项里选一个、打个分——它一次就算出每个选项的概率。
用起来是这样的：这段内容有 95% 是时尚网站，85% 是电商，不到 1% 是钓鱼。你的代码拿去决定放行还是转人工。
好处是快，而且快得很夸张。
普通大模型是一个字一个字往外蹦的，决策模型跳过了这一步，直接在一次计算里出答案。Cloudflare 自己测的中位延迟：Clef-flash 38.8 毫秒，Clef 209 毫秒，它拿来对比的 Jev 是 524 毫秒。
价格也低。Clef-flash 在 Workers AI 上每百万 input token 收 0.09 美元，Clef 是 0.24。
更关键的是能自己跑。10 月 1 号这天，Cloudflare 把 Clef（27.4B）和 Clef-flash（9.4B）按 Apache 2.0 开源了，权重在 Hugging Face，Clef 还能读图和视频，上下文 64K。亚马逊那边开源了 Decider 2B，只有 19 亿参数，笔记本 CPU 就能跑，连训练数据、脚本、版本历史一起给了。
这个品类不是他们开的头。TypeSafe 的 Jev 9 月 15 号就上线了，但一直是闭源 API。现在等于有了能下载、能翻、能微调的对照物。
代价得写清楚：它只会干这一件事。
亚马逊自己的说明里写得很直白——模型放弃了开放式输出，换来的是同样大小下更快更准、永远从你给的选项里答、还告诉你它有多确定。反过来，一次并行计算处理难题远不如推理模型，而且因为不生成文字，写代码、聊天、做摘要这些它全干不了。
还有一点要留意：上面那些对比分数，包括 Jev 那一列，都是 Cloudflare 自己跑的。当厂商自评看，别当结论。
我的用法建议是拿它当 agent 的守门人，在执行危险操作前过一道。Decider 2B 塞在本机就够，不用走网络。
你手上有没有那种「判断很简单，但调用大模型很浪费」的活儿？

[陈有数 @shshajs85]

@suraptz 好了

[陈有数 @shshajs85]

还在认真更推的蓝V，出来打个招呼呗👋
浇个朋友呀
#浇个朋友 #回复互关

[陈有数 @shshajs85]

@lili_9225 来呀 浇个朋友呀

[陈有数 @shshajs85]

@PrismChemAI 来 浇个朋友

[陈有数 @shshajs85]

项目在这儿：https://t.co/GJ8dlnSJ6c

[陈有数 @shshajs85]

有个开源项目叫 lipflow，做的事挺怪：不用麦克风，读你的嘴唇打字。

按住右 Ctrl（Mac 是右 Option），不出声，只做口型，松开，文字就出现在光标的位置。摄像头拍你的嘴，模型全在你电脑上跑，视频和文字都不往外传。

9 月 29 号才首发，到现在不到一周。

Mac / Windows / Linux 都能装，代码 MIT 开源，免费。

但先说清楚它现在的水平，免得你装完骂人。

项目自己的测试里，光看嘴型，10 个词要错 3 个，词错误率 31.9%。因为 p / b / m、f / v 这几组的唇形是一模一样的，摄像头再清楚也分不出来，只能靠后面接一个语言模型，去猜哪个词更合理。

开了「唇读 + 低声说话」的混合模式，错误率能降到 6.9%。但你得开口说话，也就又用上麦克风了，那还不如直接用现成的语音输入。

还有个作者自己写在 README 里的坑：无声做口型，比正常说话难认，因为嘴动的幅度小，而训练数据大多是正常说话的视频。

装之前心里得有个准备：第一次打开要花 8 分钟左右，录 24 句话，在你自己的脸上微调一遍模型，之后认你的口型才会准。Mac 得是 Apple Silicon；Windows 和 Linux 没有 N 卡的话，每句话会慢一两秒。

模型权重还有个限制：源码是 MIT，但权重来自 LRS3 数据集，只能用于非商业研究。想拿它做产品，这一步得先看清楚。

我的感觉是，它现在属于「能用」，还不到「好用」。有意思的地方在它后半截：识别不太准，就接一个语言模型去猜，硬把结果凑到能用。

你在什么场合特别想打字，但又不能出声？

[陈有数 @shshajs85]

@wamgquan 来来来 浇个朋友

[陈有数 @shshajs85]

来来来 今天开始互关呀

#蓝V互关 #浇个朋友

[陈有数 @shshajs85]

gomo is the social Solana terminal: trade any coin, post your thesis, follow the chads. Go or miss out.

Trading it on @gomo_family 🟦 the social Solana trading terminal

CA: 9XKzy4KahcZaGJPJtz1PtqGPB3CiseoBrx7TcQhEpump
https://t.co/0oblSLDWgF

[陈有数 @shshajs85]

新来的蓝 V，刚开始认真玩推特，互关哇！！ 粉丝不多，想认识的朋友倒是不少。关注回复着，必回关😃📷📷
#浇个朋友

[陈有数 @shshajs85]

快来观看 人间镜像 的视频！#TikTok https://t.co/PA410myUXf

[陈有数 @shshajs85]

OKX Now 将在
@okxchinese
全程直播。 参与发文，瓜分4000U 奖池。 基本情况如下： 主要内容：AI 、支付、交易、链上如何碰撞。 直播时间：10月6日 ✶ 以前说到 OKX，第一反应交易所，但这次 OKX Now 让我更关注另外三个方向：AI、支付、链上。 如果 AI 负责理解、决策、资金流动及资产配置，再把这 些通过链上串起来，那它就是简单的“交易所”了。值得看 的，是这四块能不能在一个产品里真正跑通。 10月6日就可以知道只是概念，还是有产品说话。 ✶ 这次 OKX Now 给我们大众的是一个AI 聊天工具？还 是能真正参与金融活动？ 如果只是找信息、分析市场，看行情，那可没啥新鲜的。 有意思的是AI 、支付、交易、链上能不能完整的闭环。 想参与的，可以看官方具体信息， 来吧，我们一起直播见！ 直播预约：https://t.co/iIwpUVxyxv #OKXNOW #OKX达人
@okxchinese

[OKX中文 @okxchinese]

✍️OKX Now 将于10月6日10:00（UTC+8）在星球重磅开播，参与达人发文活动瓜分 4,000U 奖池！

1/三连此推，点击下方或 APP 首页左上角-达人进入任务页
2/预约直播，并按页面要求发布 OKX Now 推文
3/页面底部回填链接

即日起至10/05 23:00 (UTC+8) ，曝光与互动达标即可领取20-60U奖励，先到先得~

[OKX中文 @okxchinese]

✍️OKX Now 将于10月6日10:00（UTC+8）在星球重磅开播，参与达人发文活动瓜分 4,000U 奖池！

1/三连此推，点击下方或 APP 首页左上角-达人进入任务页
2/预约直播，并按页面要求发布 OKX Now 推文
3/页面底部回填链接

即日起至10/05 23:00 (UTC+8) ，曝光与互动达标即可领取20-60U奖励，先到先得~

[陈有数 @shshajs85]

@okxchinese 期待呀

[陈有数 @shshajs85]

@LuBtc888 可以

[陈有数 @shshajs85]

@DrazeLab FbKEykHNup8oPTP6TSkfzGyyZZMbCeJ6Qt2SjmPppxf1

[陈有数 @shshajs85]

@yeggysol FbKEykHNup8oPTP6TSkfzGyyZZMbCeJ6Qt2SjmPppxf1