Tor

[Tor @Nlet123]

@bigblue_2025 @Arcadia_Bao 是他们先拿opus4.8来对比说是同级，价格大小是一回事，能力是一回事，正确对比的应该是5.6luna。

[Tor @Nlet123]

@Arcadia_Bao aa分数，v4flash离opus4.8差了整整6分，中间还差了gemini3.6flash luna grok gpt5.5 glm5.2等等加起来十几个模型,正常的行业客户工作环境里这两个都不可能是差不多的产品。要这样都能等价了，从grok开始前面的模型都能号称是fable级，连gpt5.5都是fable级。

[Tor @Nlet123]

@ns123abc Luna has done a good enough job. Three months ago, the 5.4 Nano was much weaker than the V4 Flash, but now Luna is priced the same as the Nano but is stronger than the V4 Flash.

[Tor @Nlet123]

@Susbunchanumber @aikangarooking Yes, Qwen is great and stronger than Gemini now, but I only get it through Alibaba and don't deploy it myself.

[Tor @Nlet123]

@robin__liang @aikangarooking 我的论点是你如果想买kimi来自己部署不如直接调用kimi的api,买云服务商的api，自己部署就是血亏。

[Tor @Nlet123]

@Susbunchanumber @aikangarooking Oh sorry you are true.But you can still easily find cloud products that are cheaper and stronger than him.

[Tor @Nlet123]

@Susbunchanumber @aikangarooking And even with the full qwen3.6 27 b, it is still not stronger than Gemini2.5 flash, and in order to fit the 3090, you can only use a weaker compressed version.

[Tor @Nlet123]

@Susbunchanumber @aikangarooking Yes, but now you can use the Alibaba Cloud platform to call qwen3.7 flash. If you want to save money, it can even be cheaper than your 3090 electricity bill and has stronger performance。

[Tor @Nlet123]

@robin__liang @aikangarooking 这就跟现在这个时候放着云服务不用自己去大买涨价10倍内存组服务器一样，你明知道贵还要跟巨头硬拼资本开支这是有什么大病?

[Tor @Nlet123]

@robin__liang @aikangarooking 不是这有什么关系呢？云厂商如果都因为大额资本投入收不回成本，那本地部署不更荒缪吗？你自己部署的gpu利用率比得过云厂商24小时工作的集群吗？就像你说的泡沫最终会破灭，那么正确的不应该是等之后等云厂商大打价格战去买他们的服务而不是在泡沫中自己买一堆将要贬值的设备?怎么就认为我是反对开源呢

[Tor @Nlet123]

@VoyDark0309 @aikangarooking 是的几年来一直都是这样的话术，普通人/小公司通过本地部署省下token钱，最早是通过4090 之后是m3 ultra现在是8卡/16卡节点，估计到明年律所和医院就要开始部署Nv144超节点了。旗舰开源其实一直利好的都是大厂巨头。普通人想省钱最好的方法就是去选择更廉价的plan或云服务商而不是折腾部署的最低下限。

[Tor @Nlet123]

@QTtJRvL1nOH4pVa @aikangarooking 我的观点一直很明确，我没有说自建就是蠢，我argue的是他在这个数量下去自建很蠢。

[Tor @Nlet123]

@robin__liang @aikangarooking 那是因为大模型厂商和云服务商压根就首先不会像这位一样刚刚好只买一套能跑的设备，面临模型一旦变大就得加购的窘境，其次大型服务商能够在训练、推理、试验、出租、等各种层面梯次利用新旧算力，充分榨干卡的价值而不会像本地部署一样一旦面临模型增大容量不够或者推理性价效率下降就被迫淘汰的结局。

[Tor @Nlet123]

@xmgplus 并没有，2023年的顶级智能代表是GPT4，输入30$输出60$缓命中计费都没有，24年的o1输入15$输出60$且引入半价缓存命中明显降价。25年opus4.1输入15$输出75$但缓存命中来到1/10的级别使用成本继续降低，到今年fable5 10/50 1$的命中，相较前几年的顶级智能全方面降价。

[Tor @Nlet123]

@Zyen_Q @cyberjunsc @aikangarooking 那行吧就看8卡H100，25年初能应对一切开源模型现在最多只能部署qwen3-235B,dpv4flash，想部署K3？不好意思就算再买一组连glm5.2都装不下。到明年K4发布就得买gb200来装了，你要强行拿H卡来推电费都比云平台api贵了，年年花几十万，未来甚至花几百万美金来买新设备真的对于一个律所划算吗？

[Tor @Nlet123]

@AIKINGrug @aikangarooking 而且就算你不肯升级，AI技术照样升级，你的需求一定但满足你需求的模型无论开源闭源都会越来越便宜越来越小，看着摊销到5年能节省20%的成本实际上只要半年就会沦为巨大的浪费。

[Tor @Nlet123]

@AIKINGrug @aikangarooking 要按你这样说压根就不要AI，前AI时代业务照跑，嫌贵直接砍掉得了立省100%。你保持不变能跑就行你的同行却在升级你怎么能在长期竞争中生存？

[Tor @Nlet123]

@chunxiangai @cherylnatsu 开源出来10t的模型然后再花几千万买新的设备。