fengsu

搜索改变生活，技术促进发展

[fengsu @kupanda2011]

@wsjack opus 泛化性还是强。 但是大部分任务其他模型也能做出来，日常用其实也没啥问题。

[fengsu @kupanda2011]

@m0d8ye 巨模其实跟b卡关系不大，用超节点一样可以把推理成本拉下来。8192节点的超节点用p4 和几百t的lpddr，一样可以把moe巨模打到非常低的成本

[fengsu @kupanda2011]

@caozlog 8x48 node 超节点，那只能是华子。

[fengsu @kupanda2011]

@quantum_soul1 大模型eval 需要人的能力更高了，后面只能招更顶级的人。

[fengsu @kupanda2011]

@syhily 他估计会是转vibe最快的。

[fengsu @kupanda2011]

@caozlog 有价无市场，h200没有任何采购的必要，上一台亏一台。b300 ，采购有封顶价，也没有人能拿出足够现货的。

[fengsu @kupanda2011]

@syhily @Kongkongda5882 00年就有了，后面就没啥人去了，换成去hk

[fengsu @kupanda2011]

@yyw2000 后训练和数据管线也强。国内做数据管线很难形成稳定产业群。

[fengsu @kupanda2011]

@Gracker_Gao slop了。。。

[fengsu @kupanda2011]

@iamai_omni 1000w就没啥利润了。 700w推理还有点利润。

[fengsu @kupanda2011]

@Jiaxi_Cui fable差不多接近p7 的能力，能感到显著智商上有提高。上次有这种感觉的还是o3.既有代码能力，还能有智商上的提升，非常可怕了。

[fengsu @kupanda2011]

@caozlog 对李有威胁 都被他赶跑了。百度最好机会就是陆奇在的时候，李退后，放权给陆奇。后面除了给字节输送人才，成了训练营，没啥转型可能了。

[fengsu @kupanda2011]

@geniusvczh 机器成本在那，batch打不满，打满都是这么多。 出code plan一个是可以挖点训练数据，一个是推理的机器打不满。商用的逻辑不一样，需求大致固定，按照需求配机器，那只能按照api算，最多给个很好的折扣。

[fengsu @kupanda2011]

@passluo 智能即压缩，现在模型结构对智能的压缩比还是不太够。记住所有世界细节，任务一把出的能力还是差太多。不过模型竞争，可能在达到30t规模以后放缓。然后在200b激活这个尺度，大部分人都能享受到一把出的快感。

[fengsu @kupanda2011]

@lifesinger 实际上就是否定之前路线， 用传统互联网方法，哪怕执行老登再强，也做不好新时代的ai产品。需要ai-native的组织，模型一线的人来做ai产品。oai 应用部门自己做后训练看来是对的。

[fengsu @kupanda2011]

@mianmoe 现在参加高考的rdf的妈妈们都是80后，而且大概率买周围学区房，家里条件不差，身材保养都差不了

[fengsu @kupanda2011]

@stuart983 这就利好nv，自己买机器部署ds，能把batch打满的话，那成本比用o，a便宜多少了。

[fengsu @kupanda2011]

@Datou 基模能力越强，token越少，模型要是把世界所有的知识细节都记住了，经过rl后，哪怕几十万步的长程任务那也是一把出啊。反而成本更低。

[fengsu @kupanda2011]

@jinchenma_ai 多多忙的没时间发声，除非离职后，也有发声的

[fengsu @kupanda2011]

@RelVM2nd @Im_Sdog 等着泡沫破灭，海量的h100 pcie大船开过来