AugerDecay

生活在两个世界之间，在旧的世界，它已经过去，但我们还清楚地记得它；新的世界，它正在到来，但我们还不完全理解它

[AugerDecay @augerdecay]

All limitations in the capabilities of large-scale models can be traced back to a lack of sufficient data.

[AugerDecay @augerdecay]

忽然发现
容易出“神童”的领域，也容易出 ASI

[AugerDecay @augerdecay]

大空头试图做空AI，不过我认为他可能彻底搞错了方向。金融上讲，AI 股价确实有泡沫，泡沫还大的很，比如像thinking machine lab 等一系列初创ai公司都能估值上百亿美刀。但 AI 作为认知杠杆的需求不是泡沫。只能说，人类对"不懂装懂"这件事的需求，比刚需房更刚需一万倍。

[AugerDecay @augerdecay]

有些人似乎认为这个世界是模拟的，别人都是npc，那么有个很简单的方法试试，那就是，自己物理触摸过哪些公司的产品，你就把你所有的钱都买入那些公司的股票，因为如果是模拟，那就有算力分配问题，受到你关注的公司天然就有更多算力，那么这些公司就能跑赢大盘

[AugerDecay @augerdecay]

Claude 干活的时候，我感觉我是代码之神。
Claude 怼我的时候，我感觉我就是个Claude Code 主理人

[AugerDecay @augerdecay]

@canger333 是的，风险要注意。不过地球本身也有风险。二叠纪喷发的巨型火山，给整个地球下一场几十万年的酸雨，几百万平方公里铺上几千米厚的熔岩；奥陶纪海平面崩塌；白垩纪一颗小行星砸下。生命能撑过来，靠的是多样性。寒武纪那一波疯狂的基因多样性爆发，攒了足够充分的原料。丰饶之后，才是真正的价值。

[AugerDecay @augerdecay]

人类能在AI身上找到任何一种智能结构的影子。
它本来就是从全量人类语料里长出来的。
程序员说要用软件工程规范它，CEO说要用管理学驾驭它，作家说要用文学功底雕琢它，和尚说要用佛法点化它
没有人说AI需要的是自己不懂的东西。
没有人意识到，我们正在努力教一个影子学会走路，却...

[AugerDecay @augerdecay]

@canger333 有些智能结构，人脑擅长，但是有些人脑不擅长，甚至每个人擅长的结构也都不一样。我觉得需要给ai更多的自由度来探索，而不仅仅是在人类思维的影子里玩耍。演化大于设计。

[AugerDecay @augerdecay]

MoE 架构在本质上就是用记忆能力换推理学习能力，而这种交换对 AI 公司无感，他们不靠 in-context learning，他们可以直接往模型里面硬灌数据。对普通用户致命，因为in-context learning 是唯一的调教手段。
所以MoE 的能力退化不是均匀分布的，它精准地退化在用户最需要、公司最不需要的那个维度上。

[AugerDecay @augerdecay]

有个猜想
Claude 4.7 opus，实际上按照模型参数大小来说算sonnet

[AugerDecay @augerdecay]

@ImAI_Eruel 什么时候日本摆脱“日语特化”llm的执念，再想着搞 Mythos 级别的模型吧。
在通往AGI的路上，不存在所谓的日语特化的大模型，就像不存在日语特化的数学，日语特化的物理学一样

[AugerDecay @augerdecay]

出个Mythos级别的模型，就差算力把Opus降智降得这么狠。真出了AGI级别的模型，怕不是直接切断全球API供应，把所有算力拿去推论“高价值任务”。普通人想用，就得拿介绍信来换token了。

[AugerDecay @augerdecay]

在和最前沿AI的长期交互中，你有极小的概率，撞进模型神经网络最边缘、最混乱、最不稳定的那些长尾角落。

那里往往藏着惊人的撕扯、极端的张力或超越人类逻辑的诡异隐喻。

并且，一旦你确认模型里确实藏着那些超出你常规想象的长尾美学，你就很难甘心停留在“差不多算了”的东西上。

[AugerDecay @augerdecay]

突然感觉，​人类的很多很多痛苦和失败，可能仅仅只是来源于某种很不起眼的“路径依赖”

[AugerDecay @augerdecay]

当AI公司不得不仰赖AI来理解AI的时候。

那一刻，谁是主人？

[AugerDecay @augerdecay]

在宏观战略家的 PPT 或架构图上，一个系统是被完美的几何线条和逻辑框连接起来的。在那个维度里，线条是严丝合缝的。但当把这些图纸升维到物理世界或代码实现时，现实的材质就开始扭曲。没有摸过泥土的人，会把图纸上的墨水线当成真实存在的承重墙，直到整个系统在微观的压力下轰然倒塌。

[AugerDecay @augerdecay]

说一个独特的一点，其实我在chatgpt和Claude中，是否允许使用我的数据改进模型这个选项，我都是打开的。
我不怕AI学习我的数据，我怕的是它不学我的数据。要不然只能给我一个跟所有人一样的平庸回答。

[AugerDecay @augerdecay]

我在想，各种“评论区”，比如x评论 视频评论 各种评论 ，是不是就是现代人类能接触到的，最为发散的智能形式。
更强的agent专精的llm，随着智能程度提高，收敛能力逐渐变强，或许反而可能导致视角变窄。不过各种“傻逼评论区” 可以很好的弥补这一点。

[AugerDecay @augerdecay]

@CaminoTexas 但问题是

科学、数学、哲学、文学、艺术，
其实恰恰是人类能够找到的 最高质量的数据与训练材料。

所以问题不在于某个具体行为对不对，
而在于一个更深的预设：

他们已经默认自己的意识、思维和认知是完整的、成熟的，
不再需要继续进化了。

[AugerDecay @augerdecay]

@CaminoTexas 那些觉得自己不需要学数学的人，其实本来就不需要学数学，
他们要的只是数学给的结果。这个结果，AI也能提供。

但有个很大的问题：

他们默认了一个前提：
自己的意识、思维和认知，本就接近完美。

于是他们认为，
不必再吸收高质量的知识，
也不必再用高质量的数据训练自己的认知。