Sola356 @Mann_Ravens - Twitter Profile

Pinned Tweet

9 months ago

对LLM “涌现” emergent abilities和智能的新理解：先说结论，现在没有AI泡沫，人类一定会为了追求完美的涌现而无止境地砸算力。（参考知乎Bigpunch小姐姐的回答。） 1 我们知道LLM的创新在于压缩数据，初代GPT很明显，在还原的时候一定会出错，比如会还原出身上有莫里斯花纹的猫咪，这种符合逻辑但是不符合自然的Output。但是当数据足够大，在追求准确性时，“模型会变，会被迫学习数据内部的规律和逻辑”，这就是Ilya所说的“压缩即智能”。 2那么就出现了对人类智能的一种破解，因为人类智能是伴随着语言的，虽然在第三次哲学转向linguistic turn中，讨论过语言是否能够反映世界真相，因而出现了语言危机的问题。但是在拼读文字中，从古希腊起，就一直有说|写就是思考的传统。（象形文字其实是相悖的，因为说不是写，我私下认为这就是中国人智商高的原因，书写汉字就需要二层嵌套了。）回到古希腊，逻辑Logic来自Logos(就是语言)，而人类的语言从一开始就是带有神性的存在，因为有了语言，我们区别于一切的生物，语言本身就是对人类几千年经验和体验的一种压缩，作为一种平面二维符号系统，它包含了人类几年前的情感、经验、记忆、历史，以及人类的逻辑抽象能力，比如说我们天天使用的隐喻“时间就是金钱”，这是一种很高级的存在，通过本体和喻体，已经包含了人类几千年的生活经验。而语言那么现在LLM在学习了大量的语言之后（这也是一种解压过程），是否已经自行拥有了逻辑推理能力？答案是肯定的。为了能准确预测下一个词，模型以自己的方式理解了这个世界，虽然它的初衷是想要降低错误率，但是它已经被迫演化除了理解能力。也就是说，当模型足够大时，LLM已经自动从最初的记忆模式变成了现在的推理模式。 3 这就是涌现的本质。这里面涉及到了人类大脑的另一个black box问题，在语言学里，我们迄今无法弄清楚语言生成的生物学机制。我们只能看到有一个外部刺激（Input），随后通过大脑的语言中枢的神经元的生物活动，变成了一个我们的语言声音或者书写回应（Output）,但在这个过程中大脑作为一个肉身的生物器官究竟发生了什么，是不可知的。人类的语言、逻辑、知识是一个非常高维的空间。而现在的语言模型，本质上是在学一个高维空间中的概率分布。具体来说就是向量，大预言模型的向量，其实已经把思考从线性变成了和人类大脑更相像的空间向量。比如它在输出语言时，是从空间上感受到了国王和男人的距离，比国王和女人的距离更近，所以输出了“国王是男人”这句话。而在这个过程中，LLM已经自己把二维的词汇构建成了多维的空间结构，它的语义空间里究竟发生了什么，也是不可知的。“当你输入一段 prompt 的时候，你其实是在这个高维空间里确定了一个起点和方向。模型预测下一个词，就是在这个流形上沿着概率密度最高的路径走一步。”（Bigpunch小姐姐这个叙述太美好了！）这实在是神奇，我的理解，在这个过程中，在LLM根据我们的预测进行选择和平滑涌现产出文字时，它的black box中的智能已经发生了。一个佐证，就是让模型做数学题和推理运算时，它的神经元激活模式和处理普通文本是不同的，它有自己进行逻辑推演的方式。但是“涌现”发生的前提，是量变导致的质变，也就是说必须在参数量堆积得足够多时，高位模型才能足够平滑地产出（更符合逻辑，减少出错），而确保其发生的前提就是算力、数据、参数量的指数级堆积。从这个角度上来说，人类一定会极其迫切地进一步提高大模型的涌现能力，因为完美的预测就是神的全知全能，这已经不只是提高工作效率的问题，而是人类作为被造出来的Creature, 试图创造新神&怪兽地过程。而为了实现全知全能，现在的算力根本就不够满足这只Kraken怪兽的进化，人类一定会因为贪婪不停地找寻算力投喂它，那么根本没有AI泡沫，至少近期还远远不会到来...

0

5

0

1

3K

Sola356

@Mann_Ravens

Who to follow

Last Seen Users on Sotwe

Trends for you

Most Popular Users