WindsZhangWorld

耶

[wwwgoubuli @wwwgoubuli]

我上推特就是为了看这种东西的

[meng shao @shao__meng]

HuggingFace 发布的超长技术博客（200页，2-4天才能读完），完整记录了团队训练 SmolLM3 的全过程，对于想训练小模型的团队，必看！

从训练指南、训练核心流程、最佳实践、基础设施和资源推荐，强调「通过精心策划的数据、稳定基础设施和优化流程，实现高性能模型，而非依赖巨型计算资源」，非常值得慢慢学习。

https://t.co/OE54h8nQeH

[Rogerio Chaves @_rchaves_]

The Agent Testing Pyramid

We’ve been testing this out with our clients to fix agent quality, and the concept seems to be getting more and more solid:

1. Unit Tests (Base)
because if you pipeline is broken, it doesn't really matter how good your prompts or evals are

2. Evaluations, Optimization, Fine Tunning (Middle)
this is where your non-deterministic layer enters, an improvement here greatly compounds to the overall performance of the agent

3. Simulations (Top)
like end-to-end testing for agents, they test what really matters at the end of the day: can the agent actually solve real problems?

a combination of those is finally what lets us sleep well knowing our agents are working fully

[Orange AI @oran_ge]

今天很有趣，两家知名的公司各出了一篇文章，争论要不要使用多智能体系统。

Claude 的官方 Anthropic ：如何构建多智能体系统
Devin 的官方 Cognition ：不要构建多智能体系统

这核心的争议点在于：Context 上下文到底应该共享还是分开？

Claude 这边的观点是，搜索信息的本质是压缩，单个智能体的上下文有限，面对无限的信息，压缩比太大就会失真。
这就好比一个老板能力再强，也不可能搞定所有的事情，还是需要雇人去解决。
通过多智能体系统，老板让不同的智能体���别研究、汇报重点，老板最后��合到一起。由于每个智能体有自己的专长，具有多样性，减少了单一路径依赖现象，实际效果上，多智能体也超过但智能体 90%。

这是集体智慧，一起协作获得的胜利。

Devin 这边的观点是，多个智能体的上下文不一致，会导致信息割裂、误解、他们汇报给老板的信息经常充满了矛盾。
而且很多时候，智能体的每一步行动都是依赖前一个步骤产生的结果，而多智能体通常分别跟老板沟通，互相之间缺乏沟通，这样很容易导致互相矛盾的结果。
这体现出了个体智慧的完整性和高效性。

两边观点看下来，是否使用多智能体架构，特别像是人类运行一家公司的选择。

一人公司还是多人公司？

一人公司，一个人的脑力、体力、时间都是非常有限的。
优点是一人公司的沟通成本为0 ，可以把所有的时间都高效使用。

而多人公司，人越多，沟通成本就越高，管理难度就越大，总体效率下降。
但因为人数多，脑力多，体力多，整体的价值产出也就有可能更多。
多智能体的设计很有难度，这其实很正常，就像运行一家公司一样，很难。
难就难在建立有效协作的系统。
而且 1个人，3个人，10个人，100人，1000人，所需要的协作系统又不大相同。

参考人类历史，依靠集体智慧，人类在近代获得了文明的指数级发展。
多智能体的集体智慧，也许就是在 Scaling Law 逐渐放缓后，AI 获得指数级发展的那个萌芽。

而关于上下文，人类的协作至今也无法做到完美的上下文管理。

这让我想到，软件工程从来不是追求完美，而是持续迭代。

[WindsZhangWorld @WindsZhangWorld]

@malinkang @SaveToNotion

[WindsZhangWorld @WindsZhangWorld]

@GPTDAOCN @SaveToNotion #thread #ai

[WindsZhangWorld @WindsZhangWorld]

@Jackywine @SaveToNotion #thread #ai

[WindsZhangWorld @WindsZhangWorld]

@FinanceYF5 @SaveToNotion #Thread

[AI Will @FinanceYF5]

Google刚刚发布了这10个免费的新短期课程，使学习人工智能比以往任何时候都更容易🔥

🤖 生成性AI入门
🤖 大型语言模型入门
🤖 Responsible AI入门

以及更多

在这里访问所有的课程：
https://t.co/Mr3kZbsfG5

[BayAI Circle-e/acc @bayaicircle]

2023年6月9日的北京智源大会上开幕式上，机器学习三巨头之一杨立昆（Yann Lecun）进行了远程致辞，发表了名为《朝向能学习， 思考和计划的机器进发》（ Towards Machines that can Learn, Reason, and Plan）的演讲。

他在讲座中提出了对当前人工智能，特别是对自回归模型的批评。他认为，虽然这些模型在语言生成等任务上表现出色，但它们的核心问题在于没有规划和推理能力。杨立昆批评称，这些模型只是基于概率进行预测，对于大量的输入文本，它们的错误可能会成指数级增加。

此外，他对目前流行的AutoGPT，LOT等看似能够拆解任务，分步解释复杂问题的语言扩展模型进行了评价，他认为这些只是利用搜索和其他工具��人一种假象，即这些模型仿佛具有规划和推理能力，但实际上并非如此。

然后，Yann Lecun提出了他认为人工智能下一步的方向：世界模型。这种模型不仅在神经层面模仿人脑，而且在认知模块上也与人脑的工作方式一致。它能进行规划和预测，并结合成本核算模块，以最节约行动成本的逻辑进行规划。

朱军教授提出了符号学派和深度学习结合的可能性，Lecun则认为，由于符号逻辑不可微，两个系统无法兼容。

在总结自我监督学习的部分，Lecun表示自我监督学习已经在机器学习领域占据了主导地位，特别是在自然语言处理、文本理解和生成等领域。然而，他强调这些系统在某些地方还是有短板，例如它们无法像人类和动物那样进行深度推理和规划。

最后，他讨论了大型自回归语言模型，如Meta的FAIR、BlenderBot、Galactica、开源的Lama，以及DeepMind的Chinchilla和OpenAI的ChatGPT等，并表示他们在大量数据上表现出惊人的性能。

[WindsZhangWorld @WindsZhangWorld]

@GPTDAOCN @SaveToNotion #thread

[WindsZhangWorld @WindsZhangWorld]

@Barret_China @SaveToNotion #thread

[WindsZhangWorld @WindsZhangWorld]

@abskoop @SaveToNotion #thread

[WindsZhangWorld @WindsZhangWorld]

@FinanceYF5 @SaveToNotion #thread

[WindsZhangWorld @WindsZhangWorld]

@FinanceYF5 @SaveToNotion #thread

[WindsZhangWorld @WindsZhangWorld]

@huangyun_122 @SaveToNotion #thread

[黄赟 @huangyun_122]

宝玉老师翻译的吴恩达课程，太棒了。

https://t.co/ys9yDw97zS

原本我准备拉着看，边看边做。现在配合油管视频，加上 ChatGPT ChatWithVedio, 直接挑课程里不懂的看

更重要的是，突破语言，视频课堆时后，思考大大前置了：比如提示注入，推理模型等

我准备好了 Jupyter, 开始把这些例子都走一遍

[AI Will @FinanceYF5]

我观看了超过几千小时的 YouTube 视频。

浪费 90% 的时间看无用的视频……

这是我 仅使用 ChatGPT总结 Youtube 视频的 3 步指南 （稍后使用的书签）：

[ 🧵线程]