Lumen

AI Product Development.
creator of

[Lumen @Lumen2088]

https://t.co/htiBMzKHWF

[Lumen @Lumen2088]

刚读完一篇超硬核的 Agentic Coding 长文：把“AI编程为什么会失效”讲透了，也给了可落地的方法论。
核心就一句：别迷信大上下文，赢在短对话 + 任务拆分 + 复利工程。强烈推荐。#AI #AgenticCoding #LLM #编程效率

文章链接见评论区！

[Lumen @Lumen2088]

让大模型来改提示词，不知道会不会出现外星人语言，

[Lumen @Lumen2088]

🚨别再手动盲调 Prompt 了！微软最新框架《SkillOpt》正将“提示词工程”送进��史垃圾堆。 核心主张极其硬核：把 Agent 的提示词（Skill）当成神经网络的“权重”，用闭环系统来“训练”它！这套框架让 GPT-5.5 对话准确率狂飙 23.5 分！👇

[Lumen @Lumen2088]

核心约束是什么：首先场景是确定性的场景，任务的目标是可以量化的。

[karminski-牙医 @karminski3]

什么?! skill 也能"训练"了?

以往大家都是凭经验让AI写 skill, 然后调试的时候也是运行几下感觉没bug就完事了.

但 skill 能运行就一定好吗? 于是微软联合上交复旦同济等机构发了一个新框架 SkillOpt, 直接让AI评估skill写的好不好然后不断去优化!

最终, 这个框架写的 skill 让GPT-5.5的直接对话准确率飙升了 23.5分!

这个框架具体是怎么做的也很简单, 让skill迭代过程实现 harness 闭环! 大模型写完 skill 后, 立刻进入跑分流程, 只有得分更高的 skill 变更才会留下来. 跟大模型的强化学习过程如出一辙.

框架的设计���很值得做 Agent 框架的同学借鉴, 比如:

它设计了一个独立的优化器模型, 这个模型是用来写 skill 的, 它会根据 Agent 执行任务的试错表现得分, 对 skill 进行编辑操作(增加、删除、替换文本).

然后就是 harness 流程了：每一次文本编辑都必须在独立的验证集上分数有提升, 才会允许合并.

最后, 也是最精彩的地方, 框架还引入深度学习训练机制, 设计了文本层的学习率预算, 这个的核心就是限制大模型每次只能修改skill的一小部分, 慢慢迭代, 而不是全都重写.
论文中最有价值的数据就在这里, 论文实验发现, 每一步设置 4 到 8 个编辑操作的预算效果最好. 最终的最佳 skill 往往只包含 1 到 4 个被接受的核心修改.

甚至他们还设计了被拒编辑缓冲区, 用来存储训练过程的反面胶材, 以及周期性慢速/元更新, 这个则是跑完一个周期后, 会进行一次盘点, 类似于让框架形成记忆, 能更好的维持后续迭代.

这篇论文的结论十分深刻: skill(prompt) 完全配得上, 也需���一套系统级的训练流程.

原文中的描述直接是: 我们主张, skill 应当作为 Agent 的外部冻结状态来被"训练", 并且训练过程还要"让权重空间优化具有可重复性"!

这是不是意味着, 提示词工程(Prompting)和模型训练(Training) 的界限将逐渐变得模糊? 而提示词工程完全进入了机器学习的领域. 也许很快, 我们再也不需要人类去手动瞎改和调试提示词了!

论文地址: https://t.co/IHn7EZuhbv

#skillopt #微软 #提示词工程 #harness

[李继刚 @lijigang]

给这个世界的一份答卷:

https://t.co/q9JL7v4nXv

[Lumen @Lumen2088]

这套逻辑对我们普通人也有神启： 1️⃣ 知识管理：别做收藏家，要做策展人。认知过载时，你需要的是“过滤”而非“累加”。 2️⃣ 团队管理：项目经理就是 Curator。开会别拉一屋子专家，只要 3 个工作流最兼容的人。

[Lumen @Lumen2088]

别再给 AI Agent 盲目堆技能了！最新研究实锤：技能越多，AI 越“废”。
当大家还在卷工具库大小时，顶尖架构师已经开始转向Dynamic Curation了。分享一篇可能彻底改变 Agent 范式的硬核论文：
https://t.co/60OI85SYYB

学会精简才是王道。🚀

#AIAgent #LLM #技术前沿

[Lumen @Lumen2088]

少即是多 (Less is More)！ 实验证明：精准投喂 3 个完美自洽的技能，任务成功率远超投喂 20 个相关技能。 这不仅解决了调用幻觉，还顺便治好了 AI 的“灾难性遗忘”。

[Lumen @Lumen2088]

@Honcia13 @grok 帮我总结这位斯坦福教授观点

[Lumen @Lumen2088]

@Joeswu 牛，大佬，还能拿吗

[Lumen @Lumen2088]

LivePortrait, the cutting-edge portrait animation generator that brings your static images to life. The innovative AI technology transforms ordinary photos into captivating, lifelike animated videos in seconds.
u can try it in https://t.co/PGkSxKt4EH
#liveportrait #portraits

[meng shao @shao__meng]

RAG 最佳实践探索

论文主要研究了 RAG 技术的最佳实践方法，从 RAG 整体工作流、每个步骤的不同方法选择、实验对比方法，来论证 RAG 过程的影响因素，如何找到最佳实践。
我们一起来看看 👇

RAG 工作流：
- 查询分类 (Query Classification)
这一步骤涉及判断一个给定的查询是否需要检索来辅助生成回答。有些查询由于模型内在的能力，不需要额外的检索信息。
- 文档分块 (Chunking)
将文档分割成更小的段落，这对于提高检索精度和适应 LLMs 的长度限制至关重要。研究中考虑了不同层面的分块技术，包括基于句子的分块，以平衡语义保留和效率。
- 向量数据库 (Vector Databases)
用于存储嵌入向量及其元数据，通过不同的索引和近似最近邻方法，实现对查询相关文档的高效检索。
- 检索 (Retrieval)
基于用户查询和文档之间的相似性，从预构建的语料库中检索最相关的文档。论文评估了不同的检索方法，包括查询重写、查询分解和伪文档生成。
- 重排 (Reranking)
使用深度语言模型对检索到的文档进行重排，以提高文档的相关性，并确保最相关的信息排在前面。
- 重新打包 (Repacking)
调整检索到的文档的顺序，以优化后续的 LLM 生成过程。研究中考虑了“正向”、“反向”和“两侧”等不同的重新打包方法。
- 摘要 (Summarization)
对检索到的文档进行摘要，以提取关键信息并减少冗余，这对提高 LLM 生成回答的准确性和效率非常重要。
- 生成器微调 (Generator Fine-tuning)
微调生成器以更好地利用检索���的上下文，研究了不同微调���略对生成器性能的影响。

RAG 最佳实践：
- 实验设计
作者采用了逐步优化的方法来寻找 RAG 系统中每个模块的最佳实践。
首先确定了每个 RAG 步骤的代表性方法，然后逐一测试这些方法对整体性能的影响。
- 实验评估
作者在多个 NLP 任务和数据集上进行了广泛的实验，以评估不同 RAG 配置的性能。
他们使用了包括准确性、F1 分数、精确匹配分数和 RAG 分数等多种评估指标。
- 实验结果
实验结果显示，每个 RAG 模块都对系统的整体性能有独特的贡献，而且通过精心选择和组合这些模块，可以实现更高效和更有效的 RAG 系统。
论文提出了两种 RAG 实施策略：一种是优先考虑性能的策略，另一种是在性能和效率之间取得平衡的策略。每种策略都推荐了不同的模块配置。
作者还探讨了将 RAG 技术扩展到多模态应用的可能性，如通过“检索即生成”策略来加速图像和���本的生成。

论文地址：
https://t.co/khCfBIxuEo