Yang Sir

[AI樱木 @0xSilver_Time]

内脏脂肪是你身体中最危险的脂肪。

它缠绕在器官周围，减缓新陈代谢，悄悄引发疾病。

以下是9个科学证实的天然瘦身习惯：🧵

1. 停止深夜进食

[卢尔辰 @erchenlu1]

分享一篇好文：

选择一场人生，而不是一份职业

你是否曾停下来认真思考过这些问题：

-为什么“职业道路”总是被描绘成一条单一而稳定的路线？

-为什么人们辛勤工作，却依然对未来感到不安？

-为什么升职加薪带来的不是自由，反而是更多的压力和束缚？

作家 Tim Denning 在他的文章中对“职业”这个概念进行了深刻的剖析。他指出，职业并不是独立于人生的某种存在，而是社会塑造的一种观念。

这种观念让我们习惯于成为“可预测的员工”，而不是真正掌握自己命运的人。我们被教导要去适应职业，而不是让职业服务于我们的人生。

职业是如何限制你的？

1. 职业让人误以为自己“有方向”
许多人宣称自己有一条清晰的“职业道路”，但实际上，他们只是在逃避真正探索人生的可能性。他们被动地等待“正确的机会”降临，却未曾察觉，这条路从一开始就不是自己选的，而是被他人或环境预设好的。职业道路看似给了你方向，却可能让你失去了发现真正自我的机会。

2. 职业的奖赏往往是更多痛苦，而非自由
升职加薪听起来是对努力的肯定，但现实往往是：更多的会议、更重的责任、更大的焦虑，以及对生活的妥协。你以为自己在向上攀登，可回头一看，生活早已被职业悄悄吞噬。职业承诺的“成功”，到头来却可能是自由的代价。

3. “职业”鼓励服从，而非创新
在许多公司，员工被要求专注于单一领域，积累所谓的“行业经验”。然而，在这个快速变化的时代，真正稀缺的能力是跨界思维和创新力，而不是在一个岗位上墨守成规30年。职业框架可能让你稳定，却也可能锁死你的想象力和潜力。

如何摆脱“职业思维”？

与其等着公司为你规划人生，不如主动选择属于自己的方向。

-别让职业定义你的身份。 你不是简历上的一个职位头衔，而是一个有思想、有创造力的个体

-把职业当作工具，而非终极目标。 它可以为你提供资源和经验，但不该成为你人生的全部。

-追求真正的自由。 这不是来自“安全”的职业路径，而是源自打造属于自己的事业——一个由你掌控、与你的价值观一致的生活方式。

一个艰难但值得的选择

“人生中最艰难的决定之一，就是放弃确定的东西，去追求最好的东西。”


放弃熟悉的职业框架并不容易，它需要勇气和信念。但你愿意迈出这一步吗？跳出“职业”的束缚，去创造一个更自由、更富有意义的人生——这或许才是你真正想要的旅程。

[AI Will @FinanceYF5]

投资人Nathan Benaich宣布：“2024年人工智能现状报告已经发布!

这是我们的第七期报告,也是迄今为止最全面和最详尽的一期。报告涵盖了你需要了解的关于人工智能研究、产业、安全和政策方面的所有内容。

一如既往,这里有我的导演剪辑版(附带视频教程)。”

原文👇

[meng shao @shao__meng]

# AI RAG 论文分享
OPEN-RAG: 基于开源 LLM 的 RAG 推理框架

论文提出了 OPEN-RAG 新框架, 增强开源 LLM 在 RAG 任务中的推理能力, 解决现有 RAG 方法在使用开源模型处理复杂查询时推理能力有限的问题。

# 论文主要内容
- 提出了一种新的方法, 将任意密集 LLM 转换为参数高效的稀疏 MoE 模型
- 设计了一种对比学习方法, 训练模型处理具有挑战性的干扰段落
- 提出了一种混合自适应检索方法, 以平衡性能增益和推理速度之间的权衡
- 在各种知识密集型任务上进行了广泛的实验, 证明了 OPEN-RAG 的有效性

# 主要方法
- 将密集 LLM 转换为 MoE 结构, 可以让模型根据查询的复杂性动态选择最合适的专家, 这对于处理多跳推理等复杂任务很有帮助
- 同时对比学习方法也很巧妙, 通过训练模型区分相关和不相关的上下文, 提高了模型的推理能力

# 实验结果
- 在多跳推理任务如 HotpotQA 上, 基于 Llama2-7B 的 OPEN-RAG 甚至超过了 ChatGPT 等专有模型的性能
- 这说明该方法确实有效地提高了开源模型的推理能力

# 论文地址
https://t.co/snL54bfMbp

[艾森 Essen @essen_ai]

马斯克不是一个完美的演讲者，有点口吃，挺川略显尴尬。但他今天亲临现场不是没有原因的，他反反复复强调很多遍的，想要传递给大家的信息也是非常重要。那就是，这是美国历史上最重要的，或许是具有决定性的一次选举。推上暂时没看到有中文翻译，所以花时间把老马的信息认真翻译成中文，希望更多人接收到他的信息。我也要趁这个机会拜托美国的华裔选民认真投票支持川普，这不仅仅攸关美国民主的生死，也会决定接下来几十年世界的走势。所以，要拜托🙏

[AI Will @FinanceYF5]

Farhan分享了10 个真正改善您日常生活的 GPT-4o 用例（原文👇）：

[meng shao @shao__meng]

[论文重读]
构建高效 RAG 系统: 模块化分析与实践指南

论文系统地研究了 RAG 系统的最佳实践, 通过对 RAG 各个模块进行详细评估和实验, 研究提出了两种 RAG 实施方案, 分别针对最佳性能和平衡效率。

[核心观点]
- RAG 系统可以通过整合外部知识显著提升 LLM 性能, 但缺乏系统性的最佳实践指南
- RAG 系统可以被分解为多个独立模块, 每个模块都可以独立优化以提升整体性能
- 在 RAG 系统中, 性能和效率之间存在权衡, 需要根据具体应用场景选择合适的实施方案
- 查询分类、检索和重排序是影响 RAG 系统性能的关键模块
- RAG 技术可以扩展到多模态应用, 如图像生成和图像问答

[核心方法]
- 将 RAG 系统分解为七个核心模块: 查询分类、文档分块、检索、重排序、文档重组、摘要生成和生成器微调
- 对每个模块进行详细实验, 评估不同方法的性能和效率
- 在多个 NLP 任务上进行综合评估, 包括常识推理、事实检查、开放域问答、多跳问答和医疗问答
- 使用多种评估指标, 包括准确率、F1 分数、精确匹配分数, 以及 RAG 特定指标(如忠实度、相关性等)
- 通过迭代优化过程, 确定每个模块的最佳实现方法

[核心实验结果]
- 提出了两种 RAG 最佳实践方案:
a) 最佳性能方案: 包括查询分类、Hybrid with HyDE 检索、monoT5 重排序、反向文档重组和 Recomp 摘要
b) 平衡效率方案: 使用 Hybrid 检索和 TILDEv2 重排序, 其他模块与最佳性能方案相同
- 查询分类模块可以提高系统的整体准确率, 同时显著降低延迟时间
- 检索模块中, Hybrid with HyDE 方法性能最佳, 但计算成本较高; Hybrid 方法在性能和效率之间取得了良好平衡
- 重排序模块对提升检索文档相关性至关重要, 其中 monoT5在性能和效率间取得了最佳平衡
- 反向文档重组方法表现最佳, 说明将相关上下文放在靠近查询的位置可以提升性能
- 摘要模块在处理长文本时很有效, 但在时间敏感的应用中可以省略以提高效率
- 生成器微调实验表明, 使用混合相关和随机文档进行训练可以提高模型的鲁棒性和性能

[论文地址]
https://t.co/5jsNEZZnPf

[康客 @kangke666666]

体内有慢性炎症，
会导致很多疾病，
把消炎融入到日常饮食中是更健康且持久的方法。
哈佛大学给出了14种可以抵抗慢性炎症的食物：

[meng shao @shao__meng]

15 种高级 RAG 技术
——从预检索到生成 @willowtreeapps

一份 RAG 技术的全面指南，介绍了 15 种高级 RAG 技术，分为 4 个主要阶段：
00 预检索和数据索引技术
01 检索技术
02 检索后技术
03 生成技术

00 - 预检索和数据索引技术：
- 使用 LLM 增加信息密度
- 应用分层索引检索
- 使用假设问题索引改善检索对称性
- 使用 LLM 删除数据索引中的重复信息
- 测试和优化分块策略

01 - 检索技术：
- 使用 LLM 优化搜索查询
- 使用假设文档嵌入 (HyDE) 解决查询-文档不对称问题
- 实现查询路由或 RAG 决策模式

02 - 检索后技术：
- 使用 reranking 优先处理搜索结果
- 使用上下文提示压缩优化搜索结果
- 使用校正 RAG 对检索到的文档进行评分和过滤

03 - 生成技术：
- 使用思维链提示调整噪音
- 使用 Self-RAG 使系统具有自反性
- 通过微调忽略不相关上下文
- 使用自然语言推理使 LLM 对不相关上下文具有鲁棒性

04 - 其他潜在改进
- 微调嵌入模型：通过调整嵌入模型来优化性能
- 使用 GraphRAG：将知识图谱引入 RAG 系统
- 使用长上下文 LLM：如 Gemini 1.5 或 GPT-4 128k，以替代传统的分块和检索方法

报告下载地址：
https://t.co/PDM1uzEEOR

[Morris @Morris_LT]

38个诡异视觉错觉，看完还敢相信眼睛吗?人们常说，耳听为虚，眼见为实。今天我们就来看一看，你的眼睛到底有没有你想象中的那样忠诚。

[AIGCLINK @aigclink]

谷歌的一个实时低延迟的语音转换项目：StreamVC

StreamVC可以实时转换说话者的声音音色，并且可以保持源语音的内容和韵律，比如情感、语调等，支持在移动设备上运行

特别适用于通话和视频会议等实时通信场景，还可以语音匿名化

StreamVC在Pixel 7智能手机上实现了70.8毫秒的低推理延迟

在Diff-VCTK 、BNE-PPG-VC、VQMIVC、QuickVC等基线评估显示，StreamVC在自然度、可理解性、说话人相似度和f0一致性方面优秀

项目：https://t.co/FR24Vw0evK
论文：https://t.co/FR24Vw0evK
项目图：https://t.co/raxcQn275q

#AI语音转换 #AI音色转化 #AI匿名语音 #StreamVC

[meng shao @shao__meng]

RAG 1.0 ↗️ 2.0

从RAG 1.0到RAG 2.0，历史总是在重复？
这是 @infiniflowai 创始人 Yingfeng Zhang 发表的一篇文章，描述了他眼中 RAG 1.0 的现状和问题，RAG 1.0 ↗️ 2.0 InfiniFlow 的解决方案。

RAG 1.0 的现状和主要问题：
作者认为 RAG 1.0 是基于 LLMOps 的 RAG
> 现状：
>> RAG 1.0 系统基于语义相似度的方法，包括文档分块、生成嵌入向量、存储在向量数据库中
>> 查询时将用户问题转换为嵌入向量，从数据库中检索最相关的文本块
>> LLMOps 工具处理文档解析、分块、编排任务 (生成嵌入、存储、组装查询结果) 等
>> 这种方法实现简单,可以快速构建原型系统

> 问题：
>> 基于 Chunk 级别的嵌入使得难以区分重要实体、关系或事件,导致有效信息密度低,召回率差
>> 嵌入不足以进行精确检索,可能检索到不相关的内容
>> 检索结果高度依赖所选的嵌入模型,通用模型在特定领域可能表现不佳
>> 对文档分块方法敏感,但 LLMOps 系统在分块上较为简单粗糙,导致语义和结构丢失
>> 缺乏用户意图识别能力,难以有效处理模糊查询
>> 无法处理复杂查询,如需要多步推理的多跳问答

InfiniFlow RAG 2.0 方案：
InfiniFlow RAG 2.0 是一个端到端的 RAG 系统，由四个主要阶段组成：提取、预处理、索引和检索。每个阶段都包含专门的模型和技术，以提高整体性能和准确性。

> 提取阶段：
>> 使用文档解析模型进行数据提取
>> 包括文档结构识别和表格结构识别
>> 目标是准确识别和提取各种复杂文档结构中的信息

> 预处理阶段：
>> 应用文档处理模型进行深度分析
>> 包括知识图谱构建、文档聚类和嵌入模型应用
>> 为后续检索准备更丰富、更有结构的数据表示

> 索引阶段：
>> 构建多种类型的索引以支持混合搜索
>> 包括传统索引、文本嵌入、稀疏嵌入和张量嵌入
>> 为不同类型的查询和检索需求提供灵活的索引结构

> 检索阶段：
>> 使用复杂的检索模型进行多步骤检索
>> 包括候选选择（融合排序）、重排序模型和查询重写模型
>> 通过迭代优化和多模型协作提高检索精度

InfiniFlow RAG 2.0 方案主要能力：
> 混合搜索策略：
>> 结合全文搜索、向量搜索和张量搜索
>> 利用不同搜索方法的优势，提高召回率和精确度

> 模型驱动设计：
>> 每个阶段都围绕专门的 AI 模型构建
>> 模型与数据库紧密集成，优化整个检索过程

> 灵活性和可扩展性：
>> 能够处理复杂查询，如多跳问答和模糊意图理解
>> 系统设计支持持续优化和新模型集成

> 端到端优化：
>> 各阶段紧密耦合，难以用简单的 LLMOps 工具进行编排
>> 需要专门的平台 (如 RAGFlow) 支持系统的持续迭代和优化

原文链接：
https://t.co/W6q4eGDkLD
RAGFlow 开源项目：
https://t.co/SZidP1p1yP

[meng shao @shao__meng]

Mem0: 个性化 AI 记忆层 9.1k✨

Mem0 @mem0ai 为 LLM 提供智能、自我改进的记忆层，实现跨应用的个性化 AI 体验。

核心功能 🚀
> 用户、会话和 AI Agent 记忆：跨用户会话、互动和 AI Agent 保留信息，确保连续性和上下文。
> 自适应个性化：基于用户互动和反馈持续改进个性化。
> 开发者友好的 API：提供简单直接的API，可无缝集成到各种应用中。
> 平台一致性：确保在不同平台和设备上的行为和数据保持一致。
> 托管服务：提供托管解决方案，便于部署和维护。

Mem0 都有哪些应用场景？
> 个性化学习助手：长期记忆使学习助手能够记住用户偏好、过往互动和学习进度，提供更加量身定制和有效的学习体验。
> 客户支持 AI Agent：通过保留之前互动的信息，客户支持机器人可以提供更准确和更具上下文意识的帮助，提高客户满意度并缩短解决问题的时间。
> 医疗保健助手：长期记忆使医疗保健助手能够跟踪患者病史、用药时间表和治疗计划，确保个性化和一致的护理。
> 虚拟伴侣：虚拟伴侣可以利用长期记忆通过记住个人细节、偏好和过去的对话来建立与用户更深入的关系，使互动更有意义。
> 生产力工具：长期记忆帮助生产力工具记住用户习惯、常用文档和任务历史，简化工作流程并提高效率。
> 游戏 AI：在游戏中，具有长期记忆的 AI 可以通过记住玩家的选择、策略和进度来创造更身临其境的体验，相应地调整游戏环境。

Mem0 与 RAG 有何不同?
> 实体关系：与从静态文档中检索信息的 RAG 不同，Mem0 能够理解和关联不同互动中的实体。这导致对上下文和关系有更深入的理解。
> 时效性、相关性和衰减：Mem0 优先考虑最近的互动,并逐渐遗忘过时的信息,确保记忆保持相关性和最新状态,从而提供更准确的回应。
> 上下文连续性：Mem0 在不同会话中保留信息,维持对话和互动的连续性,这对于虚拟伴侣或个性化学习助手等需要长期参与的应用至关重要。
> 自适应学习：Mem0 根据用户互动和反馈改进其个性化,使记忆随时间变得更准确,更适合个别用户。
> 动态更新：与依赖静态数据的 RAG 不同,Mem0 可以用新的信息和互动动态更新其记忆。这允许实时调整和改进,增强用户体验。

关于 Mem0：
YC S24 成员团队，为 LLMs 构建长期记忆，以实现生成式 AI 技术栈的个性化。这使得 LLMs 能够记住过去的互动，并提供更加个性化的回应。
https://t.co/CAdcmyBQdR

co-founder & CEO - Taranjeet Singh @taranjeetio
co-founder & CTO - Deshraj Yadav @deshrajdry

Github repo:
https://t.co/wsaXW0TsIB

[歸藏(guizang.ai) @op7418]

微软前几天发布的 GraphRAG 架构非常厉害，但是具体的原理和内容可能不太好理解。

Neo4j 的 CTO 写了一篇详细的文章《GraphRAG 宣言：为 GenAI 增加知识》。

通俗易懂的介绍了 GraphRAG 的原理、与传统 RAG 的区别、GraphRAG的优势、知识图谱的创建和利用知识图谱工作。

感兴趣的话强烈推荐看看。

[meng shao @shao__meng]

👩🏻‍🍳 Haystack Cookbook
@deepset_ai @Haystack_AI

开源 LLM 框架 HayStack 发布的指导示例 Notebooks，帮助开发者了解如何使用模型的大模型提供方、向量数据库、检索技术、更全面的 RAG 方案、DSPy 等，强烈推荐关注。

https://t.co/SsK5lzfi8v

[meng shao @shao__meng]

Prompt Library - Anthropic

学会了 Prompt 编写理论和技巧后，有没有更贴近实际使用场景的实战 Prompt 模板参考呢？

Prompt Library 就是一个很好的库，区分不同场景，给出 Prompt 最佳实践，可以参考、修改并实时看到结果，直到得到你理想的 Prompt！

https://t.co/Vxlt2XJJxy

[meng shao @shao__meng]

Speculative RAG

来自 Google 的论文，介绍了名为 Speculative RAG (Speculative Retrieval-Augmented Generation) 的新框架，旨在通过一种新颖的方法提高 RAG 系统的性能，为 RAG 系统提供了一种新的思考和改进方向，通过并行生成和验证草稿的方法，提高了处理知识密集型任务的效率和准确性。

研究背景：
LLMs 在问答任务中表现出色，但在处理需要最新信息或鲜为人知的事实的知识密集型问题时，可能会产生事实错误或虚构内容。
RAG 系统通过将外部数据库检索到的信息整合到生成过程中，有效减少了知识密集任务中的事实错误。
但 RAG 过程为得到更详细的上下文，往往会给模型带来额外的延迟和更复杂的推理需求。

SPECULATIVE RAG 框架：
> 框架利用一个更大型的通用语言模型（generalist LM）来验证由一个更小型的、经过蒸馏的专家语言模型（specialist LM）并行生成的多个 RAG 草稿。
> 每个草稿都是基于检索到的文档的不同子集生成的，这样可以提供多样化的证据视角，同时减少每个草稿的输入令牌数。

方法细节：
> 通过将检索到的文档根据内容相似性进行聚类，并从每个聚类中抽取一个文档形成子集，以最小化冗余并最大化多样性。
> 这些文档子集被送入多个 RAG 模块实例，以并行方式生成带有对应理由的草稿答案。
> 通用语言模型跳过对可能重复的文档的详细审查，而是专注于根据理由验证草稿，以确定最准确的答案。

实验结果：
> SPECULATIVE RAG 在 TriviaQA、MuSiQue、PubHealth 和 ARC-Challenge 等四个公共检索增强型生成基准测试中进行了评估。
> 实验结果表明，SPECULATIVE RAG 在减少延迟的同时，实现了与现有最先进性能相比的显著提升。特别是在 PubHealth 基准测试中，准确率提高了最多 12.97%，延迟减少了 51%。

Paper
https://t.co/FzZtDAluTl

[康客 @kangke666666]

如何挑选食用油？

[AIGCLINK @aigclink]

一个眼科问诊大模型项目：OculiChatDA

OculiChatDA可以对眼部相关疾病进行问诊，有读图能力，可以通过眼底图判断是否为青光眼或糖尿病视网膜病变患者

OculiChatDA的问诊数据集包含了眼科问诊的常见问题，可以进行多轮对话，支持问诊、咨询、闲聊等

目前支持青光眼分类、糖尿病视网膜病变分级、病理性近视分类和年龄相关性黄斑变性分类

github：https://t.co/OI7DlzOxPm

#OculiChatDA #llm #眼科问诊AI

[AIGCLINK @aigclink]

一个数学大模型项目：AMchat

AMchat专用于解答高等数学问题的模型
集成了数学知识和高等数学习题及其解析的数据集
基于InternLM2-Math-7B微调的

github：https://t.co/SBLeBglBct
模型：https://t.co/IeHnYlldGs

#数学LLM #学习助手 #llm #AI教育