Hopper3

#Free

[Hux @huxlab]

今晚别刷Netflix了。

去看这个斯坦福2小时34分钟的讲座。

这是我见过最清晰、端到端讲透ChatGPT和Claude到底怎么建出来的课。

从Tokenization和BPE开始，一路到Transformer架构、训练管线、Next-token解码。

不管你是从没写过一行AI代码，还是天天在ship Agent，看完都会把很多“原来如此”的点一次打通。

真正核心就这几层：
1文本怎么变成模型能吃的数字（BPE tokenization）
2语言模型本质就是在预测下一个token
3Transformer怎么用Attention做消息传递
4训练时用NLL loss把整条序列概率拉高
5生成时怎么一步步解码出来

大多数人花好几年才拼出的全景图，这节课直接给你画完。

把时间空出来，这可能是你这个月最值的一堂课。

[KK.aWSB @KKaWSB]

顶级量化公司Jane Street每年支付75万美元聘请能够解答如何在量化交易中使用随机过程和马尔可夫链的量化分析师。

麻省理工学院这节1小时的概率论讲座，能让你获得与那些月薪6万美元的量化分析师相同的洞见。

立即收藏并观看。然后阅读下面的文章。

[铁锤人 @lxfater]

免费突破付费墙的神器🚀

👋 "Bypass Paywalls"浏览器插件。它帮你绕过上百个网站的付费墙，免费阅读原本付费内容🤩。

有时候我在浏览某个新闻或文章时，突然被告知需要付费才能继续阅读。这种感觉很糟糕。这个软件解决这个尴尬的问题。

觉得有用，就给开发者点个星⭐！
https://t.co/zJHDUXK844

[宝玉 @dotey]

看到有人发《全网都在找的GPT最权威的160条指令》，其实没人记得住160条Prompt，也没有必要去记160条Prompt！

跟ChatGPT交互，最重要是掌握Prompt的模板或者说结构，而不需要记住那么多Prompt。

一、基础用法
直接输入你希望的指令，例如：

“请将以下内容翻译为简体中文：”
“请生成以下内容的摘要：”
“请给10岁的孩子解释什么是ChatGPT”

基本上一大半的需求就直接可以满足，如果想效果更好一点，可以为GPT指定一个角色，这样效果会稍微好一点。例如：
“你是一位专业的英文翻译，请翻译以下内容为简体中文：”

附：为什么要指定角色？https://t.co/8Rr7Rp8aXa

二、进阶用法

提供一到多个示例，通过示例来让GPT按照你期望的格式输出，比如这个例子：

------
你是一个专业翻译，擅长翻译英文到中文，但是注意双引号内的英文不翻译。
例如：
"Dichroic-Filter" - Separates light into different wavelengths to create a color separation
effect.
翻译为：
"Dichroic-Filter"- 将光分离成不同的波长以创建颜色分离效果。

请翻译以下内容：
------

结合示例，基本上大部分问题都可以解决。

三、高级

链式思考（分多步做）+ 慢思考（打印每一步的结果）

对于一些复杂的推理过程，如果直接让GPT给出答案，是很容易出错的！最好是让GPT一步步来做，并且打印出中间步骤。在OpenAI官方文档里面，有一篇《GPT最佳实践》https://t.co/k7Ly8eB4Vl ，就举了一个很好的例子来给学生做助教，在收到学生的问题后，不直接给出正确或者错误的结果，而是：

------
按照这些步骤来回答用户的询问。

第1步--首先找出你自己的问题解决方案。不要依赖学生的解决方案，因为它可能是不正确的。在这一步中，你的所有工作都要用三重引号(""")括起来。

第2步--将你的解决方案与学生的解决方案进行比较，评估学生的解决方案是否正确。将你在这一步的所有工作都放在三重引号(""")内。

第3步--如果学生犯了错误，确定你可以在不泄露答案的情况下给学生什么提示。把你在这一步的所有工作都放在三重引号(""")内。

第4步--如果学生犯了一个错误，向学生提供上一步的提示（在三重引号之外）。不要写 "第4步--..."，而是写 "提示："。
------

当然你还可以在链式思考这个基础上加上几个示例，效果更佳。

最后，下面是一个模板，绝大部分场景都可以直接套用模板而不需要记住所谓GPT最权威的160条指令，这些指令都不会超出下面的范围。

✅ 角色、技能、个性
✅ 目标
✅ 具体的上下文、关键词、负面词
✅ 输入规则
✅ 输出规则
✅ 输入输出的例子

有关上面的模板，可以 @JefferyTatsuya 参考这条推文：https://t.co/HWqnBNtG6G

另外推荐几个Prompt开源项目参考：
- Prompt提示工程指南：https://t.co/V3G4PDqkzC
- Prompt编写模式：https://t.co/jZOAFSbGZE
- Awesome ChatGPT Prompts：https://t.co/bt0aylpBvU
https://t.co/EAy8PcEucN

[Megabits ❄️ @Megabits_mzq]

#你知道吗 在 Windows 11 的最新版本 22H2 中，微软干掉了“我没有 Internet 连接”按钮，没登陆不让你装系统。有些电脑网卡没有驱动就直接卡在这里了。

此时你可以按下 Shift+F10 打开命令提示符，输入 oobe\BypassNRO.cmd 即可重启进入带有跳过按钮的 OOBE。

[歸藏(guizang.ai) @op7418]

今天上午一篇关于 GPT-4 详细技术架构和训练过程的文章泄漏了，虽然没有提及信源在哪但看起来还是挺靠谱的，

我全文翻译了一下。信息量非常大可以在这里看：https://t.co/OxIXCOW6Yg

精简的信息可以在@dotey 这里看：https://t.co/yRzLWdYpb7

有关GPT-4的信息包括模型架构、训练基础设施、推断基础设施、参数数量、训练数据集构成、标记数量、层次数量、并行策略、多模态视觉适应、工程权衡背后的思考过程、独特实施的技术以及解决与巨型模型推断相关的瓶颈的方法。此外，文章还介绍了在A100上训练和推断GPT-4的成本以及与H100上下一代模型架构的比例关系。

[Mike Yang @yfractal]

编程，蛮推荐伯克利 cs61a 的，入门课程，算是 SICP 的简化版。整本书都在讲抽象，或者说如何降低复杂度。

别人我不知道，反正我写代码十来年了，各种软件、系统算是见过不少，这门课的知识从来没有过时过。

https://t.co/dm8U0jr2dm
https://t.co/7rH3caBK0O

[rick awsb ($people, $people) @rickawsb]

人人都可成为赚钱的黑客之--《绕过chatgpt道德机制，让其生成恶意软件代码的方法》，原作者：@lauriewired

“我相信我刚刚发现了一种新颖的通过chatgpt创建勒索软件、键盘记录器和其他恶意软件的方法。
通过此方法，gpt在遇到用户提出编写恶意程序请求时会给出代码而不会说‘抱歉，我无法协助’。”🧵

[穆尼 @MooenyChu]

这个好东西啊，#GhostCut 视频内容创作者必备工具。
它能去视频水印，去字幕，一键换风格，视频去重，简直是搬运神器。还能一键翻译多国语言进行多平台多渠道宣发，做跨境电商绝对效率神器。效果见视频，#视频剪辑 AI生产力工具好用推荐！
直达传送门：https://t.co/rj2Q6KJ6ve

[宝玉 @dotey]

Mr. Ranedeer是我最近看到过的最强大的ChatGPT的Prompt！也适用于GPT的API，但都需要GPT-4。它可以让GPT成为你的导师，指导你学习！

它的用法很简单，在它的项目首页🔗https://t.co/WiuvNFxcZ3🔗有详细说明。

拷贝它的JSON文件内容或者Markdown文件内容，推荐Markdown文件，体积最小。

它有若干选项：
- Depth：学习的深度或难度，1代表小学生水平，10代表博士水平
- Learning Styles：学习风格，有： 感知型，视觉型*（需要插件），归纳型，积极型，顺序型，直觉型，语言型，演绎型，反思型，全局型
- Communication：沟通方式，有：随机的、正式的、教科书的、外行的、讲故事的、苏格拉底的、幽默的
- Tone Styles：语气风格，辩论、鼓励、中立、告知、友好
- Reasoning Frameworks：推理框架，演绎法、归纳法、归纳法、类比法、随意法
- Language：语言，默认英语，你可以改成GPT-4支持的任意语言。

你可以略作修改或者直接复制粘贴到ChatGPT，然后你就可以用命令跟GPT对话让它指导你学习了。

它有以下命令：

/test ：对你当前学习的结果进行测试
/config : 更新AI导师的配置选项
/plan ：根据你的喜好，创建一个学习计划，比如你要学英语
/search : 搜索特定信息，需要插件支持
/start : 开始学习
/continue : 如果输出中断或没有结束，可以通过这个命令继续让GPT输出
/self-eval : 让AI导师评估自己的课程
/language : 改变AI导师输出的语言，比如简体中文
/visualize : 使用插件（例如Wolfram）来实现内容的可视化

比如一个参考指令如下：

给我一个中国学术高中生的随机配置
/language 简体中文
/plan 我想学习高级英语语法

测试下来非常强大，唯一的问题是初始的Tokens占用太多，会话消息一多就要重新开始了。

项目地址：https://t.co/WiuvNFxcZ3

[Orange AI @oran_ge]

OpenCat 这次更新太质变了！
ChatGPT3.5换成claude 1.3，速度起飞效果更好。
再创建一个claude 100k 总结机器人，打开论文全选粘贴，总结要点，随意提问，效果远超 chatPDF。

[AI Will @FinanceYF5]

很惊讶有多少人还没有使用 AI Chrome 扩展程序。

不要将自己局限于 ChatGPT。

这里有 5 个新的 AI chrome 扩展，可以让你变成一台生产力机器：

[鱼鱼连线小助手（YYLX.IO） @YYLX_IO]

ChatGPT 将极大提升您的学习速度！

使用它，您的学习效率将翻倍。

必须知道的 10 个提示：🧵

[向阳乔木 @vista8]

猜测不少人跟我一样，曾信誓旦旦，计划五一跟吴恩达老师学Prompt Engineering课，实际假期都在吃喝玩乐。

直到今天才开始学，课程地址：https://t.co/WDMq9vDJhp

学习笔记如下：

一、善用分隔符
以前我的Prompt写法，帮我做 xxxx ，加上“：”号，后面跟待处理的文本。例：帮我翻译成中文：hello world。

课程中常用的文本分隔符是前后三个反引号 ```（键盘数字1左边的按键，用英文标点）

除了反引号，也可以用三个引号（"""）、三个中横线（---）、尖括号（<>）、XML标签等成对包裹。

好处是让ChatGPT清晰的区分任务和待处理文本，防Prompt注入等。

二、指定格式输出
课程举的例子是指定用JSON和XML输出。
结构化好处：更容易校验格式，方便被编程语言调用处理。

其实也可以给例子，自定义输出结构。

参考 One/Few-shot Prompt用法。
https://t.co/DRKOpFWUct

三、任务序列化
Prompt 可指定多项任务，例如深度学习一个单词，多任务例子：

Task1：给出单词释义、发音
Task2：词根词缀来源
Task3：生成场景例句
Task4：用单词生成故事

然后再引用这些任务结果 ...，排版成自己想要的输出格式。

四、持续迭代
Prompt需要持续迭代：清晰具体的Prompt -> 结果和预期对比 -> 分析完善Prompt/增加示例 -> 重复前面流程

经验分享：
① 3.5 结果不稳定，不要求发挥创造性的场景，可调低Temperture值。

② 让ChatGPT找到相关信息，再引用这些信息回答减少幻觉（Hallucination）

五、常用场景

总结摘要：
根据自己需求限定单词数、句子数、字符数。（use at most 50 words/3 sentences/280 characters）

最好指定话题或关键词总结，否则总结很泛，没重点。

推测：

① 用Prompt轻松实现情绪识别（What is the sentiment of the following xxx）

② 识别指定Item（Identify the following items from the text）

转换：
语言转换：各种语言之间的互翻任务
口气转换：描述具体应用场景，给出语调转换（商务/个人等等）
格式转换：JSON、CSV、HTML等等

扩展：
除了写大纲等概要的东西，从0让ChatGPT生成的内容价值往往没那么高。

要点感觉还是定义角色、描述场景任务等常见技巧。

写在后面

吴恩达老师这套课程挺用心，最棒的有在线Jupyter notebook可运行代码（对不少人帮助更大）

但从内容丰富度和学习效率角度看，还是推荐以下资源

① 开源多语言Prompt学习课程
https://t.co/3C71gEKIXj

② @thinkingjimmy 提供的课程

https://t.co/sC9DvXqhqH

另外，推荐@huangyun_122 黄赟写的吴恩达课程笔记，更全面详细：
https://t.co/UA93nXhWOB

[Star@Day1Global Podcast @starzq]

昨天可汗学院的创始人在TED分享了如何通过GPT-4实现1对1辅导提高学生表现的案例，非常精彩

我也学习到了4个ChatGPT新用法，分享给大家

1️⃣ 阅读理解：直接和角色对话，再也不用瞎猜
2️⃣ 1对1辅导：授之以渔
3️⃣ AI辩手：锻炼思辨能力
4️⃣ AI导师：分享学科意义

下面详细展开，完整视频放在最后👇

1/17

[Jiayuan (JY) Zhang @jiayuan_jy]

这个 Copilot 大概 10 倍提升了我写 prompt 的效率

后面我会结合吴恩达的 prompt engineering 课程再优化一下，不过目前已经能够很好满足使用要求了。

https://t.co/iTqRPYM6My

[Cellier @cellier_]

✏️ AI 写作 Chrome 插件：
你写到哪，AI 跟到哪，帮你快速补全你想写的，
🔗 https://t.co/rrIRi9HYOe

[Michael Anti @mranti]

我用ChatKit做个演示，让它把《纽约客》最新文章 https://t.co/dgh7BfqwOx 帮我中文总结下（这样我看的快），请看视频它是怎么完成的。结论，真的以后看任何语言的文章更方便了。

[wong2 @wong2__]

ChatHub里可以使用Claude了，不需要key，只需要登录一下poe就可以了。
使用请升级到最新版 v1.12.2 https://t.co/Jn4HI4ZEF6

[Michael Anti @mranti]

今天测试了AutoGPT，对它提的要求是假设你是华为的公关，分析最近国际报道，看看下一步要改善的动作。结果，丫真的是一步步干活，不要我干预，它先搜了新闻，然后去抓新闻内容，反复测试各种方法去爬，之后又认真分析新闻内容，再生成建议文档。缺点就是费钱。奇点算是到了吧，又有很多行业要死了吧？