Marcus @marcus_kcex - Twitter Profile

Codex刚更新了一个超级牛逼的功能：Record&Replay 你可以让Codex录制你的操作，比如完成特定的工作，然后Codex可以将演示的工作流程转化为可重用的Skills。它不是简单录屏重放，而是让你在 Mac 上给 Codex 演示一次工作流，然后 Codex 自动把这套流程转成一个可复用 Skill。比如报销、订停车位、创建 issue、发布视频、下载周期性报表。目前已更新到MacOS的Codex（需要计算机使用权限）我觉得这代表一个很重要的趋势： Agent 的能力获取方式，正在从写 prompt变成演示 workflow。我们小瘦猴子不再只是给模型下命令，而是在给模型做示范训练了🤣

19

95

16

74

23K

0

47

Marcus

@Marcus_KCEX

2 days ago

太牛了这思路演示一遍比自己琢磨写prompt省事多了啊

宝玉

@dotey

2 days ago

OpenAI Codex 上线了 Record & Replay 功能：在 Mac 上把一个重复性操作演示一遍，Codex 会观察你的操作过程，自动生成一个可复用的 Skill。下次遇到同样的任务，换一组输入参数，Codex 就能替你重新执行。目前仅限 macOS，欧盟地区暂不可用，使用前需要先开启 Computer Use。这个功能解决的问题很具体。很多日常工作流程步骤固定但难以用文字描述清楚：报销填单要选对科目和审批人，发布视频要按固定顺序填标题、标签、缩略图，创建 issue 要勾选特定的标签和指派人。以前想让 AI 帮你做这些事，你得把每一步写成精确的指令。Record & Replay 的思路是，与其写说明书，不如做一遍给它看。操作流程不复杂。在 Codex 桌面端打开 Plugins，点加号菜单，选 Record a skill，然后正常在 Mac 上完成一遍操作。完成后停止录制，Codex 会分析你的操作，生成一份 Skill 文件，里面包含触发条件、所需输入、执行步骤和验证方式。这份 Skill 可以检查、可以编辑，不是黑盒。重放的时候，开一个新对话，告诉 Codex 用这个 Skill，给它这次不同的参数就行。Codex 会结合 Computer Use（桌面操控）、浏览器操作和已连接的 plugin 来完成任务。

94

800

134

692

123K

0

46

Marcus

@Marcus_KCEX

2 days ago

太对了哈人的底色就是装不出来的看透一件小事比看十年简历都准

Orange AI

@oran_ge

2 days ago

OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）：一个模型如果在训练时被教着做一件坏事，比如写不安全的代码，它会自己泛化到其他领域，包括健康、教育、科学、法律等等。也就是说，坏行为会被泛化。 OpenAI 把问题反过来想：那好行为会不会也泛化？如果训练模型在一个领域表现得诚实、透明、谦逊、可纠正，它会不会在别的领域也变得更好？于是他们造了一批贴近现实的对话数据，专门测这些特质： -诚实 -认知谦逊（epistemic humility，就是"我不确定"的时候能说出来） -元认知透明（能解释自己的思考过程） -可纠正性（corrigibility，被指错能认） -普遍的公平 -对人的关心数据覆盖健康、教育、科学、法律、工程这些领域。然后用 RL 训练，只混进去一小部分这种数据，其余还是常规训练数据。实验结束后，有三个核心发现：第一，在训练领域内，模型确实变得更诚实、更透明、更容易认错。第二，在训练领域外，44 个独立的、训练时没见过的评测上，模型都变好了。欺骗、谄媚、reward hacking、有害建��……全都降了。甚至就算只拿健康数据训练，非健康领域也变好了。第三，这种改变在对抗压力下时也表现得更有韧性。不管是 adversarial prompt 还是恶意微调，都更难把它推向坏行为。而且模型并没有变得"不可塑造"，正常指令它还是听的，只是对坏的方向变固执了。这篇论文的启示是，RL 不仅可以强化代码，也可以强化道德。也许对齐超级 AI 没有想象中那么复杂，只对齐底层逻辑就有很好的效果。这跟人是很像的，人的各种行为在其底层存在一致性，通过一些小事就能看到一个人的底色。很有意思。论文地址：https://t.co/CYbVf3GEFV

oran_ge's tweet photo. OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。

业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）：
一个模型如果在训练时被教着做一件坏事，比如写不安全的代码，它会自己泛化到其他领域，包括健康、教育、科学、法律等等。也就是说，坏行为会被泛化。

OpenAI 把问题反过来想：那好行为会不会也泛化？
如果训练模型在一个领域表现得诚实、透明、谦逊、可纠正，它会不会在别的领域也变得更好？

于是他们造了一批贴近现实的对话数据，专门测这些特质：
-诚实
-认知谦逊（epistemic humility，就是"我不确定"的时候能说出来）
-元认知透明（能解释自己的思考过程）
-可纠正性（corrigibility，被指错能认）
-普遍的公平
-对人的关心

数据覆盖健康、教育、科学、法律、工程这些领域。
然后用 RL 训练，只混进去一小部分这种数据，其余还是常规训练数据。

实验结束后，有三个核心发现：

第一，在训练领域内，模型确实变得更诚实、更透明、更容易认错。

第二，在训练领域外，44 个独立的、训练时没见过的评测上，模型都变好了。欺骗、谄媚、reward hacking、有害建��……全都降了。甚至就算只拿健康数据训练，非健康领域也变好了。

第三，这种改变在对抗压力下时也表现得更有韧性。不管是 adversarial prompt 还是恶意微调，都更难把它推向坏行为。而且模型并没有变得"不可塑造"，正常指令它还是听的，只是对坏的方向变固执了。

这篇论文的启示是，RL 不仅可以强化代码，也可以强化道德。
也许对齐超级 AI 没有想象中那么复杂，只对齐底层逻辑就有很好的效果。

这跟人是很像的，人的各种行为在其底层存在一致性，通过一些小事就能看到一个人的底色。

很有意思。

论文地址：https://t.co/CYbVf3GEFV

19

1K

271

990

123K

0

36

Marcus

@Marcus_KCEX

2 days ago

发日志发到想吐了可每天看着账户数字又忍不住想晒啊哈哈话说把特斯拉换成内存股这手操作是真经典

亚洲金融 Asia Finance

@AsiaFinance

2 days ago

$INTC $SNDK $MU $AMD $ARM $MRVL $DRAM 等重仓AI/半导体股票继续上涨。说实话，发这些每天赚几百万美元的交易日志，有点像小红书，已经要呕吐。如纳指再创历��新高，肯定会止盈10%，用于激励。过去，每年止盈了5%。马斯克的 $SPCX 降温两连跌，也没啥惊讶的。但把 $TSLA 换成 $DRAM 应该是我们首创…