Phil

Geek/Mac lover/full stack/body builder

[Phil @philying]

@i3486 这是和美团点评死磕到底的意思么

[Phil @philying]

@i3486 一个人打几十个那段太离谱

[Phil @philying]

@frxiaobei @tinyfool @readwise save thread

[Phil @philying]

@frxiaobei @tinyfool @Readwiseio save thread

[Phil @philying]

@frxiaobei @tinyfool @Readwiseio save

[xwh @xuwenhao]

其实 R1 的训练过程和人的学习成长特别像。SFT Memorize，RL Generalize。所以打工别打太长时间，学会了基本格式就尽量去真实世界RL就好了。

模型需要非常好的 Pre-Train，并且数据质量要高。对人来说，就是要好的通识角度，博览群书，啥科目都要看看，而且要多看教科书，少看低质量短视频和网络帖子。

然后 SFT 帮助你能够强化记忆和能力，基本上大家专门学习特定的专业，以及去大厂打工都是这个逻辑。在某一个领域还是需要监督学习，做题也好，在公司里收到立刻短时过程反馈。

但是 SFT 有个缺点，就是 Overfit，一旦遇到分布外的数据表现急剧下降。所以如果一门心思在大厂打工，习惯了短时的公司内反馈，一旦遇到现在这种行业大变化，离开大厂就会非常痛苦，实际解决真实世界问题的能力并没有那么好。

但是 RL 有很强的泛化能力，所谓人教人不会，事儿教人一教就会。融资创业也好，做个小生意也好，被“稀疏奖励”的现实世界抽两个大嘴巴子立刻就成长了。

但是完全从 RL 学习又很难，所以 RL-Zero 那种一毕业就创业还是很难的。最好是先简单 SFT 一下，拿一点“格式奖励”，学会做事情的基本套路，再跑出来让现实世界对自己打脸。不过千万别长期SFT下去。

Pre-Train => 简单SFT => 然后依赖RL 可以获得最好的泛化能力。

[Phil @philying]

@i3486 现在这么强了？

[Phil @philying]

@i3486 退休了？

[Phil @philying]

@i3486 @xuwenhao 公司问员工借钱发工资？

[iPaul @iPaulCanada]

澳网观众，一辈子的创伤。

[Phil @philying]

@i3486 最美周芷若

[Phil @philying]

@caijingshujuku @readwise

[Phil @philying]

@i3486 发现个bug，链接居然不是https

[Phil @philying]

@FinanceYF5 @readwise save thread

[Phil @philying]

@FinanceYF5 @readwise save thread

[Phil @philying]

看过足球教练 第一季 https://t.co/XK1PRp5BZl

[Phil @philying]

@thingnotok @readwise save thread

[Phil @philying]

@xuwenhao @readwise save thread

[Phil @philying]

@0xthefool @readwise save thread

[Phil @philying]

@starzq @readwise save thread