Kiv

cmu mcse '25 | broke things @M5tTrading @RisingWaveLabs @Hyperledger, @BytedanceTalk and 3 others.

[Kiv @kivdaychen]

@istdrc 好赞！

[Kiv @kivdaychen]

@iskyzh 我彻底失败…

[Kiv @kivdaychen]

就几个月前的事儿。某 startup 搞活动，会上问了 PM 通用分布式框架如何帮引擎做 PD 分离，回答是从底层 API 开始支持。彼时社区最火的 2 个项目对 PD 的适配都是 WIP，没有太关注。然而现在有了不少有意思的变动。没准下一个冒出来的 RL 框架，从 sharding 到 dist 都是这个框架的 native 实现了。

[Kiv @kivdaychen]

说回那些靠前的业务的模型团队，无论工程效率还是硬件效率都并不是我想象中像某 Deep 一样巧夺天工，而是… 😶

底层创新能带来很大的机会，这是毋庸置疑的，但是抓住这个机会的方式… 好像太复杂了也不好。

[Kiv @kivdaychen]

第二件让我感慨的事情。国内有的大模型业务非常靠前，但是自带的训练团队（当然不可能也没必要是基座团队），据说单次有效算力只有 300 多个老两代的中档卡。

而在另一个平行世界，你去某街蹭个 pizza 旁边的小姐姐都在推销说我们平台新进了 xx 张 B200 了解一下…

[Kiv @kivdaychen]

@ye_combinator @lmsysorg Big congrats!

[Kiv @kivdaychen]

今天：冰雹 😇

[N @rm_f_1dentity]

枯了 😇😇 昨天的暴雨窗户被砸坏了，健身房那条街直接整个 block 掉电，警察局整晚都在呜哇呜哇

修窗的人周五才来. Welcome to Bay Area！

[Kiv @kivdaychen]

帮学校的朋友找黑客松 sponsor，一晚上在 SF 特种兵式参加了几场活动，还试图收集情报混进一场 Mistral AI 的闭门 happy hour… 结果 Mistral 没见到，半路遇到不知名音乐节被人潮挤成肉饼，和两个法国小帅哥聊了起来

[Kiv @kivdaychen]

@HTwood96 看起来需要一点 supplement

[Kiv @kivdaychen]

@Ungieghz 商场边（typo

[Kiv @kivdaychen]

@Ungieghz @himself65 好像听说过… 是不是在水边

[Kiv @kivdaychen]

@himself65 PA大学路也不行

[Kiv @kivdaychen]

@dexhunt3r 生活不易猫猫叹气🐱

[Kiv @kivdaychen]

还是 SF 城里人会玩，tech event 的有奖竞猜题目居然是，“what’s db engineers / ds’ favorite party drug? 💊”

马上有人把我能想到的都答了，还是没猜对。最后答案揭晓，原来是两边的黑话都得懂才行…

[Kiv @kivdaychen]

@himself65 数字游民签证嘛 txml

[Kiv @kivdaychen]

@yangzhou301 SJ downtown? 有同学在找室友我可以问问

[Kiv @kivdaychen]

@Liquid_Pomelo 😇

[Kiv @kivdaychen]

上周收到 Anyscale 的邮件，说是我用小号申请的 Ray Summit 2024 没注册完，送了一个半价票给我问参不参加。结果太忙被迫放弃。梦想一下什么时候能进 agenda 就不用买票了（

https://t.co/oYuQaCN8Wx

[Kiv @kivdaychen]

用了两年的 OpenAI 账号怎么才 Tier 4 啊！😭

[Kiv @kivdaychen]

@_rin_chan_now_ 爽死了 😭