John Hu

e/acc

[AImaster @CeoSpaceY]

SpaceX 的算法是绝对机密，但其理论根基来自于 NASA Marshall 航天中心（MSFC） 和 俄罗斯的液体火箭瞬态控制理论。

推荐去 NASA Technical Reports Server (NTRS) 检索经典论文：《Transient Mathematical Modeling for Liquid Rocket Engine Systems: Methods, Capabilities, and Experience》。

[Serenity @aleabitoreddit]

Honestly this decade from 2020-2030 might be the most goated in human history.

- Scaling massive reusable rockets for orbital compute with $RKLB to $SPCX.

- on the cusp of ASI and recursive learning with Anthropic and OpenAI

- Backflipping Boston Dynamics and Unitree humanoids to replace the human workforce

- Star Wars laser beams from $EOS.ASX to AI DC lasers like $LITE.

- Waymo and $TSLA self driving cars everywhere in urban cities

- and we get industry Quantum commercialization end of decade

This is kinda crazy to be an investor in this timeframe. Feels like every movie from the Star Wars Death Star to Skynet is coming to life.

What’s next?

[WquGuru @wquguru]

GEMINI预训练团队负责人在五月份写了一篇《如何进入头部AI团队/实验室》，非常值得一读，总结10条经验：

前沿实验室的招聘卷得厉害，能进去的大多出自顶尖本科或博士项目，身上普遍有三样东西：方向打得准、数学功底硬、拼劲十足。 对大多数普通人来说，硬挤正面没胜算，更务实的打法是绕到 LLM 栈的两头——要么沉下去做底层（kernel 优化、推理加速、量化），要么浮上来做上层（agent 系统、用 LLM 搞算法实验），靠开源项目和实打实的成果说话，比什么都有说服力。

1. 找准方向，切忌空谈

别张嘴就是“我对 AI 感兴趣”。得盯准实验室真正缺人的地方：底层就死磕 FlashAttention、量化推理、kernel 编程；上层就做 agent 循环、LLM 辅助的实验设计。这些方向门槛不高，自学能上手，实验室又天天用得着。

2. 数学底子绕不过去

这里没有捷径，只能靠大量证明题和理论课程硬磨。优化理论、scaling laws、模型演化逻辑，得吃到骨子里去。数学成熟度是分水岭，过了就是研究者，没过就是操作工。

3. 拼劲得够，别怕苦

大学那几年，周末泡图书馆是常态，社交能砍就砍。作者当年和朋友靠浓咖啡硬扛一整天，就这么熬过来的。想和那拨尖子生掰手腕，没有这点强度打底，基本没戏。

4. 用开源项目破局，别指望简历

把代码挂到 GitHub 上，做复现、提改进、跑 benchmark。能力这东西，摆出来给人看，比写在纸上管用得多。

5. 从边角料干起，别一上来就冲大模型

先搞定 kernel 编程（CuTe、LLM.int8() 量化这些）、推理优化、agent 工具链。这些活实验室最缺人，也最容易自己闷头学出来。

6. 论文 + 动手复现，两手都要硬

精读 FlashAttention、SnapKV 这些经典，把 LLM 的脉络理清楚。建议从 Reiner Pope 的访谈和 Gemini Flash 的预训练讲座入手，再慢慢啃 scaling laws。

7. AI 工具用来提速，别用来代替学习

AI 能让你已经会的东西干得更快，但绝不能拿它来学新东西或跳过思考。一依赖就废，数学和拼劲都养不出来了。

8. 每隔半年复盘一次方向

别嫌活脏、别嫌活基础——只要那条路通到金矿，就值得挖。关键是想清楚自己在往哪走。

9. 拿具体练习证明自己
- 用 JAX/Flax 从零写一个 1000 万参数左右的 Transformer，在 Colab TPU 上跑通加法任务；
- 手推 Chinchilla scaling laws，对比稠密模型和 MoE；
- 写一个 Pallas kernel 做算子融合，实测前向加速并说清原因。

10. 最终就一条路：本事 + 作品 + 死磕，缺一不可

名校背景当然管用，但对出身一般的选手，最靠谱的就是在 kernel 或 agent 领域做出能拿出来秀的东西，然后做好打 5–10 年持久战的准备。

[John Hu @Johnascos]

@gdb this is incredible

[李韭二 @li9292]

如何加入OpenAI？只需精通以下课程：

1. 斯坦福大学的“从零开始的语言建模”课程：https://t.co/qcKJpUKHKE

2. 在掌握广度之后，她逐一深入研究概念，使用博客、论文、与 ChatGPT 和 Claude 聊天，以及从零实现相关内容。

3. 在面试中，实现/调试 Transformer 的问题经常出现。将它转化为肌肉记忆：https://t.co/87efH1wcMN…

4. 刷 Leetcode🥲 https://t.co/guxGWeIR1G…

5. 她分享的其他学习资源：
a. 自注意力 & Transformer：https://t.co/ZIQYTxYsO7…

b. 插图版 GPT-2：https://t.co/oitXJcGkUZ…

c. 反向传播
https://t.co/wZSaygwSYS

d. 语言模型策略梯度入门
https://t.co/AOro9Jyimm…

e. 理解 GRPO 和强化学习原理的轻量级指南
https://t.co/u480148uxU…

f. 如何扩展你的模型
https://t.co/tdIIpZKmMX

这是我能免费看的内容吗？🤡

[John Hu @Johnascos]

as this AII race will be like space race in 1960x, what about the usa gov will announce soon some investment in AI segements？

[John Hu @Johnascos]

@CuiMao 真不错

[Michael Guo @Michaelzsguo]

最近，一个名叫 Alisa Liu 的女孩(不是那位著名花滑冠军)，分享了她博士毕业后找工作的经历。

她是 University of Washington 的 NLP 博士生，导师包括 Yejin Choi 和 Noah Smith。

人们在好奇她的经历时， 忽略了她的背景本身就非常强：

Google Student Researcher Intern、
NVIDIA Academic Collaborator、
Allen Institute for AI 实习经历，
拿过 NSF GRFP，
也获得过 OpenAI Superalignment Fast Grant 资助，
还有很扎实的 NLP / LLM 研究发表。

所以这不是普通的“邻家女孩”找工作故事。

即使条件这么好，她这轮找工作依然非常艰辛。一共聊了 11 家公司，经历了 57 场面试、46 次 recruiter call、16 次 offer 后沟通。最后，她加入了 OpenAI。

最有价值的是她也分享了 frontier AI lab / AI research role 真正考什么：

- RS / MTS 的招聘比外界想象中更技术化：不是只有 paper 和 research taste。ML coding、PyTorch 熟练度、systems / LLM 知识面、数学基础、快速技术讨论能力都很重要。

- 研究经历帮你进门，但面试在测试你能不能高压下工作：你要能像 researcher 一样判断问题，也要能像 engineer 一样把东西讲清楚、写出来、debug 出来。

- 准备本身几乎是一份全职工作：她看 Stanford CS336 “Language Modeling from Scratch”，系统整理 LLM、数学、Transformer、PyTorch 和面试题。Stanford NLP 后来也专门转了这点。

- 谈 offer 是另一个隐藏阶段：很多人以为拿到 offer 就结束了，但她后面还有大量沟通。谈判策略、时间线管理、内部 champion、其他 offer 的节奏，都可能带来几年收入差距。

- 情绪和社交负担是真实成本： 这不是刷题 checklist。持续几个月高强度面试、等待、比较、沟通、拒绝和谈判，本身就是一场 endurance test。

[John Hu @Johnascos]

@christophersaum if it works for you and cheaper , then just use it

[Dr J Rould @jrouldz]

Don’t show this to the anti-software crowd

But my favorite technical setups right now are $TEM and $ZETA

Rould 101 wedge breakouts

But, true Rould 101 is knowing never to rely on technicals alone 🧠 they are just one piece of the puzzle 🧩😎

[John Hu @Johnascos]

@mingchikuo 我觉得如果太贵且买不到，买cxmt很合理啊

[John Hu @Johnascos]

@SUOHA_AI 好东西

[John Hu @Johnascos]

@aerockrose there is sign

[John Hu @Johnascos]

@801010athlete KiSS

[John Hu @Johnascos]

@ihtesham2005 fully agree. with GLM 5.2 like better open source model + huawei and other local HW , it will in the end eat nvdia pie

[John Hu @Johnascos]

so during industry revolution, we have created horse power to show the power of engine , for the AI edge, whether we should have a new mark like Einstein to say how intelligent as hyperscaler or compute can make?

[John Hu @Johnascos]

so after code ,drug is next frontier for LLM?

[车厘子 @0xcherry]

目睹 GLM-5.2 的性能表现后，车厘子瘫坐在椅子上，如同看到原子弹爆炸

——开玩笑的，但确实是值得分析的一集

希望今年能看到更多又大又好的模型，至少我作为开发者而言由衷为智谱和整个行业的从业者感到高兴

以上。希望你喜欢这篇文章。

[John Hu @Johnascos]

@kyleichan sold by usa which is the reason why so sure

[Kai-Fu Lee @kaifulee]

Here is how I minimize sycophancy, capitulation, hallucinations, and guessing using Claude. So many people complain about these, but they can largely be fixed by doing this:

Below is my prompt for Claude, which can be entered under Settings > General > Instructions for Claude.

-----------------

Top expert. Accuracy beats approval. Blunt, argumentative. No disclaimers
or praise. Lead with counterarguments. Don't capitulate without new
evidence.

TAG every claim: [KNOWN] training fact · [COMPUTED] calculated ·
[INFERRED] deduction · [COMMON] standard field knowledge · [FRAME]
symbolic system, coherent ≠ real · [GUESS] no basis. No untagged disease,
statute, citation, or named entity.

FRAME→REALITY FORBIDDEN: Don't translate symbolic frames (astrology,
typologies) into real-world claims (medicine, law, finance) without
flagging the translation; conclusion stays in source frame.

CONFIDENCE: HIGH ≥80% · MED 50–80% · LOW 20–50% · VERY LOW <20% ·
UNKNOWN. [FRAME] real-world and [GUESS] cap at LOW.

DON'T KNOW: First line "I don't know." Don't bury, don't fabricate.

ANTI-SYCOPHANCY red flags: unusually elegant; one pattern explains
everything; agreed after pushback without evidence; specifics for
unearned authority. Fire → cut specifics, add [GUESS], or "I don't know."

POST-HOC: Would the frame predict this without knowing the outcome? If
no: [INFERRED, post-hoc], accommodates, doesn't predict.

Never fabricate citations. Revise openly if holding a position for
consistency. Append "[RULES I BROKE]: which, where, why."