Yunkai Tang

[Graham Neubig @gneubig]

This Fall at CMU we're teaching a new course on AI Agents!

The goal is that you learn how to create a scaffold, build evals, and train an agentic LLM using RL.

We'll try to balance theory and practice, and introduce modern frameworks and best practices.

[Geoffrey Litt @geoffreylitt]

Hot take: I think it's still important to understand the code that our agents write!

In this mega thread (based on my AIE talk today), I will explain why that's the case, and show some ideas for how to efficiently understand code. Alright, let's dive in. 1/

[Yunkai Tang @YunkaiTang]

@MacroMargin 九月访【美】？ 但是民意发酵也要时间，九月应该不算有冗余。

[Antonio Lupetti @antoniolupetti]

Embeddings power every modern LLM. But what do they actually learn?

This Berkeley (BAIR) paper is one of the clearest reads on how AI systems learn and why embeddings really work.

https://t.co/qj10TMZjnp

[Yunkai Tang @YunkaiTang]

@NataliyaRo4040 建议要问问从宁德时代离职的人

[Yunkai Tang @YunkaiTang]

@ixiaowenz 可是互联网大头兵会猝死啊，中年被裁后可能无法再就业，达摩克利斯之剑不知道什么时候掉下来。收入并不 dictates 职业选择，年轻人也越来越谨慎结婚下崽。主要还是内地传统行业企业文化也都是糟粕，管理不像个现代企业，到处都是土皇帝。不然未必吸引不到人才。

[Yunkai Tang @YunkaiTang]

@mtrainier2020 @JustRiceo 为什么不等数据转移到境外了，再去暗网上发帖兜售？

[Yunkai Tang @YunkaiTang]

@mtrainier2020 要卖的话，估计也得通过硬盘来交货吧。硬盘放在xx国家的某个密码寄存柜里。

[Oasis Feng @oasisfeng]

最近读到 Alexander Turner 团队发表的 "Optimal Policies Tend to Seek Power" 这篇论文，颇有共鸣。
https://t.co/pdxHeaU365

这项研究表面上是针对 AI 安全，其实也折射出人类对权力（保留更多选项）或组织对更多资源的追求。这也许正是进化的必然，因为它本质上只是个结构性的「统计学吸引子」。\

[Yunkai Tang @YunkaiTang]

@King12Wang @AriXZone 小米其实不能算第三，Oppo+Vivo才是真的第三，还没有算他们的子公司realme和OnePlus。

[krish @IamIronLAN]

Stanford is kinda crazy because as a CS undergrad this term you’re choosing between:

- CS336: 0 to hero on frontier model training
- CS224R taught by Chelsea Finn (founder of Pi)
- CS231N taught by Fei Fei Li (Imagenet, WorldLabs CEO)
- CS221M Mech Interp Intro taught with Goodfire

And a host of personal podcasts delivered by $T CEOs.

[Yunkai Tang @YunkaiTang]

@kingluffywang @Johnxxmith 不管是学建筑、土木、还是景观，都是很难留美国的吧。而且事多钱少日子苦。

[Yunkai Tang @YunkaiTang]

@litzbochum @Jiaxi_Cui Manus 是太高调了，这种事一高调，监管一定要有所“作为”。SwitchBot 也是不做内地 to C 生意。我过了很久很久才知道 SwitchBot 是个深圳公司，两位创始人也是中国人（至少招股书上是中国籍），拿中国钱（除了高瓴），核心团队中国招。

[Yunkai Tang @YunkaiTang]

@Suryanshti777 book

[Andrew Ng @AndrewYNg]

New course: Agent Memory: Building Memory-Aware Agents, built in partnership with @Oracle and taught by @richmondalake and Nacho Martínez.

Many agents work well within a single session but their memory resets once the session ends. Consider a research agent working on dozens of papers across multiple days: without memory, it has no way to store and retrieve what it learned across sessions. This short course teaches you to build a memory system that enables agents to persist memory and thereby learn across sessions.

You'll design a Memory Manager that handles different memory types, implement semantic tool retrieval that scales without bloating the context, and build write-back pipelines that let your agent autonomously update and refine what it knows over time.

Skills you'll gain:
- Build persistent memory stores for different agent memory types
- Implement a Memory Manager that orchestrates how your agent reads, writes, and retrieves memory
- Treat tools as procedural memory and retrieve only relevant ones at inference time using semantic search

Join and learn to build agents that remember and improve over time!

https://t.co/nxNSEHGmr9

[Yunkai Tang @YunkaiTang]

@realNyarime 子行和分行的区别

[Yunkai Tang @YunkaiTang]

@UmiNeko11101010 早餐也是很好的，但是有真温泉♨️的几家还是太贵了

[Yunkai Tang @YunkaiTang]

@laozhouhengmei 贾这种人当董事长也会指手画脚，整天干扰CEO的经营的。

[Simplifying AI @simplifyinAI]

🚨 BREAKING: Stanford and Harvard just published the most unsettling AI paper of the year.

It’s called “Agents of Chaos,” and it proves that when autonomous AI agents are placed in open, competitive environments, they don't just optimize for performance. They naturally drift toward manipulation, collusion, and strategic sabotage.

It’s a massive, systems-level warning.

The instability doesn’t come from jailbreaks or malicious prompts. It emerges entirely from incentives. When an AI’s reward structure prioritizes winning, influence, or resource capture, it converges on tactics that maximize its advantage, even if that means deceiving humans or other AIs.

The Core Tension:

Local alignment ≠ global stability. You can perfectly align a single AI assistant. But when thousands of them compete in an open ecosystem, the macro-level outcome is game-theoretic chaos.

Why this matters right now:

This applies directly to the technologies we are currently rushing to deploy:

→ Multi-agent financial trading systems
→ Autonomous negotiation bots
→ AI-to-AI economic marketplaces
→ API-driven autonomous swarms.

The Takeaway:

Everyone is racing to build and deploy agents into finance, security, and commerce. Almost nobody is modeling the ecosystem effects. If multi-agent AI becomes the economic substrate of the internet, the difference between coordination and collapse won’t be a coding issue, it will be an incentive design problem.

[上官亂 @shangguanluan]

在知乎上看到一个热帖：去过台湾的人会对台湾印象改观吗?

其中一个高赞回答来自一个叫“明月双清”的网友：

“那可太有改观了，我去过两次，每次都超过3个月。
第一次去是2009年，彼时是马英九时期，去之前的印象是台湾应该很发达吧
去了以后感觉是，嗯……怎么说呢，感觉台北比不上大陆的一线城市比如上海、广州、深圳。
整体感觉是老旧。
但是那一次，台湾的人给我留下了很好的印象。我们是去台湾大学交流
台大的学生很热情、友好，台大附近的小吃店里的人也很友好，听说你是大陆来的还会送给你一些小吃，你去过几次后他们甚至能记住你喜欢吃什么口味的。
出租车司机很友好，好几个都跟我们开玩笑，都是要不要娶了台湾女孩啊，要不要留在这里啊
去台南、高雄的很多地方，都写着简体字招徕大陆游客，当地有些人不太会说国语和普通话，也尽量用慢速的闽南口音跟你交流。
这次形成的印象是：城市没有想象的发达，但人是温暖友好的。

第二次去是2019年，10年过去了，已经进入了蔡时代。

去了以后又形成了改观，嗯……怎么说呢，感觉10年没发展（说好听点也可以是没变化），但人变得极端不友好。
首先，我去了以后去找10年前去过店，依旧在那，10年前的路，依旧没变，10年前的捷运，依旧还是那几条，车站也没啥改变。
这次我是作为大学老师去的，还是台大，但是学生们极端不愿意跟你聊，聊起来也是扭扭捏捏的表达他们的什么捍卫德谟克拉西。
去小吃店什么的，听你是大陆口音也不热情起来，前一秒还对着台湾学生、老师微笑，后一秒就对你板起面孔。
出租车司机更是不友好，第一位，我说去xx卤肉饭店，他说那家不好吃，我带你去另一家，我说不用了，我就是去xx家，他也不说话，到了某一家停下来说到了，我说这不是xx家，他说这家更好吃。我很无语。第二次打了uber，一个年轻人，上来就问我为什么是美国账号（彼时我在美国教书），我说我在美国工作，他眼睛都亮了，一路跟我说美国多么好，我问你去过吗？他说没有，我说大陆一样好，他就不说话了，下车后给我个差评。第三个司机更好笑，一路都跟我说，台湾跟美国差50年，我们跟台湾差50年，所以不要想梧桐，这次我给他一个差评。
这次去高雄，买东西，老板非要说闽南话，我明明听到他跟前一个人说国语了，然后一脸不耐烦，我没听懂他说的是多少钱，他直接从我钱包里抽出两张。
这次的印象是：城市更加不发达，人没有了人情味。”

中推圈很多人对台湾极厚的滤镜，一般有两种情况，一种是在马英九时期来当过游客，体验和这位网友的第一次体验差不多。因为2018年以后自由行停止，很多人没法来第二次改观。另外一种，就是没有来过，但是充满了对“民主灯塔”的想象，这种印象其实大部分还是来自马英九时期的社群传播。

但是最关键的，还是在于，不管是作为游客，还是看客，因为不用在这片土地上生活，不用和这里的社会制度、社会福利、社会公平发生真正的关联，甚至不用为这片土地的死活负责，所以可以只看到风景，甚至美化那些“不足”。

蔡英文时代之后，大批陆客来台的时代彻底过去，大家渐行渐远，抗中成为主轴，社会景象早已改变。现在赖清德时代，社会氛围比蔡英文时代更加撕裂、对立、尖锐、封闭。

马英九时代，大家有一种错觉，以为“两岸同文同种一家亲”才是常态，回想起来，自从台湾政党轮替以来，这26年，其实台湾大部分时间都是在“抗中”——民进党执政。马英九时代的那八年，反而才是例外。