Baz

Chill

[Pat Grady @gradypb]

The @BostonCollege Investment Committee (an LP and my beloved alma mater) asked for a few thoughts on what's happening in AI. I recorded a test run yesterday morning and then shared it with my partners, who encouraged me to share it more broadly... so here you go!

This is not a sales pitch, it's just a reflection on what we're seeing. And it wasn't intended to be shared, so please pardon the rough edges.

https://t.co/AuZqHMSSxD

[pdfu @itspdfu]

iOS 27 and macOS Golden Gate have private hooks that let apps add Siri Extensions and replace Siri AI’s server backend with third-party models.

First, here’s Claude running as a Siri Extension using the Model Delegation API in App Intents. Claude can appear in Siri’s “Ask…” menu and supports the same underlying flow as the built-in ChatGPT extension.

In some cases, Siri Extensions can be more powerful than Siri AI. For example, Siri can’t create a CSV, but Claude can easily return one when asked.

When system interaction is required, such as setting a reminder, Claude can relay the original or a modified request back to Siri, which completes the request.

Requires the private com\.apple.developer.model-delegation entitlement. (1/2)

[Elon Musk @elonmusk]

Interesting analysis

[Marc Andreessen 🇺🇸 @pmarca]

My information consumption is now 1/4 X, 1/4 podcast interviews of the smartest practitioners, 1/4 talking to the leading AI models, and 1/4 reading old books. The opportunity cost of anything else is far too high, and rising daily.

[peace @peacefuldecay]

no, solana is not going anywhere

no, we have not cycle topped

here are my thoughts…

[宝玉 @dotey]

转：关于 DeepSeek 的研究和思考 (Archerman Capital)

关于这几天很火的 DeepSeek, 我们 (Archerman Capital) 做了一些研究和思考, 和大家分享, enjoy! 灰色部分是技术细节, 不感兴趣的可略过。

几个事实

1) DeepSeek 不是套壳不是蒸馏美国的大模型。 虽然中国有些大模型是套壳和蒸馏的, 但 DeepSeek 不是。

2) 核心架构还是基于 Transformer, deepseek 在架构、工程设计上进行了创新和工艺提升, 实现效率优化。架构上, 采用了混合专家模型 (MoE)、多头潜注意力 (MLA)、多令牌预��� (MTP)、长链式推理 (CoT)、DualPipe 算法等设计, 并进行了依赖强化学习 (RL) 而不加入监督微调 (SFT) 的训练尝试。工程上, 在数据精度 (FP8 混合精度)、底层通信等方面进行了优化。这些方法在学术界都已经有了, Deepseek 没有过于追求新技术, 而是花了心思把这些方法都用上, 解决了一些技术的应用难点, 在理论应用和工程上找到平衡, 具体如下:

MoE: Mixture of Experts (混合专家模型)。将模型划分多个专家模块来进行分工。训练中将不同专家模块分配到不同计算设备训练, 提升训练效率。推理时, 仅动态激活部分专家 (37B 参数), 而非全模型参数 (671B 参数), 减少计算负担。但是 MoE 经常会面临某些专家承担所有工作, 其他专家不被使用的问题, 业内会通过一如辅助损失来对此调控、平衡各个专家模块的工作量, 而 deepseek 通过无辅助损失的自然负载均衡 (引入一个无形的手而不是人为调控)、共享专家机制来解决该问题。

MLA: Multi-Head Latent Attention (多头潜注意力)。扩展了传统的多头注意力机制, 引入潜向量 (latent variables), 可以动态调整注意力机制, 捕捉任务中不同的隐含语义。在训练中减少内存和计算开销, 在推理中降低 KV 缓存占用空间。

MTP: Multi-Token Prediction (多令牌预测)。一般 LLM 一次生成 1 个 token, 采用单步预测。deepseek 在特定场景下能同时预测多个 token, 来提高信号密度。一方面能够减少上下文漂移、逻辑更连贯, 也能减少一些重复中间步骤, 在数学、代码和文本摘要场景能提升效率。

CoT: Chain of thought (思维链)。一种训练和推理方法, 将复杂的问题拆分成小步的中间逻辑, 细分逻辑链条。在训练阶段, Deepseek 用标注的 Long CoT 数据微调模型, 让模型生成更清晰的推理步骤, 在强化学习中用 CoT 设计奖励优化, 增强长链推理能力, 并且在此过程中观察到了模型的反思 (回溯推理路径)、多路径推理 (能给出多个解)、aha 时刻 (通过策略突破瓶颈) 等自发行为。

DualPipe (双重流水线): 传统训练信息流水线会产生一些等待时间、有“流水线气泡”, deepseek 设计了一个双重流水线, 让一个计算阶段在等待数据传输时可以切换到另一批数据, 充分利用空闲时间。

R1-Zero: Deepseek 在 V3 基础模型上, 仅通过强化学习 (Reinforcement Learning) 训练, 而不加入 SFT (Supervised fine tuning) 数据, 训练了 R1-Zero 模型, 探索了模型不依赖人类标注数据微调、自主推演的能力, 打开了新的思路。但 R1 模型仍然采取 SFT 数据优化推理和生成质量。

FP8 混合精度训练: 引入了 FP8 混合精度训练框架, 相比传统的 FP16 精度, 数据内存占用更少, 但在一些算子模块、权重中仍然保留了 FP16、FP32 的精度, 节省计算资源。

底层通信优化: 开发了高效的通信内核, 优化对带宽的利用, 保证数据传输效率, 并能支持大规模部署。

拿内燃机和汽车的发明打个比方, 德国人发明了内燃机和汽车, 美国人喜欢 Scaling Law, 排量越大马力越大, 于是从 2 升到 4 升, 甚至 8 升排量的车在美国都很常见, 所以美国肌肉车很耗油。虽然源头技术不是日本发明的, 但日本人擅长把一件事做精, 工程上做很多优化, 日本 2.5 升排量的车甚至可以做到和美国 5 升排量车一样的百公里加速指标。比如���量化设计把大钢板换成钢条 (类似通过稀疏的办法减少大模型的参数量); 涡轮增压利用废气能量增加空气供给, 提高燃烧效率; 精密制造, 使得发动机零部件的配合更加紧密, 从而减少能量损失; 等等。

3) 有些宣传说 DeepSeek 的训练成本是 550 万美元, 是 Meta 的 1/10, OpenAI 的 1/20, 好像一下子比别人厉害了 10 倍 20 倍, 这有点夸张。 因为现在在美国预训练几千亿参数的一个模型其实也到不到 2000 万美元的成本, DeepSeek 把成本差不多压缩到三分之一。Meta 和 OpenAl 花的钱多是因为前沿探路, 探路就意味着会有浪费, 而后发追赶是站在别人的肩膀上, 是可以避开很多浪费的。另外算力成本在过去几年是指数型下降的, 不能这么机械的比较。打个不恰当的比方, 创新药的研发需要十年几十亿美元, 而仿制药的研发一定会更快更省。另外成本的统计口径也没有统一的标准, 可以有很大的差别。

几个观点:

1) DeepSeek 代表的是整个开源相对闭源的一次胜利, 对社区的贡献会快速转化为整个开源社区的繁荣, 我相信包括 Meta 在内的开源力量, 会在此基础上进一步发展开源模型, 开源就是一个众人拾柴火焰高的事情。

2) OpenAl 这种大力出奇迹的路径暂时看显得有点简单粗暴, 但也不排除到了一定的量又出现了新的质变, 那闭源和开源又将拉开差距, 这也不好说。从 AI 过去 70 年发展的历史经验来看算力至关重要, 未来可能依然是。

3) DeepSeek 让开源模型和闭源模型一样好, 并且效率还更高, 花钱买 OpenAI 的 API 的必要性降低了, 私有部署和自主微调会为下游应用提供更大的发展空间, 未来一两年, 大概率将见证更丰富的推理芯片产品, 更繁荣的 LLM 应用生态。

4) 基础大模型终将 commoditize (商品化), toB 领域看谁能将 LLM 更好和复杂的生产环节衔接好帮客户落地提高生产效率, toC 领域看谁有流量入口, 最终才会获取 AI 产业价值创造中最多的利润。

5) 对算力的需求不会下降, 有个 Jevons 悖论讲的是第一次工业革命期间蒸汽机效率的提高使得市场上煤炭的消耗总量反而增加了。类似从大哥大年代到诺基亚手机普及的年代, 正因为便宜了所以才能普及, 因为普及了所以市场总消费量增加了的。

6) 对数据的需求不会降低, 巧妇难成无米之炊, 没有米怎么做饭, 算法的提高相当于做饭吃饭变得更快, 对数据的渴求会更���。

研究期间, 我们与几位学术界和工业界的专家进行了交流, 由于尚未获得公开提名的许可, 就暂不提及具体姓名了, 但在此特别表达感谢! Archerman Capital™ 是一家美国的成长期股权投资机构, 专注于人工智能、数据基础设施、网络安全等领域的成长期投资。其投资组合包括 Databricks, Scale AI, Tenstorrent 等。该机构采用高度研究驱动和第一性原理的方法。公司总部位于波士顿, 在纽约和硅谷设有投资团队。以上是纯分享, 并非投资建议。

[Elon Musk @elonmusk]

The evil knuckleheads picked the wrong vehicle for a terrorist attack. Cybertruck actually contained the explosion and directed the blast upwards.

Not even the glass doors of the lobby were broken.

[Colin Wu @colinwu]

和 Alliance 联合创始人 Qiao Wang 聊了��怎么几百万市值投进 PUMPFUN 和 Moonshot 获得千倍回报 @QwQiao

- PUMP 最早是要做 NFT 市场，方向变了好几次
- 欧洲团队，团队很年轻，CTO 大学都没上，高中学历，团队最初 3 人，目前十几人
- Alliance 给出了做 meme launchpad 点子，但这不重要，成功 99% 在于执行
- 特朗普当选，不会出现敌视加密货币的人管理 SEC/财政部，创业的情绪马上就会改善
- 中国的项目过于看重西方 VC 背书，实际上应该做好产品，自然吸引到好的 VC
- 这个周期主要侧重 memecoin 和 stablecoin
- 每年会看 4000-5000 个项目，主要靠直觉，5 分钟就能做决定

阅读全文 https://t.co/btOacxLcxv
音频
小宇宙 https://t.co/MIhB1eqPQN
Youtube https://t.co/u3kUlEEK5W

[Lao Bai @Wuhuoqiu]

感觉这一轮的新主线开始有些清晰了，即

PayFI
AI Agent
Meme

正好上一轮差不多也是三个主线
Defi，NFT，X2Earn

简单说一下为什么是这仨

这一轮最大的主题应该是昨天川普获胜演讲时候说的，“Common Sense - 常识”，或者说 Anti-叙事，市场对与To VC， To交易所，只管叙事，只盯着技术/基建的项目已经开始感到恶心，项目必须回归常识 - 你做出来的东西真的要有人用，有人买单（NFT至少大家还能买猴子和Punk当头像装B不是？）

过去两年出现一堆去中心化算力/模型训练/推理项目，你脑补一下如果你是一个正儿八经的AI创业公司，你真的会放弃用Hugging Face，不去AWS或者Azure买云算力，而是用Web3的“去中心化”算力/模型/推理平台？扪心自问，这符合常识么？

下面说说为什么我认为下面这三条线目前来看Make Sense

1. Payfi - 打通现实世界
最近两个月一级市场看的+聊的最密集的赛道，感觉好多新的+老的在蛰伏/猥琐发育的Payfi项目都跳了出来，Stripe 111亿美金收购Bridge应该可以看成一个标志性事件

你可能没太注意或者不知道的是
PayPal发行的PYUSD已经超过5亿了（前段时间冲到了10亿）
Osmosis, scrvUSD 都在弄Debit Card，还有其他基于Ton或者其他链的Crypto Card正在路上
有跟Visa/Master合作搞供应链金融或者加速结算的
有直接跟银行谈绕开Visa/Master结算的
有基于Solana Pay这种框架给商家提供Crypto Native Payment+Defi Yield的POS系统，同时不影响传统VISA/Master刷卡
有直接通过链上+ZKTLS做P2P OTC出入金的
甚至有把银行主要逻辑���搬去链上的，直接NFT登陆+KYC，提供链上银行+传统银行的绑定，既能转账+出入金，又能刷Crypto Card，甚至还能直接Swift到传统银行账户

更加“多快好省”的支付系统，直接把你的Crypto资产刷卡消费出去，更加安全的出入金……这些都是实打实的用户需求，做好了真的是有人/机构，包括Web2玩家来用的，可能到最后大家发现实现Web3 Mass Adoption的既不是社交也不是游戏，而是Payfi这个赛道

2. Ai Agent - 增强链上世界
之前一年多聊了三位数的AI项目，但基本没怎么出手，因为感觉实在是结合的有些生硬，即便是那些龙头和所谓的天王项目同样如此。你看去年V神被采访AI X Crypto结合时候其实被问到过这个问题，他的回答基本上都是围绕着AI帮助Crypto而不是反过来。但币圈要造梦就“必须”Crypto帮助AI。所以我们有了行业标准的所谓“模型资产化”，“数据资产化”，“算力资产化”这三个赛道。

但讲真我跟很多Web2 AI的Researcher和Founder聊过，他们看我们这仨赛道就跟看脱口秀一样

印象最深的是去年聊过一个去中心化算力项目，Founder非常“实诚”的告诉我们，来了比较大的或者商业化的算力需求时候会直接丢给他们的中心化机房去跑，不会交给散户GPU算力的，但可以前台“包装”成散户算力也参与的感觉。我对这Founder印象还挺好的，虽然最后没投

直到今年Goat的出现, 才真的让我眼前一亮

这不是AI Help Crypto，也不是Crypto Helps AI

这是真正的AI 与Crypto的结合碰撞出来的新东西

AI Agent 发资产
AI Agent ShitPost喊单
AI Agents 组成DAO
AI Agents 负责一个基金的操盘和买卖
AI Agents 自己的文化
AI Agents 自己的宗教

这东西Web2 AI做出不来，Web3纯Crypto也无法独立完成

这是目前为止，在AI当前能力水平下，我个人觉的最能体现AI X Crypto结合的方式了

关于这个赛道，推荐两篇文
https://t.co/nbTBTVvrdC
https://t.co/LyW60gwa6b

再就是巫师 @0xcryptowizard 也发了许多关于这个赛道的东西，大家可以去翻一下他的Twi

3. Meme - 链上赌场，不装了
https://t.co/c44EUlNZiu 把原先很多人不愿意承认，或者说因为“政治正确”而不能明说的东西摆到了台面上

咱们圈就是一个大赌坊

但其实这没有问题，我们终于可以正视Cypto一个很大的功能就是用来PVP的，That’s OK

问题是，它不能只有PvP

就像杜总@DujunX 说的“meme 和 tap2earn 如果是行业的未来，那么这个行业去死吧，fuck!”

所以Meme，PVP会成为我们圈一个永恒的赛道，当有更加让人兴奋，更加出圈，更有意义的赛道和技术出现时，Meme赛道占比���小一点，低调一点。当行业缺乏方向，让人乏味和失望的时候，Meme赛道就跳到前台活跃一些，占比大一些。

Meme可能会是未来多轮牛熊的“小铃铛”赛道 - It has been, and will be always there……

一家之言，仅供参考娱乐，NFA ：）

[Alliance @alliance]

https://t.co/tb6bTMCJYF

[TechFlow 深潮｜APP 已上线 @TechFlowPost]

寻找下一个https://t.co/lh7cHMjjiD，一文速览 ALL13 Demo Day 11 个演示项目

你知道吗， Moonshot、https://t.co/lh7cHMjjiD、https://t.co/rxCdGBgXaC 和 https://t.co/IemdWlpTWl 、https://t.co/UoPHKL1uo8等极具人气的项目均来自于全球最大的Web3加速器 @alliancedao 。

在昨晚刚刚结束的ALL13 Demo Day上，又有新一批极具潜力的创业项目进行了路演展示。这些项目不仅经过严格筛选，更代表了当前Web3领域的创新方向。

感谢创始人 @QwQiao 邀请，深潮 TechFlow 也有幸受邀参与了本次活动。

小编对 Demo Day 中的项目��示进行了快速记录，本文将为读者带来ALL13 Demo Day中展示的项目概览👇👇

[Niki Scevak @nikiscevak]

QOTD

[lidang 立党 （劝人卖房/学CS/买SP500/纳100/OpenAI/Anthrop第一人） @lidangzzz]

有一个问题，我反复跟你们科普，结果我发现不仅普通人不懂，连一些VC都不懂，好像只有高晓松跟我能达成共识：

中国互联网的本质，是吃硅谷的技术剩饭，

但是无论是阿里、拼多多还是抖音，巨头们在对社会和商业革命的角度上，吃的是百年发达的美国消费零售的剩饭，是沃尔玛、costco、bestbuy的剩饭。

一个显而易见的例子是，YouTube在美国靠卖电话卡、保险、大学等等服务行业广告为生，Netflix和HBO靠收会员费为生，

而无论是B站、爱奇艺、腾讯视频等等，靠收会员费都被证明是一条不赚钱的路——人均GDP刚刚1万刀，月薪3000的14亿人口国家，交你妈的会员费呢。

而抖音能成功的原因，是因为它变成了中国四大电商之一，抖音最成功的商业化，就是卖货，

而无论是阿里系，京东，拼多多，抖音，真正成功的原因，都是成为了中国的沃尔玛、costco、bestbuy，让你小到水果蔬菜，大到衣食住行，全都在商城里消费，

而这是美国tech industry做不到的，无论是Amazon还是ebay，在美国都远远比不了walmart、costco等企业，凭借互联网优势，也只能比社区的kroger、safeway等等强，

原因很简单，高晓松讲过这个问题，就是中国在城市化的进程中，没有及时孵化孕育出中国的沃尔玛、costco、bestbuy、kroger、safeway，于是让互联网公司捷足先登，先把14亿人的消费零售的生态位给抢过来了。

于是美国线下零售消费，是一个个连锁大超市、大bestbuy，

中国零售消费全转成了线上，于是形成了阿里、京东、拼多多、抖音商城、快手、美团六大互联网门派。

除此之外还有两个奇葩， 一个是腾讯和米哈游的游戏充值，在全世界独树一帜地牛逼；

另一个是所有的付费SaaS，包括飞书、钉钉等等，作为14亿人的大市场，在人均GDP一万刀、人均月薪3000的大背景下，在全球也是最差的：

连飞书都不愿意付费使用，一个个企业还在为了用免费版不断用60分钟断线重连的会议功能——搞得飞书这个国内最大的SaaS团队连人均50的会费都收不上来，在全球SaaS这个市场里属于丢人现眼。

我为什么要跟你讲这个故事？

我发现很多互联网从业者，主要是那些在自己一亩三分地干干活、吃了红利、两耳不闻窗外事的牛马们，

对中国互联网有不切实际地幻想，以为一直吃硅谷剩饭，就可以一直增长，中国互联网就能两三年后复苏，就能再孵化出3个腾讯，5个阿里，8个拼多多，20个美团，

这样自己就能不断跳槽，继续财务自由的美梦了。

——抱歉，这种幻想是纯粹的狗屁，中国互联网行业的上限，就是中国消费零售的上限，天花板焊死了，就是阿里、京东、拼多多、抖音商城、快手、美团六大门派。

没有其他红利了，也做不起来SaaS，更不可能有AI红利——人均GDP一万刀、月薪3000的群体，用你妈的SaaS，用你妈的AI产品呢，都不可能给你付费的。

天天想着跳槽、创业、继续财务自由的朋友们，如果不想着游戏出海、AI出海、开源出海，天天还想着在墙内洼地吃移动互联网的红利，

继续跳跳槽就能年薪50万涨到200万，200万直接创业8位数，然后变成下一个张一鸣、马云，

显然在2024年来看，在目前消费零售的天花板锁死、宏观经济没有任何好转的状况下，就是纯粹的痴人说梦了。

[John Henderson @johnhenderson]

For a relatively small country, Australia produces technology companies that punch way above their weight. Those of us in the local startup scene feel the momentum viscerally. Until recently, it's been less obvious to our friends overseas, but they are now waking up to the fact that something special is happening Down Under.

Let's keep celebrating our success stories - current and emerging. The data shows that our startup ecosystem is globally relevant and outperforming many more "established" geographies.

https://t.co/FXnnsX4cXu

[Baz @0xbazzz]

@weremeow BPdxK4M2qu9p42MdawB51Le8dQVWnd8YRJwYEC5rz7h1

[Baz @0xbazzz]

I just unlocked a @BLAST_L2 Golden Ticket which earns me Points, Gold, Uncommon Hoodies, and Cybertrucks! Download the Blast App to earn $BLAST and Golden Tickets in Phase 2!

[Baz @0xbazzz]

I earned 2,000 $BLAST in @BLAST_L2's Phase 1 airdrop. Join the mission to UNBANK THE BANKED and earn Native Yield + BLAST in Phase 2!

[小人物 @MetaHunter168]

https://t.co/4yX3K5zWdb

[Ansem 🐂🀄️ @blknoiz06]

memecoins, cabals, & whales

everyone has been discussing this for awhile now so figure I will give ppl some context

every altcoin that launches directly on a dex without VC backing has 3 things

• dev team
• snipers
• whales (tbd)

the sophistication & overlap of these three varies from coin to coin, but you need a good combination of all 3 for the coin to do really well long term

dev teams

With every dev team, there is a sliding scale of decentralization & organization. On pump dot fun the dev teams are literally one person with a picture and a caption, whereas teams like $BONK are very organized with some of the smartest active crypto traders on Solana. Both of these types of teams can do well, but believe it's also dependent on the other two things (snipers & whales) for the project to be successful long term.

Advantages of organized teams is that they typically have a budget set aside for marketing & future development, so these coins can have more "utility" than memes that just originate on https://t.co/1Sc1wp5IVE. Good example of this is bonkbot, no other fully decentralized meme is going to have a product like that because they don't have the funding to do so. Another example of this is $MEW, which was able to airdrop significant % of the supply to all $BONK & $WIF holders. These teams also usually have easy access to market makers & fast track to exchange listings.

On the flip side, the fully decentralized teams typically start at lower market cap because there is no vested interest from deeply capitalized parties at the very beginning. These teams often do a great job of forming early cult communities because of an extremely low cost basis for early entrants + widely distributed supply for all the coins. Best examples of this imo are $WIF & $MICHI, very active communities where the market cap was also extremely low at launch. The risks with these coins is that on average they are much more likely to fail early on because all snipers are trying to get out as soon as possible & there aren't any whales or a team with vested interest in the project doing well long term.

If anybody could give context on $DOGE & $SHIB please do in quotes

snipers

I'm honestly not the best person to talk about this in detail, as I don't snipe early launches, but know people who do. With snipers they usually don't care about what the project even is, they are just trying to be first in & immediately out if there's enough liquidity to exit. A lot of the projects that don't have organized teams die because of this if they have a large % of the supply sniped at launch and then they just insta sell all of it & mess up the chart.

Good example of this was the ETHWIF derivative that launched a few months ago, many wallets bought immediately on launch and sold hours after for six figures of pnl.

90% of all dex launches wont get over $5M mcap, reasoning is most of these dev teams are anon & are very cool w/ making quick profit, also why this CTO (community takeover) narrative is so popular bc dev often insta sells.

whales

Every coin that goes 0-> billions will need whales at some point to push price higher, what typically will happen with the memecoins is that community will form early & then once the meme has reached escape velocity on attention and virality it'll get above $100M market cap, once they can consolidate above $100M market cap is when you'll see larger players positioning since there is enough liquidity to build sizable positions. Also, the early entrants to these memes have to be diamond handed and not sell once they do become whales from holding at such an early cost basis. These cult community holders as just as vitally important for the project as everything else.

fin

tldr: every coin has a team, there's sliding scale of how organized they are, & every coin has snipers + whales, very lucky combination of all these different things is necessary for billions+ whether they are the same parties or different