danielw

主业是硬件销售， AI + 销售/营销/GTM
AI/硬件原理和 AI/Agent 落地
banner 是在西班牙交换时游玩的古根海姆博物馆, Bilbao

[danielw @dddanielwang]

做了一个网页(https://t.co/0PKDVJazcM)展示(DeepSeek) ViT 的工作原理，就是图片输入怎么参与推理的，欢迎大家的批评意见：

RGB 图像
归一化
切成 patch
块内展开
Patch Embedding
网格展开
视觉编码
Pixel Unshuffle
Projector
进入语言模型

[danielw @dddanielwang]

如果你想买光刻机，可以看这条，感受微观世界的魅力

https://t.co/LsbASRrK9q

[danielw @dddanielwang]

乔红的硬件视频，每天下班在地铁上来一期，真是神清气爽

[danielw @dddanielwang]

乔红的硬件视频，每天下班在地铁上来一期，真是神清气爽

[danielw @dddanielwang]

@CoooolXyh 7号病房吗？看到这个域名已经害怕了

[danielw @dddanielwang]

@leon7hao 手里的安卓手机变得愈加温暖

[danielw @dddanielwang]

例如，块内展开与patch embedding：

[danielw @dddanielwang]

做了一个网页(https://t.co/0PKDVJazcM)展示(DeepSeek) ViT 的工作原理，就是图片输入怎么参与推理的，欢迎大家的批评意见：

RGB 图像
归一化
切成 patch
块内展开
Patch Embedding
网格展开
视觉编码
Pixel Unshuffle
Projector
进入语言模型

[danielw @dddanielwang]

OpenAI is nothing without its Chinese users🥲

[Claude @claudeai]

A thread of early experiments with Claude Fable 5.2:

A 3D model of a cell, built entirely from code one organelle at a time. Built by @kevin_t_ngo.

[danielw @dddanielwang]

OPPO心力球怎么在京东天猫都搜不到，你们在哪买的😂

[danielw @dddanielwang]

the most fucking in-depth article, where i cannot push myself through a single paragraph

read this if you consider yourself an inference guy

[Vincent Zhong @vincentzed_cuda]

In FP8 and FP4, attention is no longer bottlenecked by matrix multiplication. It is bottlenecked by the transcendental and vector math of softmax and the on-chip memory traffic required to shuttle intermediate scores between execution domains:

(Article 🧵) https://t.co/A4ZEmbpCvo

That playbook just hit a physical wall of its own making. By scaling matrix throughput 2× to 4× per generation while leaving Special Function Units (SFUs), vector ALUs, and shared-memory bandwidth behind, chipmakers inverted the attention roofline.

In FP8 and FP4, attention is no longer bottlenecked by matrix multiplication. It is bottlenecked by the transcendental and vector math of softmax and the on-chip memory traffic required to shuttle intermediate scores between execution domains:

When the non-matmul work outruns the matmuls, low-precision attention stops being a GEMM problem.

The industry already voted with production code: drop tokens across the sequence (DSA/QSA via a cheap ReLU indexer with 0 SFU calls), then run the surviving tokens as 100% dense tiles at peak low-bit Tensor Core speed.

[danielw @dddanielwang]

@hboot0230 他们把grep的内部实现用向量数据库形式重写了，但不是开源的..所以参考意义也有限😂

[danielw @dddanielwang]

@dspirits147 感谢

[danielw @dddanielwang]

至今不知道PTC全称是什么，让我每次看见都无比痛苦，隔靴搔痒

[Geek @geekbb]

看了这个我都头痛，程序员当久了，总想创造更多的模式供大家选择，殊不知最简单的才是最强的。

[danielw @dddanielwang]

@leon7hao 原来如此，pi的codemode那种是吗 @grok

[danielw @dddanielwang]

@geekbb 我的理性脑还在发展中，努力克服一下😂

[danielw @dddanielwang]

一定可以做到的，对吗

[danielw @dddanielwang]

共勉
身体最重要

[Roland @ChainEpic]

群里面看到有个开发者去世了。心源性猝死

群友整理了他在群内的一些发言：
6 月 10 日 17:14：谈维护复杂项目，说“有AI帮忙都搞到心力憔悴”。
7 月 15 日 20:30：“还没用完了，晚上又要熬夜了。”
8 月 11 日 21:11：“连续两个要到期的重置，今天和明天都要熬夜加班了。”
8 月 27 日 20:19：“今晚不睡觉。”
10 月 23 日 03:07：“还一个三点到期的重置，赶紧又跑了50%重置成功。累死。”随后说“两小时内连着重置两次”。

其实死亡离我们很近，多给自己放个假。
希望大家都身体健康！

[danielw @dddanielwang]

加油..最多还有十一个月

[danielw @dddanielwang]

@HikariLanCN Perplexity不是最开始是这样的吗，DeepSeek 1776...

[danielw @dddanielwang]

@RikkaEV 东莞二中？😂