不再恐惧

多模态推理加速，AI加速器
---
为他人做些什么，直面问题，承担责任，拒绝摆烂

[不再恐惧 @hhh14484291]

写 always @(*)的时候，要保证所有分支赋值完整

组合逻辑 always @(*)，部分分支没有赋值

可能产生 Latch

时序逻辑 always @(posedge clk)

通常产生触发器

[不再恐惧 @hhh14484291]

@zackkkk76 @antiAIvo 哦哦哦 我现在正在学软硬件协同，AI加速芯片这样的

[不再恐惧 @hhh14484291]

x表示的是信号的输出不确定

[不再恐惧 @hhh14484291]

verilog笔记
输出信号——z
z表示的是高阻态，表示没有正确驱动

输出的位数和目标的位数不一致的时候会出现这个问题

下面mux21的这个out要和输入一致
module top_module (
input sel,
input [7:0] a,
input [7:0] b,
output[7:0] out );

assign out =sel?a:b;

endmodule

[不再恐惧 @hhh14484291]

如果out写成是1位的话，就出现z这个高阻态的问题了

[不再恐惧 @hhh14484291]

@kafkaup 现在还有前端后端之分了吗，不都是全栈

[不再恐惧 @hhh14484291]

@zackkkk76 @antiAIvo 大佬有做过硬件加速推理的内容相关吗，想交流一下~

[不再恐惧 @hhh14484291]

@antiAIvo 是的是的 Agent感觉和传统后端没有区别，还是LLM有意思

[不再恐惧 @hhh14484291]

双流->单流 就是先分后和，代表例子是：FLUX

[不再恐惧 @hhh14484291]

DiT的三种变种
条件进 block 的方式不止一种，DiT 论文给出三种变体：
adaLN-Zero条件变成缩放 / 平移参数
Cross-Attention条件作为 K/V 被查询 如WAN模型
In-Context 条件直接拼进 token 序列做联合注意力 如HunyuanVideo
双流->单流：前N步进行图像和文本的单独QKV，后N步将两者合并，共享权重

[不再恐惧 @hhh14484291]

分辨率翻倍：
1. 如果从512*512变为1024*1024的话，那么S就变为4倍，因为H和W都增加两倍了。
2. 因为self-attention是S的平方量级，所以self-attention的倍数变为16倍

[不再恐惧 @hhh14484291]

如何进行计算DiT模型的计算规模？

首先取决于序列的长度
也就是一个小patch的长度 也可以叫做token的数量。

第一步 经过VAE压缩变换的隐空间

第二步 对隐空间图片进行分块

第三步 加上文字的token数目M 作为条件编码

如果是视频的话，需要将frame帧数除以时间单位

[不再恐惧 @hhh14484291]

下面是完整的公式：
图像：S ≈ (H/c_s)·(W/c_s) + M （frames = 1）
视频：S ≈ (frames/c_t)·(H/c_s)·(W/c_s) + M （例如wan2.1,1token代表frames4 * H32 * W32）

[不再恐惧 @hhh14484291]

@antiAIvo 输出transform的知识点，学一点，输出一点，直到把所有的东西内容都掌握了，账号也出来了

[不再恐惧 @hhh14484291]

@wings1105 1 没做好不等于自己差
2 将任务拆分为小任务
3 及时进行休息

[不再恐惧 @hhh14484291]

@WorkSightHQ @grok give me source

[不再恐惧 @hhh14484291]

@laoyue1991 @wangyunWY0203 但是到了饭点，根本感受不到饿，是上一餐吃多了，还是没运动的事情，还是消化系统下降了

[不再恐惧 @hhh14484291]

@Limu8qtd 博主 吃素不好吗

[不再恐惧 @hhh14484291]

人生的頂級活法就是：你什麼都不要管！ https://t.co/ppWmeXsKWf via @YouTube

[不再恐惧 @hhh14484291]

@huoshan007 可能不太全吧