S68S

➡️ 🇨🇦 🇺🇸 When Geo Location does not matter much. 😀
Wandering around between East Asia and North America.

[S68S @i_loder]

@WanderingVan6 在大马开这个车当属有钱的那个类别。

[S68S @i_loder]

@anpho 请等下，三哥三嫂在用嘴努力修呢，正在猛蹬Claude，把Claude也给蹬挂了

[傲慢 @bei351009016]

二次元绅士的春天来了。

这可能是Qwen 2.1 image目前最好的动漫NSFW lora。

作者足足手选了5万张素材用来训练，

LoRA本体0.4GB，但要配一个16GB的去拒答版Qwen3-VL文本编码器一起用，

提示词要用fusal style.开头，按主体、姿势、光照分块写，强度从0.7开始调。https://t.co/TyQK1tlfCn

[S68S @i_loder]

@leoyerrrr hope that the saga of Nvidia continues without him that oversees everything.

[Bojie Li @bojie_li]

非常棒的研究，根据开源权重推测预训练是在什么卡上做的。我已独立证实 DeepSeek V4 Flash 和 Minimax M3 是在 B200/B300 上预训练的，DeepSeek V4 Pro 和 Kimi K3/K3.1-Pro 是在 GB200/GB300 上预训练的，跟文中的结论相符。

原理是预训练开始的时候随机初始化权重，GPU 会用大量的并行线程来做，例如 H200 有 270,336 个线程，B200 有 303,104 个线程。每个线程都会用一个随机数发生器顺序生成初始权重，因此整个初始权重矩阵就是条带化的，条带宽度就是 GPU 的线程数量。可以看到，不同代的 GPU 线程数量都是不同的。

文中主要讲的是 SM 数量，因为大多数 NVIDIA 数据中心 GPU 都是每个 SM 2048 个线程，SM 数量乘以 2048 就是线程数。但消费级的卡很多不是这样。更准确的说法是直接用每 GPU 的线程数。

有人会问，模型训练之后权重不就改变了吗？首先，一部分没人碰的 token 权重是不会改变的，仍然保持初始状态，这就成了本文最强的证据。据此，甚至可以恢复训练用的原始 seed，例如 DeepSeek 在 V3 和 V4 Flash 中都用了 953049583 这个 seed，而 Kimi K3 的 seed 是 20256586。其次，即使是被训练过的权重，也是在原有的权重基础上微调的，大多数初始权重的相对大小顺序仍然能保持。

用这个推测随机数条带宽度的做法，不仅可以推测大多数开源模型是在什么卡上预训练的，我自己在 RTX Pro 6000 上预训练的小模型显示是 288,768 个 thread，在 H200 上预训练的小模型显示是 270,336 个 thread，都是精确匹配的。后训练目前看来不会影响。

[S68S @i_loder]

@bailyLU 这个不是realid的a\也认？

[Leo @Leonajardinho]

My wealthy uncle bought a massive private estate in New Jersey and got hit with an $80,000-a-year property tax bill.

Most people would just complain and pay it.

Instead, he fenced off a tiny corner of the property, brought in 8 goats, planted five cheap pine trees, and started selling bundles of firewood out of the back of a pickup truck.

When the town tax collector showed up for his annual inspection, his jaw dropped. Right next to luxury manicured lawns, a guy was stacking hay and selling logs.

The collector turned bright red and yelled that you can't classify a multimillion-dollar luxury estate as a working farm just by parking a few goats near the fence.

Except when they pulled up the state tax code, the county couldn't do a single thing about it.

Under New Jersey's Farmland Assessment Act, any property over 5 contiguous acres that generates at least $500 to $1,000 a year selling wood, hay, or livestock qualifies for agricultural tax rates.

By keeping 8 goats and selling a few hundred dollars worth of firewood, his $80,000 property tax bill legally dropped to $600 a year.

Rich people don't work harder to dodge taxes….. they just read the exact loopholes written into the law while the rest of us get crushed by standard rates.

[S68S @i_loder]

let us see how this develops, but to fire the entire board might be very hard, while reinstate the previous CEO is also very challenging...

[zack @zack_overflow]

BREAKING: hundreds of NVIDIA employees have signed an internal letter demanding the reinstatement of Jensen Huang as CEO and the resignation of the board

[CuiMao @CuiMao]

嘿，Jensen！ 此片献予你！
我是一名来自中国的 AI 开发者，你一定会回来的对吧。对吧
@JensenHuang

[麦麦提 @shengtang135754]

兄弟们，为了更方便，我直接把我的全套配置打包上传到GitHub了，供你们一键复制我的配置👇👇👇

[S68S @i_loder]

@eternoveritas 有TSMC就行

[S68S @i_loder]

this is magic.

[Michael Guo @Michaelzsguo]

Wow，这都能测出来！！

中国的 DeepSeek、Kimi、MiniMax、蚂蚁等多家公司的模型，居然都被测出使用过被禁售的 NVIDIA 最先进的 Blackwell GPU！！

Will Depue 从公开的模型权重中，反推出了模型初始化时使用的 GPU，甚至连随机种子都找出来了。

原理很巧妙：训练大模型之前，需要先给数以亿计的参数赋予随机初始值。这个过程通常由 GPU 执行，使用一个随机种子来生成数字。

关键在于，即使使用相同的随机种子，不同架构的 GPU 也可能因为随机数生成算法和执行方式不同，产生不同的数值排列。

这就像给模型留下了一枚“硬件指纹”。更神奇的是，模型经过海量数据训练后，部分参数仍然保留着最初的数值，让人有机会从最终权重中追溯初始化时使用的硬件。

他搜索了超过 6 万亿种组合，称这四家公司的多个模型都匹配到了 Blackwell。

他还用真实硬件进行了验证：在 B300 上使用找回的随机种子，逐位还原了 DeepSeek-V4-Flash 中保留下来的初始权重。

连 DeepSeek 的随机种子都被他公布出来了：953049583 😂

[S68S @i_loder]

@m0d8ye 会有人抢你的

[S68S @i_loder]

@marcus_s_deng 估计没一家大模型厂商敢说自己的原始书籍来源是完全合规的吧。

[S68S @i_loder]

@TimSweeneyEpic Tim, there maybe a come back story in another form for Jensen.

[S68S @i_loder]

@0427SMtieshou 忘记了新加坡的来历了吗？

[S68S @i_loder]

@missuo LA很多都是多次

[xsser @xsser_w]

默认下载的agy 还是很。。。一言难尽，我让fable52帮我优化了下，你们直接抄袭答案就行了。 官方的配置也是牛逼，不优化就丢出来了。怪不得agy会那么慢。其实很多搜索任务完全不需要high级别的思考的。。。这些都没优化 慢的起飞

[S68S @i_loder]

@fankaishuoai 总统染指实习生都没问题，

[S68S @i_loder]

@luoleiorg unifi, 应该可以搞定，功率小一点，多布设一些点，MIMO规划下，保证就近连接，每个AP服务的设备不太多应该撑得住。