KayYan

Kay,China.Youth,Drinker.Software Silver Bullet.
颜开，皋城人。即加冠，善豪饮。匠软件，自诩银弹。

[vLLM @vllm_project]

Running DeepSeek V4 from @deepseek_ai on @vllm_project? Upgrade to v0.20.1 — 10+ bug fixes and optimizations, fully tested and verified by the open source community!

A huge thank you to @FireworksAI_HQ, @baseten, @novita, @lightseekorg, @daocloud, @nvidia, @redhatai and more for helping report, fix, and verify the stability and speed of vLLM. 🙏

🔧 DeepSeek V4 Productionization Reliability:
• Persistent topk cooperative deadlock at TopK=1024
• AOT compile cache import error
• Repeated RoPE cache initialization
• Non-streaming tool-call type conversion (DSV3.2/V4)
• torch inductor error on V4

⚡ Optimizations:
• Multi-stream pre-attention GEMM + configurable knob
• BF16 / MXFP8 all-to-all on FlashInfer one-sided comm
• PTX `cvt` for faster FP32 → FP4 conversion
• Integrated `head_compute_mix_kernel` for head computation

📖 Full notes → https://t.co/BXv7pl7z4y

[KayYan @yankaycom]

@ayakaneko @daocloud_io 好像是这个人github 熟练度太差，fork 该作者的时候，一不小心点击了 create PR.

[KayYan @yankaycom]

impress your audience with impress.js - a presentation tool based on the power of CSS3 transforms and transitions http://t.co/vBF5p6iN1o

[KayYan @yankaycom]

NoSQL反模式 - 文档数据库篇: 我们设计关系数据库Schema的都有一套完整的方案，而NoSQL却没有这些。半年 …继续阅读 » http://t.co/whv6KjbI

[KayYan @yankaycom]

2012年学习小结: 一转身就到2013了。读者新年快乐，希望吃到饺子的人都幸福。 新年伊始，笔者在想 …继续阅读 » http://t.co/pUsk0Mp4

[KayYan @yankaycom]

Mobile Analytics 101: How to get the most out of your mobile applications, a whitepaper from @gocountly http://t.co/syf1XA0Y

[KayYan @yankaycom]

Go-简洁的并发: 多核处理器越来越普及。有没有一种简单的办法，能够让我们写的软件释放多核的威力？是 …继续阅读 » http://t.co/xVyYBAb3

[KayYan @yankaycom]

Google Spanner原理- 全球级的分布式数据库: Google Spanner简介 Spanner 是Google的全球级的分布式数据库 (Globally-Distributed Database) 。Spann... http://t.co/CeLh9ENO

[KayYan @yankaycom]

Google Dremel 原理 - 如何能3秒分析1PB: 简介 Dremel 是Google 的“交互式”数据分析系统。可以组建成规模上千的集群，处理PB级别的数据。MapReduce处理一个数据，需要分钟级的时间。作为... http://t.co/xBt54Rk5

[KayYan @yankaycom]

Java使用"指针"快速比较字节: 如何才能快速比较两个字节数组呢?我将问题描述成下面的接口： public int compareTo(byte[] b1, int s1, int l1, byte[] b2, int s... http://t.co/3ywc0tR7

[KayYan @yankaycom]

HBase介绍PPT: Hbase介绍 http://t.co/Sc97HNki

[KayYan @yankaycom]

Amazon EBS架构猜想: Amazon EBS是专门为Amazon EC2 虚拟机设计的弹性块存储服务。Amazon EBS可以为Amazon EC2的虚拟机创建卷volumes，Amazon EBS卷类似没有格式化的... http://t.co/4OFJXWNg

[KayYan @yankaycom]

Linux大文件传输: 我们经常需要在机器之间传输文件。比如备份，复制数据等等。这个是很常见，也是很简单的。用scp或者rsync就能很好的完成任务。但是如果文件很大，需要占用一些传输时间的时候，怎样又快又好地完成任务就很重... http://t.co/CC3BFvIl

[KayYan @yankaycom]

内存究竟有多快？: 一般来说。CPU需要0个周期来访问其寄存器，1-30个周期来访问高速缓存，50-200个周期来访问主存。 对于Intel Core i7来说。这个值可以很具体。Intel Core i7的主频约在2-3G... http://t.co/tLcmkny4

[KayYan @yankaycom]

并发编程之巧用锁: 背景 程序都是跑在机器上的，并行CPU包含几个部分。 处理器核心。执行线程的设备。一个核心可以执行一个或多个线程(超线程) 互连线。处理器和处理器，处理器和储存器之间的通信通道。一般CPU分两种架构，SM... http://t.co/F7liy99u

[KayYan @yankaycom]

查询利器-bloom-filter详解: 布隆过滤器（Bloom Filter）是1970年由布隆提出的。它实际上是一个很长的二进制向量和一系列随机映射函数。布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率... http://t.co/vdfZiXjQ

[KayYan @yankaycom]

多核平台下的JAVA优化: 现在多核CPU是主流。利用多核技术，可以有效发挥硬件的能力，提升吞吐量，对于Java程序，可以实现并发垃圾收集。但是Java利用多核技术也带来了一些问题，主要是多线程共享内存引起了。目前内存和CP... http://t.co/sOV0dMzZ

[KayYan @yankaycom]

HBase中文官方文档:   HBase – Hadoop Database，是一个构建在Apache Hadoop上的列数据。Hbase有很好的扩展性，被认为是BigTable的一个克隆，可以存储数以亿计的行。 在Hbas... http://t.co/TPJwmXE3

[KayYan @yankaycom]

最小完美哈希函数简介: 什么是保序最小完美哈希函数 我曾经花了很多脑筋来找一个很好很完美的哈希算法，但都没有想到，最近看到了，掩不住一阵激动分享下。最小完美哈希函数是什么，要从定义说起，这个名字很长，一步步解释。 哈希函数 ... http://t.co/vcPzERu3

[KayYan @yankaycom]

Java调用外部程序技巧: 前些天使用Java调用外部程序的时候，发现线程会堵塞在waitfor()方法。 调用方法如下： Process process = Runtime.getRuntime().exec(cmd); ... http://t.co/9VdCNAkt