Joie Lee

PhD student at HKUST, crypto&AI enthusiast.

[PsiACE @repsiace]

最近 Jev 还挺受关注的，社区上也有很多各种各样的方案，比如 Laya、SemIf 等。

我也搞了一个可以在家用显卡上训练和运行的 0.8B 多模态决策模型 Dohnuts-0.1.0-0.8B 。用一张 7900 XTX 24 GB，完成了数据准备、后训练、校准、评测和推理的完整流程。

Dohnuts 基于 Qwen3.5-0.8B，参考 Laya 的 RLCD 方法进行后训练。它支持文本和图像，通过一次前向传播，并行回答针对同一输入的多个独立问题，返回选择、分数和概率。

目前，Dohnuts 在 26 个测试任务组上的宏平均准确率为 78.21%；在 JevBench 的 231 道公开题目上达到 65.80%。按各模型原生上下文设置比较，高于已测的 Laya 多语言和 Laya Vision 检查点。同卡 BF16 热缓存测试中，文本、图像单问题延迟中位数约为 15 ms、24 ms。

代码、权重、数据处理方法和完整训推流程都完全公开，方便本地复现和继续训练。

名字来自霍默喜欢的甜甜圈。D'oh! But dohnuts.

[Joie Lee @joielovecrypto]

HK匯豐是只有一個customer service嗎，四十分鐘了，電話沒人接.......

[Joie Lee @joielovecrypto]

有人说我是ADHD，一查，居然还对号入座了......

[Joie Lee @joielovecrypto]

A streaming event bus whose routing, subscription and consumption are decided by a probabilistic judge. The reference judge is TypeSafe AI's Jev (System One) model: send it a payload and a set of typed questions, get back calibrated probabilities instead of prose.

https://t.co/t6j0H95nEL

[Joie Lee @joielovecrypto]

GM, It's growth hacking time!
Who is still active there, let's make connection!

#蓝朋友

[Bojie Li @bojie_li]

好多人觉得 Jev 非常牛逼，其实就是一个分类模型（在《图解大模型》里面称为表示模型，作者认为生成模型开始流行后，很多人就忘记了表示模型）。

达到这么低的推理延迟和成本也是很容易的。只要 prefill 一次，并行针对每个问题 decode 一个 token，输出 logprob 就行了。

当然，由于 RLHF 带来的分布崩塌，现在 LLM 输出的 logprob 并不能作为置信度。这就是为什么 Typesafe 采用了 RLCD，其实在学术界早就有 RLCR。

我把它加入了《深入理解 AI Infra》的算例，读过这本书的人肯定能一眼看出它该怎么实现。

[Joie Lee @joielovecrypto]

推荐，针对这几天沸沸扬扬的DarkSword攻击，有人写了分析文章，并且分享了他自己的实现，ClearSword。
https://t.co/yf66IJHzcf

[Joie Lee @joielovecrypto]

最近的体验是，Fable明显比GPT5.6的输出质量高。GPT系列现在又慢输出的黑话又多，乱七八糟。

GPT6还没怎么用，不好评价。

[Joie Lee @joielovecrypto]

Ratatui is really the go-to tool for rapidly building local TUI dashboards！！

[Joie Lee @joielovecrypto]

@NFT_Chen 搞个SVM玩贪食蛇岂不是更快？这种过于简单的决策什么都证明不了吧.....

[Joie Lee @joielovecrypto]

为什么Pendle上会有NVDA，它的YT是怎么来的......

[Rohan Paul @rohanpaul_ai]

A new benchmark called JevBench just dropped.

for models whose output is a bounded software decision rather than open-ended prose and follows TypeSafe’s 15 Sept release of Jev, which takes application state plus fixed choices and returns a typed answer with probabilities instead of prose.

This benchmark's score deliberately combines Intelligence, Calibration, Speed and Cost because deployment can fail even when raw accuracy is high.

e.g. GPT-5.6 Luna records substantially higher hard-case accuracy than Jev 1.13.0, yet Jev leads the composite because the benchmark also prices latency, calibration and cost.

The geometric mean prevents exceptional performance on 1 axis from fully compensating for a weak one.

The result is evidence about a narrow typed-decision workload, not evidence that Jev is generally more capable than GPT-5.6 Luna.

[Joie Lee @joielovecrypto]

@Assassin_Malvo 哈哈哈哈，喊完后通常，通常会跌，看了好几个线都是这样

[Joie Lee @joielovecrypto]

Goal tonight, do research about pendle, trading meme is boring...., it's time back to DeFI.

[Joie Lee @joielovecrypto]

@omarsar0 verify goal? Is it possible to use jev check hallucination?

[Joie Lee @joielovecrypto]

Another note about X's open-sourced algorithm, worth to read

https://t.co/qIjyUInkuz

[Joie Lee @joielovecrypto]

来自Grok的吐槽....还是不小心写得太硬核了吗

[Joie Lee @joielovecrypto]

一条帖子，从你点击 Post 到出现在陌生人的 Timeline，中间要经历什么？

它是如何被分类的
它是如何被打标签的
如何决定哪些用户能够看到？

我顺着X的核心算法，逐步追溯，抽丝剥缕，将整个细节呈现在你的面前。

这是一场堪比小蝌蚪找妈妈的艰难旅程。 https://t.co/KDPUj2fMBr

[Joie Lee @joielovecrypto]

居然没有出现广告，X让我心寒

[Joie Lee @joielovecrypto]

一条帖子，从你点击 Post 到出现在陌生人的 Timeline，中间要经历什么？

它是如何被分类的
它是如何被打标签的
如何决定哪些用户能够看到？

我顺着X的核心算法，逐步追溯，抽丝剥缕，将整个细节呈现在你的面前。

这是一场堪比小蝌蚪找妈妈的艰难旅程。 https://t.co/KDPUj2fMBr

[Joie Lee @joielovecrypto]

1min, 30s, 60s, 48hr, let the bullet fly~

[Joie Lee @joielovecrypto]

任务已达成，Stay active, stay connect

https://t.co/ViDQMKzgLU

[Joie Lee @joielovecrypto]

明天的任务：研究X的two tower推荐算法。
看看能不能做到根据帖子的内容，和关注结构，迅速的判断内容是如何被推荐算法捕获并传播的，敬请期待。

https://t.co/dyNfQIyXMt