Zed

Long Live Local LLMs!!!
5090x3| 4090×2 | Strix Halo | R9700 | 7900xtx｜Setup in progress...

[Zed @ZedLLM]

@shimarin 看上去Niko好像在优化R9700。你要赚了！

[Zed @ZedLLM]

@coldniko It is a signal. BUY R9700!

[Zed @ZedLLM]

Strata这是干啥了，我就忙了一个星期没看，怎么prefill提高这么多。别更新了，我还想做点贡献呢。

[Zed @ZedLLM]

@darlysukie 这是个讽刺的账号。

[Zed @ZedLLM]

@axitek respect

[Zed @ZedLLM]

@Biggest All people can cook, but they still pay for cooked food.

[Zed @ZedLLM]

@Chromadera @Biggest 你是明显做过这个工作的。许愿AI就是这样的结果。

[Zed @ZedLLM]

@MinLiBuilds iq4xs比iq3s强很一些吗？不都说iq3s接近原生质量了吗

[Zed @ZedLLM]

@MinLiBuilds @lxfater 这卡啥要求，我记得老哥你不是4090 48*4呢吗

[Zed @ZedLLM]

我今天让本地模型做我的魔兽私服的管理员，把我气得要死。习惯于过度防御的模型，这种情景却防御不足。幻觉，决策错误，不做验证，无法有效的做好多跳推理，无法掌握所有条件和限制。哎，慢慢来吧。

[Zed @ZedLLM]

@servasyy_ai dgx spark价格暴涨主要是一堆币圈的营销号来炒作。

[Zed @ZedLLM]

@ivanalog_com 这个世界太美好了

[Zed @ZedLLM]

@realWeZZard 不是，怎么回事？这玩意不还没大面积发货呢，怎么就价格崩盘了？

[Zed @ZedLLM]

Gemini还是美国豆包，原来是个傻舔狗，现在是个没有感情的人工智障。

[Zed @ZedLLM]

@itsjustmarky 额，我一直都没用固定，他自己也挺沉的。这会是问题吗？

[Zed @ZedLLM]

@tamanekokoro 环境的事，还是上sol吧

[Zed @ZedLLM]

@chetanankola @OpenAI @claudeai @threejs @vibecodeapp 太牛逼了，简直就是大航海时代4的既视感。甚至更好的多。

[Zed @ZedLLM]

@realWeZZard 3090的nvlink太贵了。decode提升10%-15%。不支持原生fp8也是个问题。万元左右可以考虑r9700。优化还在进步。

[Zed @ZedLLM]

Please send this guy a Strix Halo, and preferably a couple of R9700s while you're at it. His Strata work really could help the AMD product community thrive. @AMD @ColbyCakesss @AzorFrank

[Niko Veit @coldniko]

Strix Halo is now officially supported 🥳
- AMD gpu improvements
- Multi GPU improvements (batching)
- Improvements on decode
- Turing improvements
- Intel Arc improvements

https://t.co/C56iibcypO