长夜

Better late than never

[长夜 @audsiui57610]

@MaxForAI @Baidu_Inc 这有人夸你呢

[长夜 @audsiui57610]

@nahcrof https://t.co/9j1VZcbk54 你试过这个吗

[Tencent Hy @TencentHunyuan]

We compressed Hy4-preview from 1.5TB to ～200GiB GGUF and it still works well !

Meet MIX-STQ1_0.The trick isn’t just going low, it’s deciding where: calibration data picks each layer’s bit-width, some down to 1.31-bit STQ1_0, some up to 2.06-bit IQ2_XXS. Same budget, lower error.

Accuracy barely moves vs BF16
📊 MCP Atlas 83.7→83.2
📊 SWE-Bench multi 82.9→81.3
📊 MRCR 81.3→81.1
📊 IFBench 73.5→72.5

See the details on HF : AngelSlim/Hy4-preview-GGUF

Weights & low-bit GGUFs 👇
https://t.co/9uM9NT9Wem

#LLM #Quantization #llamacpp #Hy

[长夜 @audsiui57610]

@rnrn45936454 @hostessubacti @KFCQZ 太是了，你下次让中国政府多派点技术人员去尼泊尔境内做监测吧

[长夜 @audsiui57610]

@rnrn45936454 @hostessubacti @KFCQZ 不懂可以仔细阅读下新闻，西藏吉隆泥石流源于尼泊尔境内冰崩，再看看泥石流的速度，这种灾害预警是很难做的

[长夜 @audsiui57610]

@BitcoinIntelX yes

[长夜 @audsiui57610]

@KeenableAI 速度很快，免费层级也很慷慨，爱死了

[长夜 @audsiui57610]

@InferXai 你们会部署这个开源模型吗

[长夜 @audsiui57610]

@shenfanlaogou 这是人类的审美吗

[长夜 @audsiui57610]

@jakevin7 这个派生很有意义

[长夜 @audsiui57610]

@alexgraveley rust and typrscript

[长夜 @audsiui57610]

@InferXai 我刚购买，体验很不错

[长夜 @audsiui57610]

@taohe669360 @minimax 作为minimax最忠诚的粉丝，看到这个很高兴，希望文档能完善完善，现在很多配置都不知道怎么做，比如mcp

[长夜 @audsiui57610]

@theo @thdxr linux用户肯定是有男朋友

[长夜 @audsiui57610]

@jakevin7 大佬，询问下，如果两次api请求回传的tools数组不一样会影响缓存吗

[长夜 @audsiui57610]

@thdxr 我要写个 shadus 了

[长夜 @audsiui57610]

@AnthropicAI fuck you

[长夜 @audsiui57610]

@KS_1013 冷知识，你可以选择不用

[长夜 @audsiui57610]

@mattpocockuk Good, why isn't there OpenCode?

[长夜 @audsiui57610]

@RyanLeeMiniMax 支持，看好minimax，最具有活力的企业

[长夜 @audsiui57610]

@WeDeserveJ4g6 @BRICSinfo Yes, even if he raped your little daughter, you still want him to live in prison on your tax money.