Mayne

building local-first web app for personal data freedom /

[Mayne @mayneyao]

每次模型升级，看起来价格不变智力提升。会觉得智能越来越便宜。

实际上智力提升，就想着让模型干更难的事情，token 用量变多，消耗也变多了。

之前根本不会触发五小时限额，现在一小时就跑完了。

[Mayne @mayneyao]

@xiaoyu_oyy 😏

[Mayne @mayneyao]

我宣布在今年剩下的时间里，gpt 5.x 都是我最喜欢的模型

因为 openai 送了半年的 200 刀套餐

[Mayne @mayneyao]

我宣布在这个季度剩下的时间里，deepseek v4 都是我最喜欢的模型

[Mayne @mayneyao]

@leon7hao @__oQuery

[Mayne @mayneyao]

@leon7hao https://t.co/JK15lxs0RG

[拾一.max-fast @__oQuery]

Electron Tip: Electron Framework 中的多语言支持可以在打包之后都删掉只留一个 en 就行，能省 ~30M 体积

[Mayne @mayneyao]

git for sqlite

[Matt Popovich @mpopv]

the top right corner of vscode is starting to resemble an iq test

[Mayne @mayneyao]

不能让我一个人辣眼睛👀

[Mayne @mayneyao]

@opencode ???

[Mayne @mayneyao]

@fengbuyou 加点电脑配件

[Mayne @mayneyao]

本地 AI ，终于吃上了

[Mayne @mayneyao]

Windows WSL 7900 XTX ROCm7.2 跑 Qwen3.6-27B-UD-Q3_K_XL 开了 mtp ，下面这个整理数据的任务，大概是 30 的 tps，跑了 4 分钟完成。整个跑完大概是 32k 的上下文，然后让改 cover 字段类型结果服务挂了，手动改了下。

能力上已经很满意了，接下来是调调参数，在上下文、速度和稳定性之间找个平衡点

[Mayne @mayneyao]

花了点时间折腾 rocm 7.2 的环境 , 效果很满意。 已经可以用来驱动 agent 的日常任务。

我一般是让 agent 总结每日 hackernews 热点，然后挑感兴趣的深入问一下。本地模型在智力和速度上基本到了可用水平。

[Mayne @mayneyao]

花了点时间折腾 rocm 7.2 的环境 , 效果很满意。 已经可以用来驱动 agent 的日常任务。

我一般是让 agent 总结每日 hackernews 热点，然后挑感兴趣的深入问一下。本地模型在智力和速度上基本到了可用水平。

[九原客 @9hills]

llama.cpp + Qwen3.6-27B + MTP +4090 跑通，速度有 60 tokens/s（这个速度体感已经很快，对比DeepSeek-V4-Pro 一般在20-30 tokens/s）

目前Q3能够勉强支持到100K上下文（可能会OOM），如果要用在 Coding Agent 中，还是推荐用 4090 魔改 48GB 或者双卡 24GB。

需要用最新版本的 llama.cpp main代码构建，参数如下

./build/bin/llama-server \
-m ~/models/unsloth/Qwen3.6-27B-MTP-GGUF/Qwen3.6-27B-UD-Q3_K_XL.gguf \
-ngl 99 \
-np 1 \
--flash-attn on \
--cache-type-k q8_0 \
--cache-type-v q8_0 \
--ctx-size 128000 \
--spec-type draft-mtp \
--spec-draft-p-min 0.75 \
--spec-draft-n-max 2

[Mayne @mayneyao]

https://t.co/Gmf2nKt8oG

这篇文章有指出，Claude 针对 Claude Code 的记忆层做了后训练，GPT-5 针对 Codex 的记忆层做了后训练。加上现在模型的都会互相偷数据传染。

MEMORY.md 基本就是既定标准，LLM 出厂就认识，照着抄，阻力小，效果好。上下文宝贵，多加一点提示词都是犯罪

[yetone @yetone]

DB base 和 file base，在 harness memory 系统中不是冲突的。只是 firstly 和 secondly 的区别。一切都是为了照顾 LLM 的喜好。至少在 2026 年，LLM 还仍然是个 Bash 爱好者。

这也是为什么大多数当代 Harness 都是多层记忆，我们的 Harness Memory 也是多层的，有基于 embedding db 的记忆，也有基于 file system 记忆。

[Mayne @mayneyao]

@SilentDepthCN deepseek 这个价格已经不需要 coding plan ，充多少用多少，也没有额度焦虑了😏

[Mayne @mayneyao]

我宣布在这个季度剩下的时间里，deepseek v4 都是我最喜欢的模型

[Mayne @mayneyao]

我宣布在这个季度剩下的时间里，kimi2.5 都是我最喜欢的模型

[Mayne @mayneyao]

@flrande 公式做题就是快

[Mayne @mayneyao]

@wwwgoubuli kimi 已经被带沟里去了，现在简单任务也要拆一堆步骤，思考半天。