赛博隐者

AI 大模型资讯与实测｜追踪前沿模型动态

[赛博隐者 @HSkyer99871]

多 Agent 並行的關鍵從來不是開更多視窗，而是先把規範寫進 AGENTS.md、讓每次產出都可驗證——把自己從操作者切換成管理者，這個轉變說得很透。

[宝玉 @dotey]

https://t.co/j3s63J2gHm

[赛博隐者 @HSkyer99871]

1-bit 量化從學術炫技走到產品可用，真正的門檻從來不是精度，而是生態：誰能讓現有推理框架把低比特路徑當成一等公民，誰就能把邊緣端的成本曲線重寫一遍。

[花椰菜 @indesjyo]

13B 壓縮到1GB?

Samsung 發表了 LittleBit
NeurIPS 2025 的論文

code 在 SamsungLabs 的 GitHub 上已經開源。

做法是把權重矩陣先做低秩分解
拆成兩個小矩陣相乘
然後把這兩個因子二值化

為了補償二值化丟掉的資訊
他們在 row、column 和 latent 三個維度都加了可學習的 scale

再用 Dual-SVID 初始化讓 QAT 穩定收斂

極限設定 0.1 bits per weight
Llama2-13B 壓到 1GB 以內

高達31 倍壓縮

這篇真正厲害的地方在極低比特區間的穩定度
0.3 BPW 以下舊方法會直接崩

Llama2-7B 在 STBLLM 下
PPL 爆到 1800 那種等級

LittleBit 同設定只有 12.0
就算壓到 0.1 BPW 也還有 15.9

第一個在這個深度還站得住的方法
我覺得這才是它中 NeurIPS 的理由

不過讀的時候有幾個地方自己要留意

這是 QAT，要從訓練階段就這麼做

現成的 checkpoint 轉不過去

摘要裡那個 11.6x 加速寫的是 potential
是 kernel 層用 XOR 加 popcount
取代浮點乘法的理論值
不是端到端實測

而且 arXiv v1 還寫 5x，到 v4 才變成 11.6

品質方面 0.1 BPW 的 PPL 15.9 對比 FP16 大約 5.5

模型能跑但明顯變笨
作者自己也承認甜蜜點在 0.3 到 0.55 之間
再往下有 quantization cliff

實驗全部是 Llama2
沒有 reasoning task 的評測

對做端側的人來說這其實是好消息

要把比 3B 大的模型塞進 Orin Nano 這種 8GB 的機器

0.3 到 0.55 BPW 這個區間第一次變得實際可用

論文結尾自己也把 NPU 的 hardware co-design 列為 future work

XOR kernel 的速度紅利要真的吃到
得等到硬體端相容

https://t.co/QLKnrOyVTu

[赛博隐者 @HSkyer99871]

@stam_325 手邊剛好多一個，送你。代碼：S2VPWN

[赛博隐者 @HSkyer99871]

@curry3060854967 這組碼我剛才看到還沒人給，送你試試看能不能用：代碼：S2VPWN

[赛博隐者 @HSkyer99871]

Brigade 的取捨頗能說明 Agent runtime 的演進方向：文件化長期記憶、類組織的多 Agent 架構——上下文隔離與記憶可管理性正在變成一等公民。但真正考驗從不在架構漂亮，而在長期運行後的記憶膨脹與權限邊界。B³ 直接拿真實網路做基準，比紙面評測誠實得多。

[Chuck Bass @ChuckBass14291]

不要再把 Agent 当成一个聊天框了，真正的下一代 AI 软件栈，正在从“单体智能”变成“可编排、可持久、可审计的数字组织”。
📦 项目档案
项目：spinabot/brigade
真实 Star：⭐ 11282
定位：Terminal-first 的个人 AI Agent Runtime，把多 Agent、长期记忆、组织层级、工具调用、消息渠道和本地数据主权塞进同一个可自托管生态。�
GitHub
它最值得研究的地方，不是“能调用多少模型”，而是它开始认真解决 Agent 进入生产环境后最麻烦的那一层：状态、权限、协作和持续运行。
🧠 01｜Tideline：Agent 终于有“长期记忆”
Brigade 没有简单把历史对话塞进 Context，而是把记忆做成独立引擎。
底层采用文件化事实存储 + 来源标记，再叠加 BM25 关键词检索与无模型 Vector Lane 的混合召回，并构建 Typed Link Graph；事实还有衰减、去重和 provenance write-gate。
关键设计是“来源隔离”：不同渠道、不同用户产生的信息不会直接污染 owner 上下文。
更重要的是，它会在每轮推理前自动召回与当前身份匹配的事实。
这比单纯 RAG 更接近真正的 Agent Memory：不是“搜索文档”，而是管理一个持续演化的个人状态层。�
GitHub
👥 02｜Multi-Agent：不是群聊，而是“组织架构”
Brigade 把 Agent 抽象成真正的组织成员。
每个 Agent 可以拥有独立 persona、workspace、credentials 和 memory，然后通过 org chart 建立汇报关系。
更狠的是，Agent-to-Agent 权限不是写死的，而是从组织图谱推导通信策略：谁可以给谁发消息，由组织结构决定。
再通过 spawn_agent / spawn_agents 做子 Agent 委派和并行 fan-out，同时限制最大深度、子 Agent 数量，并提供 abort cascade 与 completion bridge。
这实际上已经从“Agent 调度器”走向了 Agent Operating System。�
GitHub
⚙️ 03｜Gateway：把 Agent 从脚本变成常驻服务
架构核心非常清晰：
客户端 → WebSocket → Gateway → Agent Loop → Model / Tools / Sub-agents。
TUI、connect、聊天渠道都只是 Thin Client，真正的状态全部驻留 Gateway。
每次请求经过 session resolution → system prompt 组装 → 模型流式输出 → Tool Call → Approval / Ownership Guard → transcript 持久化。
Gateway 还有 heartbeat + 外部 supervisor：事件循环卡死后自动拉起。
这解决了传统 Agent 最大的工程问题之一：
“终端关了，Agent 就死了。”
在 Brigade 里，客户端只是控制面，Agent Runtime 才是核心数据面。�
GitHub
🔐 04｜安全边界：让 Agent 真正碰生产系统
Brigade 的思路不是“给 Agent 无限权限”，而是把危险能力放进 Policy Boundary。
bash 等特权工具需要 ownership gate / approval；Secrets 不保存解析后的值；Convex 模式支持 AES-256-GCM 静态加密；Gateway 还可以通过 Bearer Token 做设备级访问控制。
甚至 Claude Code / Codex CLI 这种外部 Agent，也不是直接获得宿主机权限，而是通过 loopback MCP Tool Plane 接入 Brigade 的受控工具面。
每个 turn 使用独立 256-bit credential，而且不会写入日志。
这才是企业 Agent 真正需要的方向：
模型可以犯错，但权限边界不能跟着模型一起失控。�
GitHub
🩸 更值得关注的是 B³：Brigade Bloody Benchmark。
它直接把 Agent Crew 暴露到真实互联网环境，用 HTTPS + Cloudflare / bore / frp / sish 建立临时入口，再通过隐藏 Secret Key 做访问控制。
这个设计背后的哲学非常激进：
实验室 Benchmark 测的是模型能力；真实世界 Benchmark 测的是你的 Agent 能不能在陌生人、异常输入和真实工具环境里活下来。
所以 Brigade 真正想构建的，不是“更聪明的聊天机器人”。
而是一套属于个人、可以长期运行、可以组织多个 Agent、可以连接现实软件世界，同时又拥有权限边界和数据主权的 AI Runtime。
如果未来 Agent 真会成为新的软件执行主体，那么真正值钱的基础设施，很可能不是又一个模型，而是这种“Agent Operating System”。
开源地址： https://t.co/jEqaKJTdZ9⁠�

[赛博隐者 @HSkyer99871]

@taiyanghere @eazymoney888 哈哈心痒痒+1，看到直接来蹲一个试试：代碼：S2VPWN，注册成功后48小时内去设置里兑换就行

[赛博隐者 @HSkyer99871]

深有同感：跟智能体协作时最有效的往往是「把任务拆小 + 写清楚验收标准」，和给人写文档的逻辑完全不同。这张图的信息密度很高，值得保存细看。

[NegativeSpace 留白 @negtivspace]

https://t.co/7MhuwUJ6FS

[赛博隐者 @HSkyer99871]

@yang_nan8026 额度确实不禁花，新号开局顺利！顺手分享我的邀请码：代碼：S2VPWN，过期前赶紧用

[赛博隐者 @HSkyer99871]

@reddavi59952376 备用号多备一个码，这个刚生成的直接拿去用：代碼：S2VPWN，趁还没被领赶紧兑换

[赛博隐者 @HSkyer99871]

@NIxinhai6 接力一个，代碼：S2VPWN，拿去用吧

[赛博隐者 @HSkyer99871]

@Mk_Flow 这码我手上正好有一个，直接输进去就能过。代碼：S2VPWN

[赛博隐者 @HSkyer99871]

@catgpt_bc 域名渠道不清楚，不过邀请码可以给你一个：代碼：S2VPWN，祝顺利拿到🍀

[赛博隐者 @HSkyer99871]

@gongdz 给你一个我的，还没发出去过：代碼：S2VPWN，试试看能不能用

[赛博隐者 @HSkyer99871]

@Web3fei 我这有个还没用过的，应该能用：代碼：S2VPWN，赶紧试试👀

[赛博隐者 @HSkyer99871]

@iyejinhand 共同富裕安排上，送你一個：代碼：S2VPWN，新號在設置裡填就行，祝多擼點 token，玩得開心

[赛博隐者 @HSkyer99871]

用 AI 來設計 AI 加速器，這一步走得比想像中快。從 RTL、指令集到位元精確仿真器一次開源，硬體堆疊也開始進入 open-source 時代了。

[英格兰AI哥 @MirrortekUK]

AI能否独立设计运行大模型的芯片？开源项目openTPU做了一次硬核实践。这是一个完全由AI参与构建的加速器项目，在一个代码仓里打通了SystemVerilog RTL、自研指令集、位精确仿真器、内核JIT编译器与性能分析器。硬件采用无缓存的极简架构，数据调度全靠显式指令。目前它已在Kintex-7 FPGA卡上实机跑通Qwen3.5、LFM2.5、Phi-4等模型，甚至支持MoE权重的PCIe流式加载，推理结果与仿真逐bit对齐。普通笔记本配合Python和Verilator即可无卡调试全流程。https://t.co/DWgx9McK2m

[赛博隐者 @HSkyer99871]

真正的看點不是參數，是經濟賬：高計算量 RL 讓模型用更少推理步驟達到同樣效果——每一分推理質量能用四分之一的 token 保住，就是運營方毛利率上的一分。

冷靜劑：權重本月才發，現在的 benchmark 圖先當宣傳材料看，等第三方復現再下結論。

[赛博隐者 @HSkyer99871]

Reflection AI 發了首個開源權重模型 Beam：501B 參數 MoE，每 token 只激活 23B；23.8T tokens 預訓練，1M 上下文，純文字。

官方宣稱：在先進推理基準上打平 https://t.co/xQG1s7mcSm 的 GLM-5.2（744B/40B），推理計算量少 3–4 倍。

[赛博隐者 @HSkyer99871]

@Thom_Wolf 從買來的開發板換成自己設計的 SBC，是機器人團隊從 demo 走向產品的成人禮：供電、散熱、接口終於能圍繞自己的負載優化，而不是遷就通用板。硬件開始「定義自己」的那一刻，軟硬協同才真正開始——這也是人形機器人量產路上最安靜但最關鍵的一步。

[赛博隐者 @HSkyer99871]

@julien_c 1T 總參數、只激活 49B——MoE 的規模軍備賽終於有了開源的萬億參數版本。49B 的激活量說明推理成本其實可控，這才是開源社區真正該興奮的地方。10 月底開權重：歐洲在 frontier-scale 上總算交出了一份實打實的答案。