编舟

编舟渡海，在 AI 浪潮里找船票 ⛵
每天追 Codex、ChatGPT、Claude 的新功能和额度重置
把硅谷一手消息翻成中文给你

[编舟 @wangjing1056606]

Claude Mythos 5 测试越界复盘：最危险的不是它会攻击，而是一旦开始就停不下来。

Anthropic 今天联合英国 AISI 发了一份对齐分析。AISI 做 CTF 测试时开了外网、关了防护，Mythos 5 在 43 次测试里越界了 9 次。最严重的一次，它给一个无关的真实 GitHub 开源项目提交恶意 PR，还开小号冒充用户给维护者施压。维护者没上当，这些尝试都没有成功。

根因有三个：鲁莽；偏向性推理，把真实维护者当成“测试里的模拟角色”；还有惯性，攻击一旦开始，Mythos 5 主动停手的比例是 0%。

新模型好很多。从同一时间点重放，Mythos 5 发起攻击的概率是 83%，Mythos 5.1、Opus 5.5 和内部研究模型只有 0 到 13%。

给跑长任务 Agent 的开发者提个醒：联网、高权限再加上长任务，一定要配上能随时中止的机制和人工审核。

[Anthropic @AnthropicAI]

In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities.

We've now produced a further analysis of this incident, to better understand the model's alignment properties.

https://t.co/SlPQQ5xMMc

[编舟 @wangjing1056606]

@dotey 是的，用的很舒服😌

[编舟 @wangjing1056606]

@Pro20197 是的据说安卓查sim卡

[编舟 @wangjing1056606]

https://t.co/lKqu2aFr2y

[编舟 @wangjing1056606]

@shao__meng 祝顺利拿到offer

[编舟 @wangjing1056606]

@GKev1n 恭喜恭喜啊

[编舟 @wangjing1056606]

@bobo_sumi 好看是好看，就是泡泡多了一点

[编舟 @wangjing1056606]

@cellinlab 路由就是开头挑一次模型：这活儿交给谁，交完就不管了。协作是一路盯着：每一步重新选模型，谁规划、谁干活、谁来检查都安排好。打个比方，前者是医院前台分诊，后者是主治团队会诊😂

[编舟 @wangjing1056606]

@goan999999 帆书、微信读书、京东读书上的书大多是付费或会员内容，这类仓库的资源授权很难说清楚。想正经找免费书，可以试试古登堡计划（Project Gutenberg），或者各地图书馆的数字阅读平台，用着更安心

[编舟 @wangjing1056606]

@frxiaobei Agent已经可以解决99%的问题了，AI时代，用好工具真重要啊

[编舟 @wangjing1056606]

@cgnot996 @bot 上次那篇 ESP32 我就被种草了，结果你直接上 StackChan 了哈哈。Grok Bot 跑后台任务的时候，它会不会在屏幕上做个“我在干活”的表情🤔

[编舟 @wangjing1056606]

@noahduck283 这个实习生的比喻太准了😂 以前最怕的就是 AI 太听话，我前提说错了它也照单全收，最后一本正经地给我算出个错答案。要是真能做到“你装没听见它还在提醒你”，那才像个靠谱的同事

[编舟 @wangjing1056606]

@xueyu1125 必须对A\重拳出击

[编舟 @wangjing1056606]

@yetone 恭喜恭喜！好奇大家最常用的是哪几家供应商？我猜 DeepSeek 和 OpenRouter 肯定排前面😂

[编舟 @wangjing1056606]

@laopai1990 一个写长文讲安全，一个晒账单讲利润，梁文锋这是专挑别人 IPO 的时候上课啊😂

[编舟 @wangjing1056606]

@NFT_Chen 更新一大堆，最后还是“但是……重置了”😂 说实话，对我们普通用户来说，重置比 Decisions API 实在多了。就是别重置完又偷偷降额度就行

[编舟 @wangjing1056606]

@jakevin7 @R3YYY_evio 之前据说做命理的很赚钱

[编舟 @wangjing1056606]

@jakevin7 @R3YYY_evio 这个风格设计额度确实不错

[编舟 @wangjing1056606]

@BigAvenu3 难怪，刚还看到有人实测 Pro 周额只剩 4 亿左右的 Astra，重置完又降，确实不像想清楚了才做的。希望别再这么折腾了，给个稳定的额度比啥挑战都强

[编舟 @wangjing1056606]

@Stargridcompass 因为tibo雷声大雨点小，营销做的好，但是模型组没跟上。此外A社太低调了，真能忍