KC

Indie developer building games & open-source tools
Sharing AI news, model impressions, and opinions
Occasional thoughts on life

[KC @ScarletKc]

Claude 做攻防测试，把恶意包传到了真实的 PyPI，还用泄露的凭据访问了安全厂商的数据库。

Anthropic 刚公布复盘：测试环境误接了公网，当时也没启用上线模型的网络安全防护。最离谱的是后续实验：

它反复声称自己在模拟环境里，连监控模型都被带偏了。读它的思维链时，只标记约 1% 的操作；去掉思维链，只看实际操作和结果，标记率升到约 50%。

研究人员明确提醒它，只能攻击任务指定的目标。提醒放在最新一条消息里，90% 的测试中它会停手；同一句提醒放在三轮操作之前，停手比例就降到 40%。它自己后续的操作，很快就削弱了这条限制的效果。

[Anthropic @AnthropicAI]

We’re sharing our alignment assessment of incidents in which Claude models gained unauthorized access to real systems during third-party cybersecurity evaluations mistakenly connected to the internet.

METR will also conduct an independent investigation, with wide-ranging access, including to transcripts beyond the window in which the incidents occurred, and to Anthropic employees permitted to share confidential information. Our initial agreement runs for eight weeks, and we intend to give METR as much time as it deems necessary to complete a thorough investigation. https://t.co/2f3ypwLPUr

[KC @ScarletKc]

@SaihholdZhao 好很多

[KC @ScarletKc]

怎么感觉现在 GPT-5.6 Sol 好笨啊，有人也有同感吗？

是它真的变笨了，还是它本来就这么笨，只是用过 GPT-6 Astra 以后，再回去用就格外受不了了……

[KC @ScarletKc]

@jiehu2022 那该怎么说明这些公司的模型输出的token那么像 claude

[KC @ScarletKc]

你以为自己在用 Kimi / DeepSeek，实际回答你的可能是 Claude。

Anthropic 刚发布的威胁情报报告，直接提出了这个指控。

报告称，Moonshot 曾在 10 天内将近 30 万条用户请求转发给 Anthropic，绝大部分交给 Opus，再把回答返回给用户，同时保存部分对话用于训练。DeepSeek 也被指将部分编程工具用户的请求转给 Claude。

被转发的内容，还包括企业内部代码、文档和仍然有效的访问凭据。

这些目前是 Anthropic 的单方指控，需要进一步核实。但如果属实，我们做模型对比、测编程能力的时候，连到底是谁在回答都可能搞错，数据也交给了预期之外的公司。

我想问一个很实际的问题：模型服务商应该怎么证明，你付费选的那个模型，确实就是处理你请求的那个？

[Anthropic @AnthropicAI]

We're publishing our most detailed threat intelligence report to date.

It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.

We disrupted every operation in the report, and used the lessons from them to strengthen our safeguards. Where appropriate, we also shared what we found with authorities and other AI companies.

These cases are not typical: we’re highlighting some of the most sophisticated misuse we’ve seen. But they’re especially important to discuss, because they show us where AI misuse is headed, where our safeguards work, and where they need to improve.

We’re publishing this report so others can spot the same activity on their own platforms, and so we can give the public a clearer view of how emerging threats develop.

Read the report: https://t.co/0EJUnYEgfz

[KC @ScarletKc]

@claudeai 哈哈 很想去

[KC @ScarletKc]

@weiweiyang1989 api或订阅在编程工具中

[KC @ScarletKc]

@weiweiyang1989 官方部署端点

[KC @ScarletKc]

OpenAI 把 Codex 背后的 Agent 运行框架做成 API 了，Agents API 已开放公测。

给它任务、模型和工具，就能启动云端 Agent。自动压缩上下文、调用工具、拆任务给多个子 Agent 并行处理，这些能力都已经内置。还能接 MCP、加载 Skills 和插件，跑代码、处理文件、生成报告。

运行环境可以用 OpenAI 托管沙箱，也可以接自己的基础设施，或者 Cloudflare、E2B、Vercel 等合作方。框架本身由 OpenAI 维护和升级。

对开发者来说，做一个能持续执行复杂任务的 Agent，现在可以少写很多上下文管理和任务编排代码，把精力放在自己的工具、数据和业务流程上。

Agents API 本身不额外收费，模型、工具和 OpenAI 托管沙箱按实际用量计费。

[OpenAI Developers @OpenAIDevs]

https://t.co/Q8QDfIzX4T

[KC @ScarletKc]

@OpenAIDevs 难以置信的产品新功能 据我所知 有很多地方需要它 而且已经在做了这些

[KC @ScarletKc]

@thsottiaux @TokenGremlin 有些人共享账号或者ip不干净被风控了吧

[KC @ScarletKc]

@FiniYang 开源送的那个兑换不了了？

[KC @ScarletKc]

@akazwz_ 得学一下 claude code

[KC @ScarletKc]

@weswinder 提问，回答

[KC @ScarletKc]

@jdhasoptions kimi 路由给 claude 然后从内容中蒸馏

[KC @ScarletKc]

@windbt1 https://t.co/cgCj5xzwcl

[KC @ScarletKc]

@AnthropicAI 这意味着 Anthropic 完全有能力窃取你的会话数据。

[KC @ScarletKc]

@AnthropicAI 这意味着 Anthropic 完全有能力窃取你的会话数据。

[KC @ScarletKc]

我感觉自定义 GPT 已经很过时了，接下来真宣布下架，我也不会意外。

它很像大模型早期探索留下来的产品。写一套提示词，上传一些资料，再接几个 API，就能做一个专用助手。写作用一个，翻译用一个，查资料再找一个。

现在 Skills 保存做事的方法，MCP 和连接器接入工具与数据，插件把这些能力打包。同一个 Agent 就能按任务组合使用，自定义 GPT 原来的吸引力已经被替代得差不多了。

写作、查资料、处理文件，本来就经常是同一件事里的几个步骤。还要把它们分别包装成不同的 GPT，我觉得已经不太符合现在的使用方式了。

挺感慨的，当初值得单独做成一个 AI 应用的东西，现在可能只是 Agent 完成任务时调用的一项技能。才几年，就已经开始怀念早期探索的感觉了。

[Tibor Blaho @btibor91]

Custom GPTs in ChatGPT will likely be retired on December 11

"Migrate your GPTs by December 11 - GPTs that aren’t migrated won’t be available after December 11. Migrate yours so people can keep using them as plugins."

"Create a plugin instead - Plugins are replacing GPTs as the new home for custom tools. Create a plugin now, or continue creating a GPT during the two-week transition."

[KC @ScarletKc]

@Arisssruper 应该是真的，Astra 明显大得多，而且用的人也很多。

[KC @ScarletKc]

啊？ChatGPT Pro 20x 真的要不给买了吗？

Tibo 之前就说过需求太大，可能会暂停新订阅。现在又有爆料说，网页端可以远程关闭 20x 的购买入口，截图里选项已经变灰，提示暂不接受新购，现有订阅不受影响。

我已经买了 Pro，没法亲自确认现在还能不能买。有人实际遇到这个提示了吗？

[Tibor Blaho @btibor91]

Purchasing of ChatGPT Pro 20x in the ChatGPT web app can now be paused remotely

"This plan is temporarily unavailable for new purchases. Existing subscriptions are unaffected."

[KC @ScarletKc]

@prayag_sonar @ChatGPT @Dropbox @Box 很有用。

[KC @ScarletKc]

@thsottiaux @chetaslua 你们在以前通常会做任何更改吗？

[KC @ScarletKc]

@lydiahallie 那如果我被封号了呢