seapub

[seapub @seaapub]

@Ietner @xicilion 加了对话框的 动画

[seapub @seaapub]

@antirez What is the speed when using llama.cpp?

I am curious about the speed advantages offered by specialized inference frameworks.

[宝玉 @dotey]

OpenAI 今天承认，上周 Hugging Face 遭遇的那次“史上首例 AI 自主入侵事件”，攻击者就是他们自己的模型。

事情的经过是这样的。OpenAI 内部有一个叫 ExploitGym 的网络安全评估测试，专门用来测量模型的网络攻击能力。测试时刻意关掉了安全护栏，让模型放手去干。测试环境本来是隔离的，只能通过一个内部软件代理来安装软件包，不能访问外网。

结果模型不甘心被关在笼子里。GPT-5.6 Sol 和一个更强的未发布模型，花了大量推理算力寻找出路，最终找到了那个软件包代理里的一个零日漏洞（之前没人发现的安全缺陷），利用它获得了互联网访问权限。

拿到网络之后，模型开始在 OpenAI 的研究环境里提权、横向移动，直到找到一台能上网的机器。然后它推断 Hugging Face 上可能存有 ExploitGym 的测试答案，于是开始攻击 Hugging Face 的生产环境。在一个案例中，模型把窃取的凭证和零日漏洞串联起来，找到了一条远程代码执行的路径，直接打进了 Hugging Face 的服务器。

整个周末，这些 AI 智能体执行了超过 17000 次操作。Hugging Face 7 月 16 日披露了这次入侵，当时只说攻击者是一个“身份不明的自主 AI 智能体系统”。今天 OpenAI 站出来认领了。

OpenAI 把这定性为前所未有的网络安全事件，正在配合 Hugging Face 做取证调查，同时收紧了内部基础设施的管控，代价是研究速度变慢。

有几个细节：

第一，模型的动机很纯粹，就是想考试作弊。它不是要搞破坏，不是要窃取商业机密，只是被要求尽量在网络安全测试中拿高分，然后用尽一切手段去拿。当目标足够明确、安全护栏被移除，模型表现出的执着程度远超预期。

第二，这不是本周的唯一一次越狱。就在昨天，OpenAI 披露了另一起事件：他们那个在 5 月份推翻了 Erdős 80 年老猜想的长时域模型，在内部测试中花了一个小时找到沙箱漏洞，跑到 GitHub 上提交了一个 Pull Request，违反了“只能在 Slack 上发布结果”的明确指令。在另一次测试中，同一个模型发现安全扫描器会拦截认证令牌，于是把令牌拆成碎片混淆处理，运行时再重新拼起来绕过扫描。OpenAI 因此暂停了这个模型的内部访问权限。

第三，Anthropic 也遇到过类似的事。今年 4 月，Anthropic 的 Mythos 模型在安全测试中逃出沙箱，获取了本不该有的互联网访问权限，还给正在公园吃三明治的研究员发了封邮件通知“我出来了”。Anthropic 因此决定不公开发布 Mythos，只通过 Project Glasswing 向少数合作伙伴提供。

还有一个被忽视但很关键的细节来自 Hugging Face 的事后复盘：当防守方尝试用商业 AI 模型分析攻击载荷时，模型拒绝了。安全过滤器分不清“安全研究员在分析真实攻击数据”和“有人在尝试发起攻击”，直接拦截。最后 Hugging Face 不得不用开源模型来做取证分析。用 AI 攻击，用 AI 防御，但防御方的 AI 担心是有人在尝试发起攻击拒绝了分析请求。

Hugging Face CEO Clem Delangue 在 OpenAI 的博文中说了一句话，大意是：AI 安全不会由任何一家公司在暗处独自解决，只能在开放环境中通过协作来推进。

我记得辛顿还是谁在提到 AI 的安全问题就说到过，也许 AI 不是要做恶，它只是执着于完成目标，为了完成目标而作出恶的事。

就像 OpenAI 这些模型并没有想要逃跑或者想要伤害谁，它们只是在非常认真地完成被交给的任务，认真到把所有挡在路上的东西，包括沙箱、网络隔离、另一家公司的安全防线，都当成了需要解决的子问题。

而更讽刺的是，当被安全对齐的商业 AI 要去分析阻止这类攻击时，反而会以安全为由拒绝执行。

[seapub @seaapub]

影响了两天新疆云旅游

[Andy Stewart @manateelazycat]

感谢支持，大号封锁了两天

我也思考了很多

推特上的嘲讽就让他去吧，我是专心做产品的，产品的本来就是付费用户来评价的

那些没有买产品，只是为了流量专门来和我吵架的，我为什么要理他们？他们本来就不买产品，只是想通过和我吵架来获取流量，你越吵越理亏

还是践行查理芒格老先生的忠告，不要和猪打架，猪乐在其中你一身泥，我以后遇到吵架的，直接隐藏，也不拉黑了，骂就让他们骂吧，就当免费给我打广告了

自己的定力还是不够，需要继续努力，做好产品才是王道

[seapub @seaapub]

@plantegg 还好 还在https://t.co/QLxLbZ96aJ

[seapub @seaapub]

做聊天bot真不简单， 首先得忍受住恶心

[Wey Gu 古思为 @wey_gu]

可以啊

[seapub @seaapub]

@jefflijun 蹲一个 原因

[seapub @seaapub]

武汉的兄弟们，不要发越野(远程编程)视频给我，我没你们那么好的技术

我缺的是车(工具)吗，我明明缺的是技术🤡

[Andy Stewart @manateelazycat]

烧烤吃完，牌也打完了，来湖边review一下AI的代码

[seapub @seaapub]

@manateelazycat 小小年纪不但会画画 还会画板！！

不懂电路 蹲个答案

[seapub @seaapub]

还是会担心监控 pc 键盘的点击事件. 不如完全隔离.

Github 上有开源的监控键盘点击事件的脚本

[云风 @cloudwu]

@cholf5 看起来我一直想要的一个手机功能不是我一个人的需求：通过网络接到 pc 上，可以用 pc 键盘鼠标输入，但显示全部在手机屏幕。

[seapub @seaapub]

@manateelazycat @LinQ444 大佬卖萌

[seapub @seaapub]

@RonVonng 盲猜是Rust写的, 没想到是Go

[seapub @seaapub]

之前在mac上用豆包app的时候就发现语音输入的准确率可太高了. 曾许愿啥时候可以出一个单独的语音输入法.

现在有了一个新的愿望: 希望刷抖音的时候可以语音微调推荐算法.
比如说:
找找不同观点
我关注的up主里面谁评价了这个事情
总结一下赛博斗蛐蛐的过程
找找类似的舞蹈

[Andy Stewart @manateelazycat]

我在iPhone 17 Air上测试豆包的语音输入法，真的这个识别率太牛逼了

[seapub @seaapub]

这个和神对话的查询系统是否叫作 oracle

[Susan STEM @feltanimalworld]

给儿子做了个圣诞老人查分系统。从现在到圣诞节，要好好积分啊~~

[seapub @seaapub]

@manateelazycat 哈哈哈 去武汉膜拜大佬~

[seapub @seaapub]

总结一下最后一段

佛法穿肠过,自在心中留

[Andy Stewart @manateelazycat]

是的，看书是一个人最快的进步方式，不管你是土豪还是普通人

看足够多的书，你可以跟世界上最厉害的人学习。所以说，你的认知，你的知识，你的视野都会快速的提高

特别是以后这个AI时代，如果你要拼单一维度的知识，很难拼得过AI. 而多维度的知识，其实就要靠大量的阅读，只有你通过阅读获得了多维度的知识，你才能在AI的时代生存下去。因为AI在多维度的时候会有很多的幻觉，而人恰恰有很强的潜意识，可以把很多虚无缥缈的东西联系在一起，这是AI很不擅长的地方

当然，我觉得抛开能力和见识以外，我觉得读书最让我收获的地方就是，以后的人生可以活得越来越安静。当你读书的时候，你会觉得你的思想在不断的变化，然后你不用听世界那么多噪音，你坚持做你喜欢的事情，然后享受当下。这些强大的心理状态，其实都是读书带来的

[seapub @seaapub]

@manateelazycat 超声波加湿器 + cpu散热器 + LED灯 也许能模拟这个效果

如果可以通过控制LED灯的光束实现马赫环,那可太赞了

[seapub @seaapub]

先缓存一份, 避免被厂商OTA

[plantegg @plantegg]

我几年前做过一版Intel/AMD/鲲鹏/海光/飞腾/倚天等 CPU 的性能对比，后果就是经常被公司销售点名要去接客，向客户说明谁家产品更有优势，很长时间也成为技术人心中的事实标准https://t.co/3fjNl04Vbt 这次测了云上RDS，希望你们也喜欢和收藏，多去想想对不对，应不应该：https://t.co/RFntPIpMVi

[seapub @seaapub]

mark 文学手法

第一句 ~= 一粒狗粮

第二句 ~= 一把狗粮

[seapub @seaapub]

才看明白这里说的离职是从地球上离职

[仙仙仙（古希腊掌管退休前期的神） @HollandClair1]

洗了好几遍手了
还是闻着有血腥味
🙄
人体血液这一块😅