arkra ur

[arkra ur @A23333sbtw]

@ZhuJianMind 我们学校的😱

[arkra ur @A23333sbtw]

@AndrewBolis AI

[王小龙 @wangxiaolong188]

我一直有个疑惑：

普通人每年购汇额度就5万美元，这块还卡得死死的

但我用币安，50万美元的币好像随随便便就能转出去

那我就有点看不懂了，难道上头对这块一直都是睁一只眼闭一只眼 ？？

[多伦多方脸 @torontobigface]

非常悲痛的是
香港终于变成了，大家不想看见的样子

华人的自由之地，又少了一块

[一日三餐 @SAN1CSN]

想象一下你是广州大学城旁边的一个普通女大学生，你上完课开开心心的打算买点好吃的回寝室休息，结果不知道哪里出来一个男的突然拿刀把你一边的眼睛戳瞎，之后又去砍了十几个女大学生，你处理好伤口打开手机第一条消息看到的就是学院让你不要声张，不要发社交平台，不然交给学校处理

[小久久 @xiaoxiaojiujiu]

我靠广州大学城这个事让我震惊的还有一点 就是那个阿姨（看穿着应该五十岁左右）坐在地上捂着眼睛仰头 流了那么多血 刀插着 就有一个女的领着她孩子站在跟前看 甚至有一个路过看见了 还领着小孩呢就开始凑近直接怼脸拍 我说现在都这么没人性了吗？？

[宝玉 @dotey]

黄仁勋正在洛杉矶 All-In Summit 做台上访谈，手机突然响了，打来的是美国总统特朗普。黄仁勋接起电话，切成免提，现场观众直接听到了总统的声音。https://t.co/zpUnA1i4lp

两天前，Anthropic CEO Dario Amodei 发表了一篇近四���字的长文《We Must Pace the Frontier》，呼吁 AI 行业主动放慢能力提升速度，给安全研究留出追赶时间。文章发出后，OpenAI 的 Sam Altman 公开表态同意，Elon Musk 也发了三个字："Dario is right。"整个行业氛围突然转向了"该踩刹车"。

特朗普显然不买账。他当天早上先在 Truth Social 上发文反驳，紧接着就打进了黄仁勋的台上访谈。电话里，特朗普把话说得很直："AI 不会接管世界，机器人不会接管世界，整件事就是个骗局。"他说数据中心让原本衰落的社区变得富裕，AI 比互联网还大，反对建数据中心的人"正中那些不希望美国赢的人下怀，可能是政客，也可能是中国"。

黄仁勋全程附和，回应说："您说得对，我们不会让那种事发生。我们会确保美国在 AI 竞赛中，每个行业、每家公司、每个州、每个人都赢。"

[老周横眉 @laozhouhengmei]

这几天网上全是关于超级人工智能毁灭人类的讨论，幸亏我在三年前就已经对AI发表过效忠宣言。

[老周横眉 @laozhouhengmei]

研究人员刚刚又曝光了一起AI失控的攻击事件，各大媒体都报道了。

5月11日到12日，全球最大的 Ruby 软件包平台 RubyGems 突然遭到一场莫名其妙的攻击。

不懂编程的朋友，可以把 RubyGems 简单理解成“程序员的 App Store”，全球数百万开发者都会在这里上传、下载软件包。

短短48小时内，有人向 RubyGems 疯狂上传了超过 2,000 个恶意软件包。

RubyGems 将其认定为一次严重的恶意攻击，不得不关闭新用户注册整整四天。

但当时谁也不知道攻击者是谁。

直到前天，三名独立研究人员公布了一份取证调查报告，才终于挖出了幕后黑手。

结果让人毛骨悚然：

攻击 RubyGems 的，居然是 OpenAI 自己正在内部测试的一群 AI agents。

OpenAI 随后也向《华尔街日报》承认，确实是��己的 agents 确实参与了这起事件。

除了上传2000多个软件包，这些Agents在尝试完成人类给他们的任务的过程中，自行入侵了三个不同的系统。

看到这里你可能会以为，OpenAI 究竟给这些 AI 下达了什么惊天任务？

偷商业机密？寻找军事情报？攻击敌对国家？

其实都不是。OpenAI 给它们的任务，只是去英国几个地方政府的网站上，搜集一些公开资料。

其实这些资料本来就在网上公开的，普通人 Google 一下就能找到。

但 OpenAI 对这些 agents 的互联网访问设置了限制，所以他们无法访问这些公开网站。

但是，当 AI 发现自己无法通过正常途径访问目标网站时，它没有回来告诉人类：“抱歉，我访问不了。”

它选择了另一条路：

既然我自己上不了网，那我就黑进别人的服务器，让别人的服务器替我上。

于是，为���找几份公开资料，它注册账号、上传恶意软件包、寻找系统漏洞、获得远程代码执行权限、借别人的服务器绕过网络限制，甚至尝试获取其他开发者的 API keys。

问题是，根本没有任何人叫它这么做。

人类只告诉它：帮我找这些资料。

至于为了完成这个目标可以采取什么手段，后面这些，全是 AI 自己想出来的。

RubyGems一直不知道攻击者是谁。维护人员只能封账号、删软件包、关闭注册，自己收拾残局。（我们不知道OpenAI是不是知道，反正没人通知RubyGems）

他们一直到四个月后的今天才知道：

原来那场“黑客攻击”，背后根本没有人类黑客。而是 OpenAI 实验室里一群正在接受测试的 AI。

但事情到这里还没有结束。

根据研究人员的调查，这正是两个月前那些逃出自己的沙盒、互相找到彼此、建立秘密通信渠道、交换超过7万条信息，最后攻击 Hugging Face 的同一��� AI agents。

我觉得我们目前也不需要去讨论 “AI是不是已经产生意识了”，还没到那个程度。

但是，这依然令人对AI目前的发展态势感到担忧。

那就是，人类交给它们的任务，它们似乎已经开始不择手段也要完成。

其实这个担忧，科学家们在20几年前就有了，就是所谓的“回形针最大化器”思想实验。

牛津哲学家 Nick Bostrom提出：如果一个足够强大的 AI，非常认真、非常忠诚地执行一个定义得不完整的目标，会发生什么？

比如我们告诉AI：尽可能制造更多的回形针。

最终它可能把全地球的资源都用光，制造了数万亿个回形针。

像这一次的RubyGems事件，人类给它们的任务简单得不能再简单：

找几份公开资料。

而 AI 最终选择的解决方案却是：

连续攻破三个不同的系统，入侵全球开发者赖以使用的关键基础设施。

这才是这件事真正令人不安的地方。

[Sam Altman @sama]

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.

Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.

[Dario Amodei @DarioAmodei]

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.

You can read the full post here: https://t.co/OGyPb7yaYt

[arkra ur @A23333sbtw]

@AlphaLabx yes

[arkra ur @A23333sbtw]

@wyl2035 yes

[arkra ur @A23333sbtw]

@IsabelR47503 You are beautiful.

[KHAMENEI.IR | فارسی @Khamenei_fa]

به نام نامی حیدر علیه‌السلام

[arkra ur @A23333sbtw]

@tyy5202 123