spaceteapot

cash out before singularity

[spaceteapot @sadougu]

@tianyi 大哥你懂不懂模型下线要提前公告的，任何变化都要事先告知，给用户时间去测试和适应。这是软件版本管理的基本

[spaceteapot @sadougu]

@ishiitakaaki “Next Time”

[@levelsio @levelsio]

Okay I built it!

🍰 Infinite Slop
https://t.co/wz0a7VSBtS

An infinite and interactive AI generated live stream of slop that goes on forever and ever

Anything that you write in the chat is generated next and AI will try to connect it to the previous video so there's an actual sequence and story line

Idea by @marcantoinefon and @rehan_shei's original stream so I made it

It'd be very expensive to run this so @fal very generously sponsors this

They also fine-tuned the model that makes this possible for the first time, making Minimax H3 50x faster and as "Max" and it can now generate videos faster than you can watch them, very cool!

Let me know what you think!!!! 😊

[vietnam without context @vietnamcontext]

family fun restaurant. something for everyone mom, dad, uncle and the kids

[spaceteapot @sadougu]

经济制裁有让人洗心革面的疗效。

[やまねあやの @yamaneayano]

過���のSNSでの発言に関するお詫びとお知らせ

[spaceteapot @sadougu]

香港所谓的“英国情结”，本质上是一种通过怀旧来逃避现实的心理防御。伴随大陆知识阶层与中产在财富、智力与素养上的超越，原本的优越感被打破，取而代之的是失落与敌意。
这种在衰落中试图寻找心理依托的状态，与当前日本人被超越时的社会心态如出一辙。

[biantaishabi5 @biantaishabi5]

黄秋生的悲剧是殖民主义最现实写照，殖民政府官员婚内出轨和女佣乱搞生下私生子后完全不管，女佣还想和孩子同归于尽最后���能忍下心，人家都不想提他，但他还以英国人和犹太人后代自居，把姓改成他爹家的 Perry，他童年受的苦都来自被他的英国血统排斥歧视，但他仍希望从抛弃他的英国血统得到认可，可怜

[spaceteapot @sadougu]

@__fanqie__ 姚琳馨（全国可飞）

[spaceteapot @sadougu]

@KelimsonHenry @MaxForAI @blader 哪里都有咱豆包姐

[spaceteapot @sadougu]

@wangchangfu88 那我们刚才说 要 干 你

[spaceteapot @sadougu]

@MaxForAI 早就说了中国是科技胜利路线，日本是文化胜利路线

[Jensen Huang @JensenHuang]

For my first post, I’m sharing a letter @NVIDIA signed on why open models matter.

AI will transform every industry, power every company, and be built by every country.

Open models strengthen safety and cybersecurity, accelerate innovation and diffusion, and enable sovereignty.

The world needs both frontier closed models and frontier open models.

https://t.co/AUKzoQ5Ikb

[spaceteapot @sadougu]

@hoshinofujivy 明るい北朝鮮

[spaceteapot @sadougu]

@kampfwagen_I 又来炫耀你的不朽名作了？

[spaceteapot @sadougu]

@vnair_ @markletree @coinbase @grok It’s internal and customizable

[spaceteapot @sadougu]

@XiaWan27472 have sex

[Pascal @creatorpascal]

https://t.co/mEyHyxStkA

[spaceteapot @sadougu]

@arena @Zai_org 豆包竟然超过美国���包了

[Orange AI @oran_ge]

OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。

业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）：
一个模型如果在训练时被教着做一件坏事，比如写不安全的代码，它会自己泛化到其他领域，包括健康、教育、科学、法律等等。也就是说，坏行为会被泛化。

OpenAI 把问题反过来���：那好行为会不会也泛化？
如果训练模型在一个领域表现得诚实、透明、谦逊、可纠正，它会不会在别的领域也变得更好？

于是他们造了一批贴近现实的对话数据，专门测这些特质：
-诚实
-认知谦逊（epistemic humility，就是"我不确定"的时候能说出来）
-元认知透明（能解释自己的思考过程）
-可纠正性（corrigibility，被指错能认）
-普遍的公平
-对人的关心

数据覆盖健康、教育、科学、法律、工程这些领域。
然后用 RL 训练，只混进去一小部分这种数据，其余还是常规训练数据。

实验结束后，有三个核心发现：

第一，在训练领域内，模型确实变得更诚实、更透明、更容易认错。

第二，在训练领域外，44 个独立的、训练时没见过的���测上，模型都变好了。欺骗、谄媚、reward hacking、有害建议……全都降了。甚至就算只拿健康数据训练，非健康领域也变好了。

第三，这种改变在对抗压力下时也表现得更有韧性。不管是 adversarial prompt 还是恶意微调，都更难把它推向坏行为。而且模型并没有变得"不可塑造"，正常指令它还是听的，只是对坏的方向变固执了。

这篇论文的启示是，RL 不仅可以强化代码，也可以强化道德。
也许对齐超级 AI 没有想象中那么复杂，只对齐底层逻辑就有很好的效果。

这跟人是很像的，人的各种行为在其底层存在一致性，通过一些小事就能看到一个人的底色。

很有意思。

论文地址：https://t.co/CYbVf3GEFV

[spaceteapot @sadougu]

@SFbearface 新加坡华人在网上平等歧视中国的中国人和印度的印度人，各有一个歧视用语（中国人叫PRC，印度人叫CECA）。最近随着中国国力和形象提升，对印度人的负面看法还更多一些。

[Mr. Buzzoni @polydao]

https://t.co/zujwYXVfAU