哲学突然变成 AI 公司里的硬技能了。
《经济学人》最近写到一个很有意思的现象:越来越多大 AI 实验室开始招聘哲学家,有些甚至在他们毕业前就抛出橄榄枝。
原因是 AI 公司发现模型越来越多地碰到哲学问题。
比如,怎样让 AI 少一点讨好用户,多一点追问真相?文章提到苏格拉底式提问,也就是通过不断追问来测试观点、发现矛盾。
又比如,怎样让 AI 承认自己不知道?这里用到的是「苏格拉底式无知」:真正的智慧,来自知道自己知道得不够多。
还有更具体的例子。
Anthropic 给 Claude 设计 constitution,也就是一套行为原则,里面参考了康德、Apple 服务条款和《世界人权宣言》。
IBM 的 Granite 模型甚至提供一些设置,让企业可以根据自己的价值观调整模型输出。
这说明 AI 对齐已经不只是「别胡说」这么简单。
它开始涉及更深的问题:
AI 应该更诚实,还是更有帮助?
应该严格遵守规则,还是追求更好的结果?
应该顺着用户,还是在关键时候提醒甚至拒绝?
这些问题很难只靠工程指标解决。
所以 AI 公司招聘哲学家,不是冷门专业突然逆袭,而是当 AI 越来越像行动者,我们就必须重新讨论,什么才算好的判断,什么才算负责任的智能。
https://t.co/ZLQiDb9zaC
LLMと対話していると、D.ノーマン『The Design of Future Things』のホースメタファーをよく思い出す。
“The rider reads the horse, just as the horse can read its rider.”
馬と騎手のように、未来のテクノロジーは「人が命令して機械が従う」だけでなく、互いの状態を読み合って動く協調関係
Concretely — will enterprises get weight-updating RL environments, or a learning layer around a frozen base model? The sovereignty test cuts differently depending on which.
Concretely — will enterprises get weight-updating RL environments, or a learning layer around a frozen base model? The sovereignty test cuts differently depending on which.