颠倒颠

顺为凡，逆为仙，只在中间颠倒颠

[陈少举 （🦣 @[email protected] ） @chenshaoju]

这也是为什么GitHub会使用 githubusercontent_com 、Google会使用 googleusercontent_com 这类域名的重要原因之一，将用户生成的内容与官方主域名隔离，通过不同Origin，降低XSS、Cookie窃取，仿冒页面等攻击的风险。😮‍💨

[颠倒颠 @diandaodian010]

@snowboat84 属于训练动力学领域的内容，这个方向还挺有用的。另外，也可以从信息论角度出发，把训练过程看作最小化交叉熵，数学上应该也能迁移到最小化自由能F

[颠倒颠 @diandaodian010]

@ReynoldDai 杨老先生说过，直觉先行

[颠倒颠 @diandaodian010]

看了制作《丧失清道夫》的作者 Mx-Shell 的 prompt 和工作流，不得不感慨确实有才华，一样的模型在人家手里像台变形金刚，在我手里却只像个天线宝宝

[颠倒颠 @diandaodian010]

@lidangzzz 这才体现教授们的高明之处，有消除不完的幻觉，就有发不完的论文，可以骗到海枯石烂，水到天荒地老

[颠倒颠 @diandaodian010]

我说这个是建立在通用近似定理（或称万能近似定理）基础上：神经网络可以逼近任意的连续函数。

还是以最直观的 CNN 为例子，严格要求下（无限网格、周期边界），CNN 的卷积层等价于平移对称群。这就把有效函数空间限制在了一个更小的子空间里。

其它方面的我有在关注，至于严格数学证明我实在不擅长😂我大学不是数学专业的，只是个憨憨物理仔。

物理嘛，都是直觉先行，如果实验验证效果好，再反过头来找理论

[颠倒颠 @diandaodian010]

你说得是对的，因为我不是专业数学的，所以表达得没那么准确、清楚。应该说 CNN 和 Transformer 的主要差别是流形上的几何结构。

我想说的是变种神经网络相当于在前馈神经网络上施加约束（如归纳偏置），进而改变有效函数空间。神经网络就只是对目标函数的一个逼近而已，不需要考虑什么内在数理逻辑。内在数理逻辑只是对数据集流形的局部反应而已。

[颠倒颠 @diandaodian010]

@Jackywine @karpathy @bcherny 这方面我比较鸡贼，出了新概念，先等推友玩儿3～6个月，确认能活下来我再跟进

[颠倒颠 @diandaodian010]

站在流形视角，真实数据往往不填满整个高维空间，而是集中在低维流形结构上，深度学习学的是这个流形上的函数。

对比 CNN 给出的基本假设是对一个像素来讲，最重要的像素是它邻近的像素，这是欧几里得距离。Transformer 则不这样做假设，对于“我在家工作”和“我在公司工作”这两句，“我”和“工作”之间的关系不因为字面距离差别而产生大的差别。

用 AI 总结一下，
CNN：在输入空间中，谁离我近，谁重要。
Transformer：在当前表示流形上，谁和我有关系，谁重要。

[颠倒颠 @diandaodian010]

@mtrainier2020 那是真福报，早上十点上班，干到十二点午餐去了，下午两点开工，干到六点去吃个公司补贴的晚餐，晚上七点回来，再装模作样干俩小时，去领个夜宵，然后打个车回家（公司报销），合计一下也就 2+4+2=8 小时有效工作时间

[颠倒颠 @diandaodian010]

讲故事，应该是讲对方想听的，而不是讲自己爱说。

[颠倒颠 @diandaodian010]

@mranti 你和他们解释是没有用的。你要和他们讲黄巢是怎么杀光五姓七望，“天街踏尽公卿骨，内库烧成锦绣灰”；朱元璋是从乞丐一路杀杀杀，当上皇帝的；陈胜吴广“王侯将相宁有种乎”；只要有勇气举起屠刀，今天的首陀罗、达利特，就是印度明天的主人。

[颠倒颠 @diandaodian010]

结合历史背景看，赵匡胤搞陈桥兵变是件利国利民的好事。柴荣死后，儿子柴宗训才八岁，皇后估计也就二十多岁。考虑到五代十国的背景，“皇帝轮流做，明年到我家”，一个弱主是很难压住地方军的。即使赵匡胤不叛变，恐怕后周也难以在乱世里长久。而且赵匡胤的登基可以说是兵不血刃，没屠城、没杀官僚、没杀前主，称帝后很快稳住国家形势，在当时那个环境里可以说算是很有德行了。

[颠倒颠 @diandaodian010]

原来宋太祖黄袍加身这招是跟着自己的贵人郭威学的。《旧五代史·周书·太祖纪》说军士“裂黄旗以被帝体，以代赭袍”。赵匡胤应该是当时跟着郭威学会了这套被迫称帝的全流程。

[颠倒颠 @diandaodian010]

@Phoenixyin13 选物理

[颠倒颠 @diandaodian010]

浮沉涨落朱青变，
幻假成真黑白颠。
醉看千金同此聚，
魂回梦断去无边。

[颠倒颠 @diandaodian010]

大型帝国想要维系，都要解决共同意识形态统一的问题。

今天提到美国，大部分人只提三权分立和宪政，但是忽略了美国建国时的新教底色。虽然宪法里没有规定国教，但新教文化却实打实地构成了美国社会长期的意识形态基石。

上世纪90年代初，美国大概有九成人都自认是基督教徒，但是到了今天，这个比例已经下降到六成出头。而这段时间，也是全球化最迅速的时间。

多元文化是一把双刃剑，一方面它为美国的快速发展吸引了大量的精英人才，另一方面，对内又增加了社会整合的难度，降低了社会的集体认同感。

曾经不可一世的罗马帝国，靠皇帝崇拜、胜利崇拜作为维系意识形态的枢纽。对被征服者采取怀柔政策，允许其继续自己的信仰，只要他承认罗马权威，并参与必要的帝国公共崇拜。基督教之所以长期受到猜疑，是因为基督教的一神论严重挑战了皇帝和罗马诸神的权威。

卡拉卡拉敕令颁布后，罗马境内几乎所有的自由民都成为了罗马公民。而罗马内部长期遭受文化割裂、认同割裂的困扰。此时，罗马人的身份已经不足以再作为维系社会共同认知的基础了。叠加上外部危机，戴克里先便以四帝共治的方式重组帝国治理，后来东西分治逐渐固定，西罗马在内外交困中走向灭亡。

君士坦丁以后，基督教在罗马帝国内逐渐取得合法和主导地位。东罗马则顺势以基督教重塑帝国认同，固守在今天的伊斯坦布尔，仰仗三面环海的地理优势，维系了一千年。

[颠倒颠 @diandaodian010]

“道可道，非常道；名可名，非常名”

《道德经》开篇第一句就表明，能用语言讲出来的道，都不是那恒久的道。所以，书里接下来讲的，也都不是真正的道。

同样的问题，维根特斯坦在《逻辑哲学论》则写道“凡是能够说的，都能够说清楚；凡是不可说的，我们必须保持沉默。”

[颠倒颠 @diandaodian010]

@wangwatchworld AI 没有泡沫，有泡沫的是人类