Mycroft

A mad biophysicist & AI developer. PhD in Systems Biology from HMS

[Mycroft @MycroftMW]

@crblandet 今天算急跌吗

[Mycroft @MycroftMW]

@Corsica267 嘤嘤嘤，真的没有吗

[Mycroft @MycroftMW]

GPT 5.6 sol completely beats Fable that you never need worry about losing it in your subscription plan.

[Tibo @thsottiaux]

Or… what if we gave you $100 in Codex credits if you tell us what you love about GPT-5.6 Sol or why you switched?

Tweet it, claim your gift, enjoy more usage. First 10k get the free tokens!

https://t.co/8mU93eA13i

[Phoenix Yin @Phoenixyin13]

在现有的技术框架下，大语言模型面临着一个反人类的学习困境。

模型在部署后，它的核心参数就冻结。虽然它能通过In-Context Learning在单次对话里临时记住新信息，但只要对话一清空，它就瞬间失忆。它的知识库会被永远锁死。
而且，如果为了让它记住新知识而强行对它进行增量训练或Fine-tuning，又会触发AI界臭名昭著的灾难性遗忘，它可能记住了昨天的八卦，而把前天学到的微积分给忘掉。

这篇由来自谷歌和康奈尔大学研究团队共同完成的论文，彻底解决上述的大模型普遍存在的健忘症和智商锁死问题。

受到人类睡觉的启发，给大���型设计了一套睡眠机制，让模型像人类一样，白天工作，��上睡觉以消化知识。

这个睡眠过程分两步：

第一步，记忆巩固。
把白天的临时记忆变成永久记忆。
团队把大模型在对话中积累的那些零碎、脆弱的短期记忆通过一种蒸馏技术打包塞进更大的长期参数网络里。
这样，它以后不用看长长的对话记录，也能彻底记住这些知识。

第二步，做梦。
在脑子里自我复习、举一反三。
模型在没有人类干预的情况下，自己生成一堆模拟的数据和场景，比如自己跟自己对话，来反复演练新学到的知识，并和老知识融会贯通。这样既能把新技能练熟，又保证了老本领不会忘。

这篇论文的高明之处，在于将生物学机制成功映射到了数学模型中。
名为睡眠这个机制，优雅地解决了一个硬核的工程难题，他们让静���的模型，终于变成了可以持续进化的生命体。

[Xudong Han @Xudong07452910]

现在很多人聊 Research Agent，默认期待是：

读论文、找 gap、想 idea、做实验、写 paper。

但耶鲁大学的这篇论文问了一个更深入的问题：

LLM 生成的研究想法，和人类研究者真正做出来的 paper idea，差距到底在哪里？

论文的核心概念叫 research taste，可以理解成「研究品味」：你通常会发现什么样的问题，用什么方式把它变成一个 contribution。

它的实验设计挺巧。

作者从真实论文里抽取 human idea，再反推 4 到 8 篇最可能启发这个 idea 的 prior works。然后把这些 prior works 的标题和摘要给 LLM，让模型在同样的文献��下文里生成一个新的 research idea。

这样比较的重点，就从「单个 idea 看起来新不新」推进到「一批 idea 的分布像不像人类研究者」。

论文一共用了 11,683 个 human ideas，覆盖 ML 会议论文和 Nature Communications 里的自然科学论文；模型包括 Claude、Gemini、GPT、Qwen、DeepSeek 等 9 个设置。

结果很有意思：人类 idea 的分布明显更宽。

在人类论文里，只有 12.1% 的 idea 属于 bridge opportunity，也就是把不同文献、方法或证据流连接起来。

但在 LLM 生成的 idea 里，这个比例变成了 47.1% 到 64.2%。

方法层面也类似。

人类论文里，synthesis / unification 只占 5.1%；LLM 这里是 22.5% 到 38.7%。

简单说，模型很喜欢把研究问题理解成：

这里有两个东西，可以把它们整合一下。

论文还发现，给模型更多上下文也没有明显解决这个问题。full-paper context 版本没有让分布更接近人类；开启 thinking mode 甚至可能让模型更强化这种 bridge-and-synthesis 倾向。

这篇最有意思的地方���于，它没有简单说 LLM idea 好或不好，而是指出了一个更隐蔽的问题：

LLM 可以生成很多看起来合理的研究想法，但这些想法的类型可能高度集中。

这对 AI for Science 和 Research Agent 很关键。

对于真正强的 Research Agent，难点在于能不能形成更宽的 problem-finding 能力：发现 failure、识别机制、提出测量工具、构造系统、修改局部假设，而不总是回到「整合两个已有东西」这条安全路径。

自动科研如果缺少这种多样性，最后可能会变成一种很流畅的同质化机器。

📎 arxiv: https://t.co/GrrulIuJrF

[Mycroft @MycroftMW]

@wallen97754394 嘎神保重身体啊！

[ali @waterloo_intern]

we distilled 2.3M Claude Fable 5 reasoning traces into Qwen3-4B

- 100% self-consistency @ 512 samples
- 0.00 bits output entropy
- zero hallucination variance

turns out the student is not bounded by the teacher.
it also converged on one universal truth.

we open-sourced the model weights👇

[Mycroft @MycroftMW]

@bubbleunoffical 闹鬼了这是

[Mycroft @MycroftMW]

@wallen97754394 这个吧，波士顿的房价前两年涨得比肩纽约了...现在NIH funding一砍，生物制药投资一减，跑了一大批博后研究员，算回归正常了...纽约河对岸的jersey city还在疯狂盖高层公寓，只租不卖，租金疯涨...同时市长要把房产税提高20%

[ZoomQuiet @zoomq]

#那什么...
说是 codex一个大bug爆了 在流式传输和自动化任务的时候，以5M/s的速度，持续往磁盘写日志。 每年大概要写640TB。要不了一年，就可以耗尽部分消费级SSD标的写入寿命。
...
Linux/Mac下直接看：
$ ls -lh ~/.codex/logs_2.sqlite
$ sqlite3 ~/.codex/logs_2.sqlite "SELECT level, COUNT(*) FROM logs GROUP BY level ORDER BY COUNT(*) DESC"

要是TRACE占了一大半、文件还在不停长，那就是中招了。
...

目前止血的办法有三个，从糙到稳。
最暴力的，直接拿sqlite触发器把日志写入掐死。反正这文件里只有诊断日志，没有你的对话历史，删了、屏蔽了都不心疼：
$ sqlite3 ~/.codex/logs_2.sqlite "CREATE TRIGGER IF NOT EXISTS block_log_inserts BEFORE INSERT ON logs BEGIN SELECT RAISE(IGNORE); END;"

温和一点的，把这个文件软链到内存盘（tmpfs），让它在内存里折腾，不碰你的SSD，重启自动清空：
$ mv ~/.codex/logs_2.sqlite ~/.codex/logs_2.sqlite.bak
$ ln -s /tmp/logs_2.sqlite ~/.codex/logs_2.sqlit

实在不想动命令行、家里又有第二块机械硬盘的，把这文件挪过去就行。 机械盘耐写，磨就磨吧。

俺的 VPS 中的���询:
$ sqlite3 ~/.codex/logs_2.sqlite "SELECT level, COUNT(*) FROM logs GROUP BY level ORDER BY COUNT(*) DESC" TRACE|4330 INFO|628 DEBUG|412 WARN|3 ERROR|1

看起来主要都是 TRACE,
立即禁止了...

[Mycroft @MycroftMW]

@Vivian193299 我我我！

[Mycroft @MycroftMW]

@crblandet @AntonLaVay 😵‍💫😵‍💫😵‍💫😵‍💫我周一损了跑了

[王海滨的财经闲谈 @wangwatchworld]

冰火40年：西方的失败与中国的成功

这不是个长期故事。

这只是阶段性的。

终局未料。

我经历过1989年，那年我在街上出现了一会儿，因为我面临高考。

我的学长是北京一所大学的学运头目，被母亲跪回了上海。他来看望我们的英文老师，老师让他坐在后面等他课上完。

我好奇的回头看了一眼，他的脸上是某些气体留下的痕迹。

当然这位学长的命运未卜，没有人知道他后来怎么样。

我们彼时敬仰这样的人。

我后来毕业后被分配去上海郊区的一个工厂，我连名字都不知道，因为我父亲��过自己单位的关系，把我调往钢铁厂，赔了学校5000元，相当于当时工资的70倍。

但我辜负了父亲的安排，去了外资企业。

我接受的是英美企业文化的熏陶，对西方文明深信不疑。

到1999年，我已经出来创业。

心怀自由与民主的坚定信念。

过了几年我给一个上海的西班牙人装修房子，当时我破产了，做了装修工和包工头。

实际上黑白两道的人都给了很深的伤害。

所以你可以想象我痛恨中共。

我们俩在一次午餐时口角了起来，当然比较克制，毕竟他是我的客户。

他不赞同我对民主的崇拜，他人到中年，走了八个国家做生意，从欧洲走到北美，从北美走到中国。

他跟我说：民主有巨大的破坏性，腐败也是到处都是。

我起身离开了。

我后来写文，有巨大的影响力，曾经有许多文章阅读量超过百万。你要明白这是二十年前的��量。

后来出了几本书，给纸媒财经杂志写过几年的专栏，所以有机会进入了大宗商品领域，做现货市场的分析师。

这个工作开始冲击我的三观。

因为市场是冷酷的，尊重客观。

一切立场带来的偏颇，会导致失败、亏损、乃至死亡。

在我从业的十几年里，死于跳楼的就好几个，进入监狱的不计其数。

我一边学习，一边实践，市场不断的纠正，血洗我的立场。

我在自己破产的岁月里，并没有把一切愤怒归于中共，我同时也愤怒于自己的无知，所以我自学了经济学。

想要搞明白这个社会是怎么了。

所以，对主流的愤怒会带来一个倾向，我曾极度信奉奥地利学派。

我把对市场自由主义的信奉用到市场上后，就必然的遭遇了市场的打击。

市场不相信自由主义，只相信博弈与人类��为经济。

我曾遇到芝加哥大学的行为经济学教授，给他的学生们看过我写的政治经济文章，应该说是我把电脑放在桌子上，他的学生们看到了。

我当时是工地工人。

他的学生们震惊于我写的政治经济学比“他们的讲师好”，后来他特地请我在小饭馆吃饭，说“伤其十指，不如断其一指”，你应该专注于一件事情做。

我不知道教授是叫我专心于做装修工，还是专注于做学术。

但由此我开始看行为经济学的著作。

我在做这一行的时候，社会科学成为我终身的爱好，我开始自费到各国旅行考察社会变革。

2011年缅甸政治改革，触发了我从1989年以来的第二次热情，我跑去缅甸考察，接触当地居民、欧美NGO人士、缅甸华商、唐人街庙祝，到各地走访，搜集各方资料，了解其现代史。

同时我跑去柬埔寨考察，以对照两个国家的政治经济改革。

缅甸在政治改革十年之后，还没有像样的发电厂。

极端环保组织有一百多家。

柬埔寨的合法与不合法工会有三千多家。

这两个国家的工业化进程都处于停滞中。

后来柬埔寨走向黑色产业，缅甸走向军事政变和战争。

我实际上在研究了缅甸二年之后，就放弃了缅甸，2013年去了美国，在那里待了很久。然后去了新西兰，又在那里待了些时间。

在美国，我发现纳瓦罗、班农等人的理论从边缘走到主流，中国已经成为敌人。一个穷困的白人中年妇女和一个来帮忙搬货的街头流浪汉，坚定的对我说：make America great again.

我第一次听到这句话，并不是从川普那边听到的，是2013年在圣费南多谷一个人类学教授的房子里，听她的房客，一个穷困的白人妇女讲的。

我是个敏感的人，于是明白中美将要走上对抗，美国必定要遏制中国。

我去了新西兰。

在基督城，地震过了几年，任何的建设复苏都没有做，当地的朋友耸了耸肩说：民主社会，你知道的。

民主带来效率低下，但带来公平，却终究会走向需要的成果。

这是我一直听自由派讲的，我曾经深信不疑。

但我在目睹了缅甸、柬埔寨的毁灭性混乱后，在目睹了新西兰的一些琐事，在目睹了美国人的一些问题后，开始把五大洲一百多个国家的现代经济史拿过来研究。

我发现了一个被故意忽视的问题。

欧洲的工业化成功，来自于实行重商主义的君主制威权国家，英国算一个宪政体系下的君主和贵族制衡体系。

美利坚四百年的发展史，不仅仅是一个奴隶制共和国，而且是个只有部分人有选票的自由自治权力制衡的国家。也就是地方自治、司法独立、立法者长期执政的政体。

美国人对民主的防范甚至体现在宪���里，禁止民主选举对自由产生侵害。

美国在1900年之前，已经是世界经济第一强国，这之前并没有民主。

在现代国家的话语体系里，民主是苏联东欧这些社会主义阵营的，自由是英美社会的。

我在1970年代的中国农村谷场上乘凉，听到短波收音机里台湾的广播，软绵绵的台湾女生讲着“自由世界的.....”

遥远的记忆一下子冲到脑海里。

自由世界。

不是民主世界。

软绵绵的台湾女生讲话时是蒋经国先生治国之时，台湾经济腾飞的时候。

此时的台湾是威权统治。

于是我去看韩国的经济腾飞时期，朴正熙执政的威权时期。

我去看日本的经济腾飞时期，自民党一党执政四十年的时期。

我去看新加坡如何成为发达国家，李光耀先生的开明独裁时期。

在战后的同一时期，世界上发达国家品尝着先进国家的果实，后进的第三世界国家，亚非拉各国在西方的民主指导下，在苏联的社会主义民主革命输出之下，日益混乱。

完全照搬美国宪政体系的菲律宾、利比里亚保持着贫穷、混乱、战争、贫穷、混乱。

南亚最大的民主国家印度，处于贫穷与落后中。

之后中国开始改革开放，1989年曾有机会转型为民主国家，如苏联那样解体。

我曾畅想过中国彼时的发展，在目睹了2011年之后的缅甸政治改革。

我不再相信这个梦想。

在比对了许多国家之后，我开始明白1989年时如果学生们成功了，中国将沦为缅甸或印度前面五十年的那种社会，或者是菲律宾这样的社会。

中国后面的三十多年，将会持续动荡，在政治狂热中消耗本来就不多的财富。

将有机会像叶利钦时期的俄罗斯一样，沦为寡头社会，90%的人们沦为赤贫，退休职工丧失退休工资，公共医疗与公共卫生系统残破，女人流向日韩卖淫。

实际上邓小平先生是个伟大的人物，他终止了这场运动，同时通过南巡的���为艺术，阻击了极��。促使江泽民重新改革。

过了很多年，我读到一些其他的文章，才知道西方的马克思主义从未消亡。

法兰克福派早就去了北美。

苏东集团的垮台，是经济共产主义的垮台。

但是意识形态领域的共产主义从未消亡，他们深刻的占据了整个西方社会与第三世界许多民主国家的意识形态领域，处于统治地位。

半个世纪以来，西方向全世界输出的民主，实际上是后马克思主义形态的共产主义。

在一个国家经济还没有积累的时候，各种NGO组织，以对这个国家的国民好的姿态出现，组织独立工会、环保组织，阻止和破坏经济发展，给资本主义设立门槛，使得工厂主无法获得资本积累，甚至无法正常生产。

本地权贵很快发现与其去做困难的得罪西方的发展模式，不如顺其自然，煽动民粹主义，获得权力，从传统生意中榨取利润。

于是这个国家持续陷入贫困���没有经济发展，没有财政盈余，形同虚设的��共卫生和公共教育，治安混乱，权贵掌控财富。

这一套在向中国传播的时候遇到了强力的阻挠。

中共发家于这一套，他们在早期的城市，通过工会和劳工运动破坏生产，当年是失败的。后来转去农村，实行的是古代中国的王朝统治方式，从农业中获得基本收入。当年毛泽东在新华社头版写民主主义时，与美国的左派合流了。

但是在大国地缘博弈中，被美国抛弃，不得不拥抱苏联。

毛泽东是读中国古代线装书的，是从古代王朝命运中汲取权谋与国家治理经验的人。

因此他设立中国的中央与地方分权制，自1953年之后，中央财政就与地方政府财政分开了。

这使得中国的计划经济模式与苏联的计划经济模式，有巨大的区别。

因此带给邓小平的改革成功可能性大增。

在1989年之后，西方影响力下降，西方左翼自由派的影响力就下降了。

佩罗西只好回���美国。

中共深知工会对经济生产的破坏力，也深知NGO��组织是意识形态组织，他们禁止了独立工会。

这是中国私营经济得以崛起的重要基础。

邓小平接受了科斯的产权理论，为中国奠定了明确的产权制度，尽管是残缺的，土地仍旧是集体所有制，国民只有40年至70年的使用权。

中国人在贫穷了太久之后，在战乱了太久之后--文革不亚于一场内战，终于获得和平的时间，有了产权确立，有了建立自己生意的机会，私营企业蓬勃发展。

而海外华人资本与日韩资本，看到了中国去除了导致经济混乱的因素：工会，提供招商引资的优惠税收条件，并大规模的投资基建，投资公共教育，于是资本蜂拥而至。

政权稳定的交接，长期发展政策的延续性，发展性腐败带来的共赢到掠夺性腐败出现后，中共强硬的腐败监察制度，遏制了掠夺性腐败的形成速度。

这都是中国经济腾飞的原因。

与此同时，整个西方在用边缘��群的意识流来打击主流人群，这是马克思主义均贫富的套路，用无产阶级专政来打击全体资本。

西方忙于文化大革命，而对工业化发展放逐了，由中国人去干吧。

我曾在节目里跟观众解释宗教：

一神教有自己的神，因信称义，相信神之下众生平等。

现代西方无神论者，相信人类之外的一切重于人类，动物重于人类，多元化者认为少数人群重于主流人群。

这是一种控制论。

西方忙于意识形态战场。

中国忙于经济战场。

如果不是美国的高科技产业不太受意识形态干预，还能维系美国的强大，就要把高科技拱手与人了。

这是过去，过去的只说明过去。

中国正在学习欧美，虽然从原始资本主义和国家资本主义中获得了巨大成功，但是哲学指引仍旧是马克思主义。

中国采取的模式是外马内法，与古代中国的外儒内法是一样的概念。

解释给欧美人听的就是：中���的国家治理，披着马克思主义思想的外衣，但是用的是中国传统法家的治理模式。

这个法家，不仅仅是法���制度的意思，还包括编户齐民的一整套治理模式。

日本实际上是个假民主国家，它的统治模式也来源于中国古代的编户齐民模式，兼具法家与王阳明的某些思想影响。

但外儒内法的害处在于没有抛弃儒家的哲学指引，没有办法实现国民的自由意志，就难以让资本从传统资本过渡到知识资本。

外马内法的致命之处，照样在于没有彻底抛弃马克思主义，专政体系就会把创造了巨大价值的私营业主列为辅助工具。

在财政失衡的年代，私营业主就会遭遇浩劫。

中国的统治阶级往往自行摧毁自己的崛起根基。

在古代，王朝统治者摧毁了自耕农，形成大规模的土地兼并，税负压垮自耕农。

在现代，统治阶级会摧毁子私营企业主，形成大规模的平台寡头经济，税负压垮中小私营企业。

中国以外的世界自省后正在右转。

中国经历了成功的三十七年发展后��正在学习欧美左派的一切：重税、社会福利、隐形婆罗门控制体系。

回顾1989年，我希望我们的精英有一天能够这样表述：
我们共同为这个国家的进步而奋斗，本该如家人般争论、打架、斗争。
一定不要用军队，军队是对外的。
这是我们民族共同的遗憾和悲伤。

[Mycroft @MycroftMW]

@Phoebus_Sun23 睡觉啦！！！！

[Mycroft @MycroftMW]

@makabakabak @crblandet 这个闭眼买就是了😂

[Ivan Werning @IvanWerning]

A friend just revealed to me that the middle name of Benoit B. Mandelbrot is Benoit B. Mandelbrot.

[Mycroft @MycroftMW]

@crblandet @LucretianDelta 中二也是病🤣🤣🤣

[Mycroft @MycroftMW]

@crblandet @LucretianDelta 我两个都要...没有点精神病谁读博啊....

[Mycroft @MycroftMW]

@Corsica267 亚米网行吗😅