你一定见过 AI 在你的专业里胡说八道。
那为什么换个领域,你又信它了?
这个现象有个名字,叫盖尔曼失忆效应。
起因是 Gergely Orosz 拿一个法律问题去问 AI,后来律师告诉他 AI 答错了。很多人在这条讨论下面提到了盖尔曼失忆效应。
这个概念是《侏罗纪公园》作者迈克尔·克莱顿提出的,用物理学家盖尔曼的名字命名。原本说的是看报纸:你读到一篇关于你专业领域的报道,发现错得离谱,因果都写反了,你摇摇头翻到下一页,看国际新闻、看经济新闻,又全盘接受了。你忘了刚刚才见过这家报纸有多不靠谱。
换成 AI 也一样,而且更隐蔽。AI 的语气永远很自信,排版永远很整齐,错的答案和对的答案看起来一模一样。
我自己就踩过。刚开始用 AI 写代码,我直接把问题丢给它,简单题没问题,难一点的它就开始跑偏,最离谱的一次,它写出来的代码只能通过题目给的样例,换一组数据就挂。这是在我懂的领域,我能看出来。问题是,如果它是在跟我讲法律、讲医疗、讲投资呢?我根本没能力发现它在糊弄我。
我之前上过一门 Ethics of Technology,课上一直在讨论一个问题:技术出错时,责任到底在谁?放在 AI 上,答案很现实:AI 不会为它的回答负责,最后用这个答案的人是你。
所以我现在用 AI 有三个交叉验证的习惯:
1. 先拿懂的问题试。在你熟悉的领域问它几个问题,看看它会在哪些地方犯错、错的时候是什么样子。这样你对它的不靠谱程度有个直观感受。
2. 重要的结论必须找原始出处。法律看原条文,医疗看正规指南,数据看原始报告。AI 给的链接也要点进去看,它会编出不存在的来源。
3. 换一个模型、换一种问法再问一遍。两个答案对不上,就说明这里有坑,这时候就该去问真正的专家。
越是不懂的领域,越不能偷懒。因为恰恰在这些领域,你最没能力发现它错了。
你在自己的专业里,见过 AI 最离谱的错误是什么?
讨论来源:
#AI #盖尔曼失忆效应 #科技伦理 #AI使用技巧
https://t.co/RuNpSlw3Oq
最近发现个好用的tool,快找工作的同学看过来。GitHub 上有个求职工具最近一直挂在热榜上:ai-job-search。它基于 Claude Code,整个跑在你自己电脑上,简历和求职数据都不用交给第三方平台。
能做的事基本覆盖整个求职流程:
评估职位:把 JD 丢进去,帮你判断这个岗位和你的匹配度
改简历:按不同岗位定制不同版本的简历
写求职信:根据职位和你的经历生成 cover letter
准备面试:针对岗位做面试准备
MIT 开源,作者原话是 "Fork it and own it",fork 下来按自己的需求改就行。目前已经 5.5 万星。
作为一个马上也要海投的 ECE 学生,我准备先拿它把 JD 筛一遍。你们求职的时候用 AI 用在哪一步最多?
https://t.co/vMurhar28l
#AI求职 #ClaudeCode #开源 #找工作
X 上最近有句话挺火:"Vibe coding is dead."
我拿自己写作业的两次经历对了一下,发现 AI 是同一个,差别全在我自己:先想没想清楚,最后验没验收。
你用 AI 写代码,更像许愿还是派活?
——
先交代下背景:这句话出自 @DaveShapi 的帖子,原话是"Vibe coding is dead. Agentic coding is the way.",意思是凭感觉写代码已经过时了,智能体编程才是正道。
先说说这俩到底啥区别。
Vibe coding 就是你用大白话跟 AI 说"帮我做个啥",它吐一堆代码出来,你看都不看,能跑就行,跑不了就把报错丢回去让它接着改。说白了就是许愿。
Agentic coding 更像给 AI 派活:你先定好目标、拆好任务、讲清楚什么算做完,让 AI 一步步干,你负责盯着每一步对不对。
连 Linux 之父 Linus Torvalds 都在自己的业余项目里用 AI 写过一个 Python 可视化小工具。写了几十年代码的人都在用,所以现在问题早就不是该不该用,而是怎么用。
我自己的两次经历
第一次:以前写作业,我有时候图省事,直接把题丢给 AI。前几次都没事,但题越往后越难,它的解法就越容易跑偏。最坑的是它碰到难题不会说"我不会",而是给你整一套似是而非的东西,比如代码刚好能跑出 example 的输出,可只对 example 管用,换一组数据就不对了。到了做嵌入式的时候,我就彻底不敢放手了:固件错一次,板子可能直接卡死。
第二次:后来我换了个用法。重要的部分我自己来,比如引脚分配。AI 动手之前,我先让它把思路讲给我听,我把它的框架审一遍,觉得不对就马上改,然后再让它按框架一步一步写。效果明显好多了,至少遇到麻烦的地方,它不会再编一套数据糊弄过去。
差别到底在哪
回头看,两次用的是同一个 AI,差别全在我:
一是我有没有先想清楚要什么。直接丢题的时候,我其实是把思考也一起外包出去了,它跑偏了我都看不出来。
二是我有没有验收。能跑出 example 不代表它对,更不代表我懂。
三是出了事谁背锅。作业扣的是我的分,板子卡死了修的也是我,不是 AI。
所以我理解的"Vibe coding 已死",不是 AI 不好用了,而是只会许愿、不会验收的用法走不远。
给同样在学编程的同学几点建议
先自己写思路,哪怕几行注释也行,再让 AI 动手。
关键的部分自己做,比如硬件相关的引脚、时序这类一错就出大事的地方。
让 AI 先讲思路再写代码,你审过框架再放它干。
别只拿 example 测,自己多造几组数据,尤其是边界情况。
把 AI 当成手很快但会犯错的队友,别当标准答案。
这些不光是为了拿分。以后进了公司大家都会用 AI,拉开差距的可能就是谁更会定目标、谁更会验收。
你现在用 AI 写代码,更像许愿还是派活?评论区聊聊。
参考:@DaveShapi 原帖 https://t.co/JRnuoDzxtc
#VibeCoding #AI编程 #AIAgent #嵌入式
Quick reflection staring at my computer at 10pm: if AI is taking my software job, why have I never worked so hard in my life?
Two options:
1/ The narrative is wrong. There’s so much to build that there’s more work than ever.
2/ I mostly work with AI agents now, so I’m the bottleneck. My human speed just can’t keep up with them.
Thoughts?