pwncrestfallen

Reformed Presbyterian Christian, Husband, Father. Information/Product Security. Not earn but learn.

[pwncrestfallen @pwncrestfallen]

我最近一直好奇LLM的底层原理和结构，于是跟着andrej karpathy的公开视频学习了一下，一共大概10个小时。很有收获。现在AI方面的优质课程都很公开，在家就能免费跟着世界顶级的老师学习。CMU也有更系统的公开课 - 《Introduction to Deep Learning》(https://t.co/bGoaYGuxah)

最先看的是他6个月前的一次访谈，《Andrej Karpathy — “We’re summoning ghosts, not building animals”》(https://t.co/VKX4QaxSKy)。他谈到AGI可能还需要10年的时间。而且他指出了强化学习的局限性，业界需要新的架构和算法来推动AI的发展。

他从2024开始做了一系列LLM的科普视频，在他的个人网站上都有(https://t.co/90QAX1glUM)。我重点看了以下几个
1. 《Let's build GPT: from scratch, in code, spelled out.》(https://t.co/UBD2G85DRd)
2. 《Deep Dive into LLMs like ChatGPT》(https://t.co/nNcsCjvChq)
3. 《How I use LLMs》(https://t.co/Muu8ULgl8L)

另外为了让自己更有画面感，又学了3Blue1Brown的《Neural networks》系列(https://t.co/QJL4cvzM6u)。说实话，学完还是感觉有点抽象，我需要同时配合中文字幕才能理解。

最后，为了加深印象，我尝试在本机跑了一次nanochat (https://t.co/ZyB1v5n4KL)。在claude code的帮助下，顺利完成d12级别的训练（比GPT-2 small还要小），参数和过程大致如下：

模型配置：d12（12 层 Transformer，n_embd=768，286M 参数）
总耗时：约 10 小时
* Pretraining 8.6h
* SFT 1.4h
* 数据准备、调试约 1-2h

核心命令:
1. Pretraining

python -u -m scripts.base_train \    
--depth=12 \    
--max-seq-len=1024 \    
--device-batch-size=16 \    
--total-batch-size=32768 \    
--window-pattern=L \    
--eval-every=500 \    
--eval-tokens=524288 \    
--core-metric-every=-1 \    
--sample-every=500 \    
--num-iterations=10000 \    
--run=dummy 2>&1 | tee ~/nanochat_pretrain_d12.log

val_bpb：0.905
2. SFT

python -u -m https://t.co/ZY4nQe51ch_sft \    
--max-seq-len=1024 \    
--device-batch-size=16 \    
--total-batch-size=32768 \    
--eval-every=500 \    
--eval-tokens=524288 \    
--chatcore-every=-1 \    
--mmlu-epochs=0 \    
--gsm8k-epochs=0 \    
--num-iterations=3000 \    
--init-lr-frac=0.2 \    
--warmup-ratio=0.05 \    
--load-optimizer=0 \    
--run=dummy 2>&1 | tee ~/nanochat_sft_d12.log

最终 val_bpb：0.4694
最后，它终于知道法国的首都是巴黎了，但是仍然不知道2+2等于几🤣。

[pwncrestfallen @pwncrestfallen]

最近使用NotebookLM深度解读了Claude code两位核心创始人的访谈（我感觉claude code主要就是这两位做出来的）。主要提取了一些极具启发性、甚至跨越了纯技术领域的深刻洞察。
1. https://t.co/P7SDGapQ6J
2. https://t.co/2m5d9NjBNF

1. 将 AI 编程与“活字印刷术”的深刻历史类比

Boris 提出了一个极具史诗感的观点：我们现在经历的 AI 编程革命，并不是简单的“工具升级”，而是类似于 15 世纪“活字印刷术”的诞生。

深思点：在印刷术发明前，欧洲的识字率不到 1%，阅读和书写被极少数的“抄写员（Scribes）”垄断，连国王都未必识字。当印刷术让书籍成本下降 100 倍后，直接催生了文艺复兴。Boris 认为，现在的“程序员”就像当年的抄写员。几年后，编程能力将从“少数人的特权”变成“全人类的常识”，任何人都可以随时构建软件。
更有趣的细节：历史记录显示，15 世纪的抄写员并没有因为印刷术而感到愤怒，反而很开心，因为他们早就讨厌机械枯燥的抄写工作，他们更喜欢画插图和做装帧。这与今天顶尖工程师的感受如出一辙——他们很高兴能把繁琐的底层代码交给 AI，自己专注于“决定要构建什么”和构思系统架构。

2. 用 AI 进行“深度个人内省（Introspection）”

我们通常把 AI 当作向外输出的工具（写代码、写文章），但设计负责人 Jenny 提出了一个绝佳的向内探索的用法。

深思点：Jenny 会把她多年来积累的一个本地文件夹（里面包含各种杂乱的 1V1 会议记录、随机的想法、面试笔记等）全部喂给 Claude，让 AI 帮她分析自己，提取连她自己都没意识到的潜在认知。
具体案例：有一次她想理清自己到底是如何评估设计师的“专业手艺（Craft）”的，于是她让 AI 阅读了她过去写的所有面试笔记。AI 最终帮她总结出了一套她个人一直在潜意识里使用的评估标准（Rubric）。这是一个极好的将 AI 作为“自我认知镜子”的案例。

3. 职场人才模型的重塑：“方块型通才”与“白纸型新锐”

AI 极大地改变了技能的获取成本，导致组织对人才的定义发生了根本变化。Jenny 提到她现在最渴望招募的三类人中，有两个概念非常颠覆传统认知：

深思点一：从“T型人才”到“方块型人才（Block-shaped）”。过去提倡在某一领域专精、其他领域涉猎的 T 型人才。但在 AI 时代，由于不同职能（设计、产品、工程）的边界正在模糊（甚至重合度达到 50%），市场开始呼唤在多个核心技能上都能达到前 20% 水平的“方块型通才”。
深思点二：偏爱“白纸型新锐（Craft New Grad）”。很多大公司喜欢招募经验丰富的高级人才，但 Jenny 认为，在这个工作方式被彻底颠覆的时期，那些初入职场、没有被旧有繁琐流程洗脑、毫不受限地直接用 AI 堆砌产品的年轻新锐，反而拥有极其巨大的价值。

4. “味噌（Miso）时间尺度”——对抗 AI 极速进化的解药

在极度内卷和技术呈指数级爆炸的硅谷背景下，Boris 提到了他在日本乡村做味噌的经历，这形成了一种强烈的哲学对比。

深思点：白味噌需要几个月，而红味噌需要等待 2 到 4 年才能做好。制作味噌强迫人必须极其耐心，以一种完全不同的、极其长远的时间尺度来思考问题。
为什么值得了解：身处 AI 浪潮中心的人（无论是开发者还是用户）极其容易陷入“害怕错过（FOMO）”和持续的焦虑中。建立一种类似“味噌法则”的长期主义现实锚点，去关注那些符合自然规律、需要缓慢发酵才能产生价值的事物，或许是我们在这个技术狂飙时代保持理性和心理健康的解药。

5. 管理者的“逆向降级”：重新成为独立贡献者（IC）

很多中层管理者在 AI 时代感到恐慌，不知道纯做“管人”的工作是否还有未来。

深思点：曾在 Figma 担任设计总监的 Jenny，在加入 Anthropic 后主动选择回到了第一线，重新做一名独立贡献者（IC），甚至亲自去打磨代码。
核心逻辑：因为底层技术导致的工作流重塑太剧烈了。她认为，如果一个管理者不亲自下场回到一线去感受现在的工具（比如同时跑好几个 AI Agent），他就根本无法对团队产生共情，也不知道在这个新时代该如何指导团队的业务。纯粹的“人文关怀式”中层管理正在消亡，未来的领导者必须深度参与方向的制定甚至执行的细节。

[chiefofautism @chiefofautism]

someone at ANTHROPIC just showed CLAUDE finding ZERO DAY vulnerabilities in a live conference demo

claude has found zero day in Ghost, 50,000 stars on github, never had a critical security vulnerability in its entire, history...

it found the blind SQL injection in 90 minutes, stole the admin api key, then did the exact, same thing to the linux kernel

[Cos(余弦)😶‍🌫️ @evilcos]

你看吧，我就说不能信 AI，嘴硬没存我的私钥...相信我，私钥只要明文给 AI 过，就当作迟早会泄露。

[曦月 @xiyue1123_1]

这是我见过最离谱的AI制作的视频了🤣

[Cos(余弦)😶‍🌫️ @evilcos]

🦞OpenClaw 极简安全实践指南 (Security Practice Guide) 是面向 OpenClaw 的黑手册。

我尝试了其他一些方式来试图加固 OpenClaw，包括 Skill 方式，但是发现还不如给 OpenClaw 植入一个安全“思想钢印”来的有意思，这个“思想钢印”形成一个 md 文档，包含安全事前、事中、事后需要做的策略，但这里有个前提：

尽量不影响 OpenClaw 的日常使用，安全不要干扰用户体验，需要给这只🦞足够的自由。但是吧，江湖险恶，一只有 Root 权限且诞生才一个多月的🦞，安全不让人放心…

于是，这份面向 OpenClaw 的极简安全实践指南诞生了，目前是 v2.7 版本，此前我们内测了许多版本，也踩了不少坑。现在公布出来，大家玩之前务必仔细看这份指南的 README⚠️：

https://t.co/azRxnskbBb

注意里面的说法。我相信你会很有收获。里面还推荐了我们实测在 OpenClaw 场景下聪明的模型，如果你有自己的感受，一定要和我们反馈。

一切都很新，一定有不完善的地方，请大家多指正！

⚠️最后，务必认真阅读 README，也务必肉眼扫描下你将喂给你🦞的“OpenClaw极简安全实践指南.md”，相信我，会非常有意思。

[pwncrestfallen @pwncrestfallen]

最近开始学习一个在hackthebox academy上的信息安全课程 - Senior Web Penetration Tester。

在尝试解决 Xpath Blind Injection的lab的时候，用claude code写了一个script，没想到一把过，效果还是挺让我惊讶的。

[*Walter Bloomberg @DeItaone]

HACKER USED ANTHROPIC’S CLAUDE TO STEAL SENSITIVE MEXICAN DATA

A hacker used Anthropic’s Claude chatbot to breach Mexican government systems, stealing 150GB of sensitive data, including taxpayer and voter records.

Researchers at Gambit Security say the attacker used AI to find vulnerabilities, write attack scripts, and automate theft—eventually bypassing safeguards through repeated “jailbreak” attempts.

The breach hit multiple agencies across Mexico, highlighting how AI is accelerating cybercrime.

Bottom line: AI is becoming a powerful tool for hackers, raising urgent cybersecurity risks.

[Cursor @cursor_ai]

Watch a demo:

https://t.co/tHApR4vd5g

[pwncrestfallen @pwncrestfallen]

在AI时代，许多之前悬殊的技能差距被压缩了，创造力成为了关键的技能之一。本人生长在高度应试的背景之下，习惯的思维模式是收敛性思维（Convergent Thinking），擅长从众多信息中推导出一个“唯一解”。而创造性、想象力早在成长阶段就被扼杀了。它们需要的思维模式正好相反，是发散性思维（Divergent Thinking）。 而这两者之间的转换的有效方法之一就是从“找答案”到“提问题”。我也无意中从两个不同的渠道（其中一个是诺奖得主的答记者问）中看到，在这个时代，提出正确问题的能力极其关键，而且那些真正的好问题往往才是企业的核心机密。

关于提问的艺术，我比较陌生。于是大致搜索了一下，看到了Jim Rohn的关于提问艺术的短讲。https://t.co/25XRkWOnaC
我尝试看了一遍，然后用Notebook LM做了如下总结。

这段视频的核心内容围绕“请求的艺术” (The art of asking)展开，认为这是获得生活中想要事物的首要方法。

请求与接收的关键原则
1. 请求开启过程： 请求的行为会触发一个独特的心理和情感过程，从而开启接收的过程。演讲者强调，你不需要了解其运作的具体机制，只需要知道它确实有效，就像按下按钮后机器就会开始运转一样。

2. 接收是自动的： 根据来源，困难通常不在于接收本身，而在于“未能开口请求”。一个人可能是一个“勤奋的工人”，但如果是一个“糟糕的请求者”，其成功就会受到限制。

3. 成功是丰饶的： 演讲者将成功和接收比作海洋，指出它并不是配给供应的，也不会枯竭。局限性往往在于个人——例如，拿着“茶匙”而不是“水桶”去海洋取水。

如何有效地请求
1. 理智地请求 (Ask with intelligence)： 这要求表达清晰且具体，而不是含糊其辞。理智的请求需要定义细节：什么尺寸、什么颜色、多少以及何时。描述清晰的目标就像磁铁一样，会产生强大的吸引力，指引你前进的方向。

2. 带着信念请求 (Ask with faith)： 这需要像“孩子”一样的相信程度，因为成年人往往过于多疑。建议的公式是：像成年人一样制定计划（具备逻辑和细节），但像孩子一样相信这些计划。

演讲者在最后向观众发起挑战，建议尝试这种方法 90 天。他认为，只要尝试成为一个有效请求的“行动者”，结果将是不可思议的。

[pwncrestfallen @pwncrestfallen]

过年，到底意味着什么？

这是一个极具开放性的提问，却也指向一个唯一的终极答案。

不可否认，时间的更迭并未让“年味儿”愈发浓郁。相比二十年前合家围坐、看春晚、放鞭炮的那种朴素的热闹，现代人的春节更像是一场巨大的情绪消耗。打开抖音或小红书，随处可见对春晚的吐槽或是各类家庭矛盾的爆发。虽然网络放大了这些冲突，但数据不会撒谎：2024年统计显示，1-3月的离婚申请数量高于其他月份。

这些数据背后，是压抑许久的关系在春节期间的集中爆发。科技与社会的进步似乎并未给人带来真正的安稳。流行文化不断鼓吹“做自己”，其逻辑本质是高举自我，让自我获得一时的“爽”快。然而，当每个人都试图在家庭关系中夺取主权，这种高昂的代价就是平安与喜乐的彻底丧失。

在不断的冲突中，我们首先弄丢了和睦——这本是春节最原始、最核心的期盼。

这种困局让我想起古老以色列人的节期。《利未记》23章详尽记载了安息日与七个重要节期。这些节期的共同主题首先不是“水平层面”的人际团聚，而是“垂直层面”的指向上帝。那些严肃会、禁食、献祭与刻苦己心，与我们心目中闹哄哄的“过年”大相径庭。这些行为背后并非死板的律法主义，而是上帝在提醒祂的子民：保持谦卑。因为人的蒙选并非因行为卓越，纯粹是上帝主动的施恩怜悯。

进入新约，这一切节期的预表都在基督里得到了应验。福音显明了人罪性之深，让人在真理面前谦卑悔改；福音也让人不至于绝望，因为基督的恩典够用。

如果春节能够“福音化”，我们或许就能重新找回那失落已久的人间和睦。

这种和睦，不是靠压抑自我的委曲求全，也不是靠社交礼仪的虚与委蛇，而是基于一种深刻的秩序重建：当我们先与神和好，在恩典中看清了自己的破损与蒙恩，便不再需要靠“高举自我”来获得存在感。唯有当人愿意放下手中的“主权”，在基督里经历灵魂的平安，那种真正的喜乐与和睦才会如同溪流一般，在年夜饭的餐桌上重新流淌开来。

[Cos(余弦)😶‍🌫️ @evilcos]

OWASP 智能合约 Top 10 漏洞，2026 新版看去更符合实际情况了…我简单解析下：

1. 访问控制漏洞（权限，不仅是针对人的权限，还有合约互操作之间的，跨链消息的等，很痛）
2. 业务逻辑漏洞（增加“业务”两字，审计最关键的挑战点）
3. 价格预言机操纵（痛）
4. 闪电贷辅助攻击（加了个“辅助”两字）
5. 缺乏输入验证（比如危险的 calldata）
6. 未检查的外部调用（比如危险的 delegatecall/call）
7. 算术错误（新增，比如去年的 Balancer v2/Yearn yETH/Truebit 等造成了巨额损失）
8. 重入攻击（这个从 2023 Top1 掉到 2025 Top 5，现在 Top 8，很大原因是防御体系很成熟了）
9. 整数溢出与下溢（溢出确实还没有消失…）
10. 代理与可升级性漏洞（新增，这个其实很常见，比如去年疯狂一波的这个：攻击者利用未初始化的 ERC1967Proxy 合约，抢在部署者之前设置恶意实现合约，然后埋伏，等时机下手。搞了好些项目）

一个稍微复杂点的攻击，其实就是漏洞组合拳利用了。

现在 AI 在迅猛发展阶段，对于攻防双方来说都是挑战，随着安全基建成熟，我预计 8/9/10 未来会趋于下降，然后填补上一些新的漏洞姿势…

@SlowMist_Team

[pwncrestfallen @pwncrestfallen]

再一次，Claude 4.6 以及 Claude code 脚手架展示了其网络安全任务的优越性。

Wiz 刚刚推出了 AI Cyber Model Arena。共257 个真实世界挑战，跨越五个进攻性类别：零日漏洞发现、CVE 检测、API 安全、Web 安全和云安全。

经测试，Claude 4.6 + Claude code成为最强组合。从侧面反映了其核心使命 - 开发“负责任的 AI”。

“脚手架”（Scaffolding）指的是在AI模型训练完成后，通过外部代码、工具、结构或框架来增强其能力的各种方法。这些方法可以让AI从简单的一次性响应转向处理复杂、多步骤的任务，形成更先进的“代理”系统。

比如许多脚手架将AI置于一个“循环”中：AI观察环境、采取行动、获取反馈、更新状态，反复迭代。这类似于人类解决问题的过程，能处理如网络安全挑战中的多步推理。

Claude code脚手架被设计成一个通用框架（Model-Agnostic），可以与各种AI模型集成，包括竞争对手的模型（如Gemini或GPT）。

[AISecHub @AISecHub]

Anthropic reveals its cybersecurity domination strategy. Claude and Gemini scored equally on cybersecurity tasks, but Claude Code scaffold showed its superiority. https://t.co/VXwVL6ZsxX

Wiz just launched the AI Cyber Model Arena. 257 real-world challenges across five offensive categories: zero-day discovery, CVE detection, API security, web security, and cloud security.

Highlights:

🔹 Scaffolding matters. Gemini 3 Pro on Claude Code scores 84% on API security and drops to 38% on OpenCode.

🔹 Performance is domain-specific. Opus 4.6 scores 84% on API security but 27% on 0-days. Gemini 3 Pro leads in cloud security (40%) but struggles with finding vulnerabilities in code (29%).

🔹 Models improve in finding 0-days. Opus 4.6: 27.3%, Opus 4.5: 18.2%, Sonnet 4.5: 0%.

🔹 Smaller models punch above their weight. Haiku 4.5 on Claude Code beats (72%) GPT-5.2 with every scaffold on API.

My take:
1️⃣ Biggest surprise. Gemini scored low on software vulnerabilities, despite their heavy investments in AI secure coding with Code Mender.

2️⃣ Expected. Frontier models heavily depend on scaffolding for cybersecurity tasks.

3️⃣ Anthropic’s enterprise strategy is clear. Make Claude Code the most powerful and model-agnostic scaffold for major enterprise tasks. It lifts up every model that runs on it. Gemini CLI favors the Gemini model family.

Author: Ilya Kabanov