Dick Tang

Engineer. Builder. Still learning. // ex- // ex-@9GAG

[Dick Tang @dictcp]

Small weekend hack:

codex-model-tap — a mitmproxy addon to tap Codex traffic, inject custom model entries, and forward selected requests to your own model endpoint.

https://t.co/q5RFfdRJZE

[Dick Tang @dictcp]

想不到在離開前公司後，才有時間弄／包 mobile device farm 出來
https://t.co/nMyJK001Rf

[Dick Tang @dictcp]

@geekbb Bitwarden 是 E2E encryption. 所以這只是讓cloudflare 代存已加密數據.

[Dick Tang @dictcp]

@austinit 就是這樣氣人 🫂

之前工作也曾為了避免這類問題，把 Google pay 關掉

===
又，如果真的太氣，看看在 stripe 設定上 還有沒有空間加強吧 (雖然時間成本不一定合理)
https://t.co/LH0o6Sr9ZF

[Dick Tang @dictcp]

@austinit 海外就是這樣，信用卡發卡銀行（最終決定爭議的單位）很保護客戶

[Dick Tang @dictcp]

@austinit 用甚麼方式支付？
因為現代的信用卡有3ds/短訊OTP等方式，說被盜用的方式是少了

[Dick Tang @dictcp]

@manateelazycat 1

[Dick Tang @dictcp]

終於自建了 srs mail forwarding 來處理 Gmail pop3 fetcher sunset 但yahoo mail 不支持 mail forwarding

[DeepSeek @deepseek_ai]

🚀 DeepSeek-V4 Preview is officially live & open-sourced! Welcome to the era of cost-effective 1M context length.

🔹 DeepSeek-V4-Pro: 1.6T total / 49B active params. Performance rivaling the world's top closed-source models.
🔹 DeepSeek-V4-Flash: 284B total / 13B active params. Your fast, efficient, and economical choice.

Try it now at https://t.co/GCdiMzk1Dl via Expert Mode / Instant Mode. API is updated & available today!

📄 Tech Report: https://t.co/drlDrxkYtp
🤗 Open Weights: https://t.co/T13Y8i7SDM

1/n

[鱼总聊AI @AI_Jasonyu]

大佬就是大佬，苹果最封闭的那块都被你给撬开了。

这个叫 vphone-cli 的开源项目，可以在 Mac 上直接跑完整 iOS 系统虚拟机。

注意，这不是模拟器哈。是真的 iOS。

可以批量开，批量关，脚本控制，在CI 里直接用。

以前做 iOS 自动化测试要买一堆真机接一堆线，现在变成 vphone create 一条命令。

对普通开发者没啥用。 对做底层研究、安全分析、自动化测试的人来说，是真的爽，真的牛B。

GitHub: https://t.co/oluclzawZ2

[karminski-牙医 @karminski3]

Apple ANE 被成功逆向! 38TOPS 算力其实是数字游戏?

刚刷到博主 maderix 开源了个硬核项目: 逆向 Apple 的私有 API, 绕过 CoreML, 直接在 Apple Neural Engine (ANE) 上实现了神经网络训练!

等会? 啥是 ANE? ANE是苹果芯片内部的神经网络加速单元, M4 上目前已经是 16 核的运算单元了, 官方宣称性能有 38 TOPS. 但一直是黑盒, 你只能通过 CoreML 框架去调用, 没有任何公开接口, 没文档, 没 ISA, 啥都没.

于是这哥们把 CoreML 这层壳给扒了. 用了一些逆向手段(比如 dyld_info 扫描, method swizzling 拦 CoreML 等), 最终逆向出了完整的编译运行流程. 最关键的是, 他还搞通了内存编译路径, 可以直接在内存里把 MIL (类似 NVIDIA 的 PTX) 编译成 ANE 二进制. (方便用ANE训练大模型了)

然后逆向的过程中发现了很多爆炸性信息:

首先ANE本质上是个卷积引擎, 不是矩阵乘法引擎. 同样的计算, 改写成卷积运算吞吐量直接翻 3 倍! (Apple 自己的 ml-ane-transformers 参考实现里就暗示了这个模式, 但从来没有明说)

第二, ANE 内部有大约 32MB 的 SRAM. (做矩阵乘法 scaling 测试发现的性能断崖推测出来了)

第三, 单个算子只能用到 ANE 峰值性能的约 30%. 因为 ANE 的 16 个核是流水线式的, 你只提交一个操作, 大部分核在空转. 得把 16-64 个操作链在一张计算图里一次性提交, 不同的核同时处理图里不同阶段的操作, 利用率才能拉满到 94%.

最后也是最炸裂的发现: "38 TOPS" 是个数字游戏. 作者用 FP16 和 INT8 跑了完全相同的操作, 吞吐量一样. 结论是 ANE 在执行 INT8 时会先反量化到 FP16 再计算, 苹果的 "38 TOPS INT8" 就是拿 19 TFLOPS FP16 乘了个2的数字游戏. 真实峰值就是 19 TFLOPS FP16.

另外个细节: ANE 有硬件级电源门控, 空闲时功耗真的是 0mW, 不是低功耗待机, 是真的完全断电零泄漏, 这电源管理真的牛X. 移动端嗷嗷友好.

当然最主要的其实还是这个过程很有学习价值, 两个blog信息量超大, 我这里写不下, 建议感兴趣的同学直接读原文 inside-the-m4-apple-neural-engine, 我这只能抛砖引玉:

项目地址: https://t.co/jgTZy3ajoM
博客 Part 1 (逆向工程): https://t.co/xsAs2wCCXY
博客 Part 2 (基准测试): https://t.co/3ImbCpldvQ

#ANE #CoreML #AppleSilicon #NPU训练 #KCORES

[凡人小北 @frxiaobei]

听到一个字节面试官远程面试候选人，
如何抓对方用 ai 作弊的方法，朴素到离谱。

面试官突然说：你闭上眼睛回答这道题。

[Dick Tang @dictcp]

Salesforce no longer sells Slack directly in Hong Kong, Macau and Taiwan https://t.co/s9CoGFgkVg

[Dick Tang @dictcp]

@imwsl90 也可以试试这个

https://t.co/jMls8XJFgk

[李老师不是你老师 @whyyoutouzhele]

10月21日，继西贝天价预制菜后，一名博主发布视频称，其在上海万豪酒店举办婚礼晚宴，有宾客反映菜品口感不佳，怀疑酒店使用了预制菜。博主表示婚宴共花费约37.98万元，每桌餐标8888元。与酒店交涉后，酒店方面回应称“100%不会使用预制菜”。
但博主随后进入后厨拍摄发现，大量食材疑似为预制菜，包括婚宴菜单上的德国咸猪手、八宝饭、新鲜虾被替换为冷冻熟虾，以及马蹄笋等。
视频发布后，酒店方向其发出律师函，要求删除视频并致歉。目前酒店方面表示，已启动调查。

[Dick Tang @dictcp]

> Gmail will no longer support checking emails from third-party accounts through POP.

一個時代的結束 (I am using that feature....)

[Dick Tang @dictcp]

I’ve got my place in the queue for @RevolutApp ‘s banking revolution! Join me 👉 https://t.co/mCSnpRWpWN #RevInTheHKG

[Dick Tang @dictcp]

Dapr - Distributed Application Runtime https://t.co/P1qRcMbRoY

[Dick Tang @dictcp]

https://t.co/5RGegSbUXI

[Dick Tang @dictcp]

Self-hosting your VSCode online IDE, from Raspberry Pi 4 to AWS Graviton2
https://t.co/t5oAVgBX4a #vscode #aws #RaspberryPi