胡楠 | 端侧 AI

爱维联创/CTO｜合作开发 AI 智能硬件：端侧能力、产品取舍与落地验证｜华为金牌个人、前腾讯资深架构师｜合作微信 cughnn。
😎关注必回关

[胡楠 | 端侧 AI @Michael_AI_Hu]

重新介绍一下自己，我叫胡楠楠 Michael Hu。

在华为、腾讯做了十多年技术，拿过华为“金牌个人”，也做过资深架构师和解决方案专家。以前觉得，能把一个复杂系统做好，已经很了不起了。

现在想再往前走一步。

从软件走向软硬件一体，从解决方案走向全栈，从打工走向创业。我和伙伴一起创办了 https://t.co/0RvZ56x20N，担任 CTO，也到一线做 FDE。

最重要的决定只有一个，ALL IN AI。

这次不只想把方案讲明白，还想看着它变成一件真正有人拿起来、愿意天天用的产品。兴奋是真的，心里没底的时候也是真的。接下来就在这里记录这段路。

做 AI、做硬件、正在考虑转身的朋友，认识一下。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@HuJay41187 光照这个坑真的太常见了。实验室灯光一直很均匀，一到窗边逆光视觉就开始飘。我觉得合成数据补光照、反光这类分布最划算，但抓取时的接触和力反馈，仿真还是差点意思，最后还得回真机录一批。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@niuniu25633 手机发需求、家里电脑干活，这个形态我挺认同的，我们做端侧 agent 也是往这个方向走。好奇一个细节，12G 显存同时挂 Qwen-Image int8 和 Wan 5B 肯定放不下，切模型的时候是每次卸载重载吗？30 秒成片要一小时，我猜不少时间花在换模型上。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@15669558wer 祝你早日实现目标

[胡楠 | 端侧 AI @Michael_AI_Hu]

大家都来互动吧？关注必回关

[胡楠 | 端侧 AI @Michael_AI_Hu]

开通蓝v第一天才30个关注，会不会太慢了？
大家快来跟我互动交流下吧
#蓝v互动#浇朋友

[胡楠 | 端侧 AI @Michael_AI_Hu]

@neroking 3.46B 激活确实快，但 78B 的总参数还是得有地方放。Q4 量化下来也要四十来 G，所谓一张卡装下，大概率是 48G 那档。显存不够就把专家放到内存里，速度掉多少才是 LocalLLaMA 上最值得看的数据。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@yupi996 说实话这步挺关键。合上盖子任务就停，一直是本地 agent 最难受的地方，Anthropic 干脆把执行环境整个搬走了。代价是文件得拷上去，隐私边界就变成了哪些文件被拷过。我们做端侧 agent 也卡在这儿，任务常驻和数据不出门很难两头都要。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@DavidDamato_ If that 72 to 96GB flip is real, it says a lot. A robot can't wait on a round trip to a datacenter mid-grasp, so the memory has to live on the device. That puts Optimus in the same line for DRAM as every server rack. Do you know which memory type AI5 uses?

[胡楠 | 端侧 AI @Michael_AI_Hu]

@Aarav_Chouhan21 Most of those pins asked people to change a habit on day one. Phones already sit in the pocket and earbuds already sit in the ear, so the wearable that wins probably piggybacks on one of those. Curious what you're building at Moonshot, is it hardware too?

[胡楠 | 端侧 AI @Michael_AI_Hu]

@kr00tmantech Ha, so true. I think the setup is the easy part now. The hard part is giving it a job it does every day without you babysitting it, like sorting your notes or watching a folder. Once it has one boring daily task, the box stops feeling like a toy.

[胡楠 | 端侧 AI @Michael_AI_Hu]

@JackZhang2046 鞋垫这个方向其实挺难做的。脚底压力、步态这些数据很有价值，但电池和防水天天被踩，换一次电就劝退一批人。我觉得能活下来的智能穿戴，大多是用户根本想不起来要充电的那种。你看到的这款有说续航多久吗？

[胡楠 | 端侧 AI @Michael_AI_Hu]

Kickstarter：https://t.co/HvBwfuY66J
Kicktraq 数据：https://t.co/b48EkrKgl1

[胡楠 | 端侧 AI @Michael_AI_Hu]

LUMIVAR 10 月 3 日上的 Kickstarter，项目地在香港，目标才 8000 港币，几天就冲到了 8 万多。

卖点是一台设备同时扫隐藏摄像头、可疑无线信号和追踪器。住酒店、民宿的人确实焦虑这个，涨得快不奇怪。

我关心的是它靠镜头反光还是射频找摄像头，误报多不多，关了 Wi-Fi 的针孔能不能找到。这些目前只有项目页自己说，还没看到外面的拆解或实测。链接在评论区。

[胡楠 | 端侧 AI @Michael_AI_Hu]

产品图

[胡楠 | 端侧 AI @Michael_AI_Hu]

SOXAI 这枚 RING X，宽 5.19 毫米，厂商标最长 10 天续航。10 月 2 日晚上在 Kickstarter 开的众筹，厂商说头 72 小时 2868 人支持，认筹过了 63.5 万美元。

智能戒指现在卷的就是做细和撑久，小码手指一直被电池卡着。不过 10 天是按美码 10 到 13 号算的，戴小码的得打个折。

我更想看它能不能把睡眠数据讲成人话，这决定你能不能戴满三个月。链接在评论区。

[胡楠 | 端侧 AI @Michael_AI_Hu]

Kickstarter：https://t.co/KddtF85Kqi
厂商新闻稿：https://t.co/frnKEvwdRW

[胡楠 | 端侧 AI @Michael_AI_Hu]

@ai_xiaomu 鹈鹕这题单看一张图很难比，同一个 prompt 我会各跑五次看稳定性。另外想问下三台 Spark 之间是怎么切的，张量并行走 200G 网口的话，首 token 延迟大概多少？本地满血版最容易输给 API 的往往在这儿。

[胡楠 | 端侧 AI @Michael_AI_Hu]

The number I'd want next to 18–40 tok/s is prefill time at 64K. Long prompts are where ANE pipelines have historically struggled, and that decides whether it's usable for agent work or just chat. Also curious about DFlash2's acceptance rate as context grows. If it drops, that could explain a good part of the 40 to 18 slide.

[胡楠 | 端侧 AI @Michael_AI_Hu]

Grip force from EMG is a smart angle, video can't see it at all. The hard part I'd expect is mapping forearm EMG to fingertip force across people, since skin, fat and band placement shift the signal a lot. Do you calibrate per wearer, or learn a shared embedding and fine-tune on a few grasps?

[胡楠 | 端侧 AI @Michael_AI_Hu]

@shenghouxuyao 我会拿三件事判断“属于你”是不是真的。断网之后它还能干多少活，模型和记忆存在机器里还是厂商云上，哪天厂商不维护了它会不会变砖。三条都过关，价格才值得认真看。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@PavelAn50487360 这个标签多半是被卖卡号带出来的。我自己看部署帖，最信那种把整套配置、实测 tok/s、整机功耗和每月电费都摊开的，顺便写清楚哪些场景其实直接调 API 更划算。敢写不建议买的地方，基本就没人往奸商上想了。