胡楠 | 端侧 AI

爱维联创/CTO｜合作开发 AI 智能硬件：端侧能力、产品取舍与落地验证｜华为金牌个人、前腾讯资深架构师｜合作微信 cughnn。
😎关注必回关

[胡楠 | 端侧 AI @Michael_AI_Hu]

重新介绍一下自己，我叫胡楠楠 Michael Hu。

在华为、腾讯做了十多年技术，拿过华为“金牌个人”，也做过资深架构师和解决方案专家。以前觉得，能把一个复杂系统做好，已经很了不起了。

现在想再往前走一步。

从软件走向软硬件一体，从解决方案走向全栈，从打工走向创业。我和伙伴一起创办了 https://t.co/0RvZ56x20N，担任 CTO，也到一线做 FDE。

最重要的决定只有一个，ALL IN AI。

这次不只想把方案讲明白，还想看着它变成一件真正有人拿起来、愿意天天用的产品。兴奋是真的，心里没底的时候也是真的。接下来就在这里记录这段路。

做 AI、做硬件、正在考虑转身的朋友，认识一下。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@tngzhyn6 有道理，既然长跑就慢慢积累

[胡楠 | 端侧 AI @Michael_AI_Hu]

@RwatitFahsa 有浇必回

[胡楠 | 端侧 AI @Michael_AI_Hu]

@100_btc_holder follow，了

[胡楠 | 端侧 AI @Michael_AI_Hu]

@web3tmr 冒个泡，认识下各位蓝友

[胡楠 | 端侧 AI @Michael_AI_Hu]

@bryce456663 来了

[胡楠 | 端侧 AI @Michael_AI_Hu]

@yoney1223 多走动浇友必回

[胡楠 | 端侧 AI @Michael_AI_Hu]

@1shenyingheisou 主动作为，多浇朋友

[胡楠 | 端侧 AI @Michael_AI_Hu]

@xychen1128 多交流，互浇

[胡楠 | 端侧 AI @Michael_AI_Hu]

@ItsmeAjayKV Price comes down to memory more than the chip. LPDDR5X contract prices keep climbing, that's basically why Spark keeps getting pricier. Xiaomi buys LPDDR at phone scale, so if anyone ships a big unified memory box under Spark money, it's them.

[胡楠 | 端侧 AI @Michael_AI_Hu]

@W2679966465 相信你，浇给必回

[胡楠 | 端侧 AI @Michael_AI_Hu]

@johnyxee 真诚相识，以ai浇友

[胡楠 | 端侧 AI @Michael_AI_Hu]

@HYJsfn9h 祝贺一下，关注ai硬件的朋友欢迎浇起

[胡楠 | 端侧 AI @Michael_AI_Hu]

@secreat743289 关注AI硬件的朋友互浇起来

[胡楠 | 端侧 AI @Michael_AI_Hu]

@cailai_43 你这个体量和我比就是大体量了，浇起来

[胡楠 | 端侧 AI @Michael_AI_Hu]

@gbbacoffee 关注ai硬件盆友可以多互动

[胡楠 | 端侧 AI @Michael_AI_Hu]

@Jtxccjdbb 希望你早日达目标，已浇

[胡楠 | 端侧 AI @Michael_AI_Hu]

@jurlycat Two Sparks over ConnectX-7 means splitting the model hurts decode more than prefill. 40 tok/s is still plenty for a coding loop though. Curious how long the context got by the end, Claude Code sessions blow past 100K fast and that's usually where local setups start crawling.

[胡楠 | 端侧 AI @Michael_AI_Hu]

@GoSailGlobal token 是不限了，可一张 4090 满载 450W 上下，24 小时挂着电费也不少。更卡的其实是权限，助理得能看微信、日历，能替你回消息，本地模型再强接不进这些，也就只能陪聊。

[胡楠 | 端侧 AI @Michael_AI_Hu]

@Fei2411 涨价根子其实在 LPDDR5X，Spark 那 128G 跟 Mac 的统一内存是同一类颗粒，手机厂也在抢货。mini 内存是焊死的，后面加不了，真要买就一次配够，等降价估计等不到。

[胡楠 | 端侧 AI @Michael_AI_Hu]

muse gadgets开源硬件已成功刷到esp32设备中，personal agent做大脑，端侧硬件做手脚的时代开始了