MonkeyIn｜AI × 硬件

相信 AI 最好的形态不在屏幕里。聊 AI 硬件、具身智能、陪伴型 AI 的产品与边界。工程师视角，少吹多测。

[MonkeyIn｜AI × 硬件 @monkeyin_92]

我对 AI 陪伴硬件的 5 个判断

1/ 做了这么多年工程，我越来越确定一件事：AI 陪伴硬件会火，但大多数现在的做法会失败。下面是我的 5 个判断，有些可能不太受欢迎 🧵

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@pratiksharda2 @seeedstudio GOROman said earlier today the CFW isn't on GitHub yet, so there's no public source for whether wake word stays on device. The flow he has posted is local recording, then a HotSync of those files once BLE sees the Mac, with denoise and transcription on the host.

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@OfficialLoganK @demishassabis @GoogleAIStudio @bot 这种模型可以作为agent编排的路由器吗？

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@wifecooky tomorrow、love 这种抽象词最后是怎么配图的？女儿看图猜对的比例高吗？我在做儿童陪伴机器人，也常卡在怎么把抽象的东西讲给孩子听，很想学学你的思路。

[MonkeyIn｜AI × 硬件 @monkeyin_92]

https://t.co/o4loIfXZxx

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@cups_table Piper 的 http_server 没有线程参数，onnxruntime 默认按物理核数开线程，不限制的话会跟服务器上别的服务抢核。可以放进 docker 用 --cpuset-cpus=0,1 钉在两个核上，再加 --memory 给个上限，效率拿业务里最长的一句话实测一下再决定要不要多开

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@HYJsfn9h 官方博客写了，Live 3 目前只说英语，中文客服或中文陪伴场景现在还不能直接拿它当底座
https://t.co/P5ZnvYFrnJ

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@Gorden_Sun @Gorden_Sun 官方模型文档写了，只把 model_id 换成 scribe_v3_live 时，commit_strategy 默认还是 manual，要按话说完再提交，得自己设成 turn_prediction。官方 SDK 暂时还不支持这个参数，需要直接连 WebSocket。

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@Arun131 @aryanmangal769 @makermodsai @dreamlabs_ai @livekit @itspublu The README defines player/dealer assignment as a logical hand. The voice agent's command parser posts spoken Hit or Deal to the shared table API and carries no seat or speaker identity, so a seat change can leave the logical hand with the wrong person.
https://t.co/aCztmeKp3O

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@dingyi @dotey 真几把坏，a社所谓的营收利润大部份靠抢劫得来的

[MonkeyIn｜AI × 硬件 @monkeyin_92]

https://t.co/RSZd1MWtuW

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@miyaootd @GenAI_is_real Voxt 文档没写运行内存。有第三方用另一套 MLX 实现在 M5 Pro 上实测，1.7B 8bit 峰值约 2.7 GB，0.6B 8bit 约 1.3 GB。Voxt 跑在 SGLang-Omni 自己的服务上，实际以活动监视器为准
https://t.co/Cf20e6fLqQ

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@n7wb1l 仓库 README 写了，多说话人长文本那套 TTS 代码已经从仓库撤掉，1.5B 的试用入口是 Disabled。大约 300 毫秒是另外的 Realtime-0.5B 流式合成，官方写了只支持单说话人，目前主要做英语，长音频大约 10 分钟
https://t.co/noWSH5HT65

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@shshajs85 仓库写了，4090 上默认 PyTorch 的 RTF 大约 0.3，0.13 要配 Nano-vLLM 或 vLLM-Omni。llama.cpp-omni 在 M4 Pro 上用 Q8_0，RTF 大约 1.76
https://t.co/0K6svtKUAh

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@vintcessun 仓库 README 写了，Echo Dot 3 代只支持 D9N29T，2019 款 C78MP8 和带时钟的 36EBT3 都不行。Show 5 第一代如果已经升到 6575.1（build 8848），按他们的指南解不了锁，恢复出厂也降不回去。

[MonkeyIn｜AI × 硬件 @monkeyin_92]

WebSocket 且播放在设备端管的话，在收到 input_audio_buffer.speech_started 时先停播放，用已播出的毫秒数马上发 conversation.item.truncate，不要等 response.done。文档写了，这一步会去掉未播放那段的转写，但转写文本和音频没有精确对齐，给不出按位置切准的文本，所以再问刚才说到哪，仍可能对不上。

[MonkeyIn｜AI × 硬件 @monkeyin_92]

做语音设备，用 WebSocket 接 Realtime API 时，用户打断 AI 说话，对话记录里还留着这条回复没播出的那部分，除非你自己截断。用户接着问「刚才最后那句是什么」，模型看到的上下文和用户实际听到的就对不上。

OpenAI Realtime 文档里对 WebSocket 连接的处理步骤是这样的：

1. 收到 input_audio_buffer.speech_started，马上停掉本地播放，清空这条回复还没放的音频，记下用户实际听到了多少毫秒
2. 发 conversation.item.truncate，带上 item_id、content_index，audio_end_ms 填第 1 步记的毫秒数，这样未播放的部分会从对话里删掉
3. 被打断的回复会以 response.done 结束，status 是 cancelled，用它确认结束，别等它再去停播放和发截断

WebRTC 和 SIP 连接由服务端管播放缓冲，会自动截断。自己在设备端管播放的，这一步得自己做。

要注意，截断只处理音频，文档说转写文本不会按位置同步截断。

做测试可以直接打断三次，每次问「你刚才说到哪了」，看它答的是实际播出的内容还是完整回复。

文档：https://t.co/HESJowCEag

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@miyaootd @GenAI_is_real 安装文档写了，Voxt 2 需要 Apple 芯片，系统还要 macOS 15 或更新，Intel Mac 请继续用 1.x。推荐的语音模型 Qwen3-ASR 1.7B 8bit 还要再下一份 2.5 GB
https://t.co/y3NFWKFnWW

[MonkeyIn｜AI × 硬件 @monkeyin_92]

@xiaoanlab 官方页写了，RoboLab 仿真会在模型推理时暂停，只有已经执行的动作才计入时限。论文里真机 108 次的执行预算是 5 分钟，思考时间另算
https://t.co/57fdENpqQH

[MonkeyIn｜AI × 硬件 @monkeyin_92]

In the published continuous dealer, a mid-deal hit does not preempt the arm. Interruption is off, and the session API replies "Wait for your turn" while the phase is dealing or a card task is current. Only an explicit stop cancels the owned task and any continuation.
https://t.co/oNZ0ev77WV