AI 设备的第一个重大技术决定不是模型,而是算力档位。它决定成本、续航、板子大小,以及没有网络时产品还能做什么。
几个档位
- 单片机级。 成本和功耗都低。处理唤醒词、简单音频和传感器,重活交给手机或云端。适合小型、电池供电的产品。
- 无线 SoC 级。 增加无线和更大的内存,常运行实时操作系统。适合音频设备、联网玩具和穿戴。
- 带 NPU 的 Linux 处理器。 在设备上跑视觉、较大的语音模型和丰富的显示,运行完整操作系统。功耗、板面积和物料成本都更高。
- 显示与音频辅助芯片。 把绘图、声音和电机控制从主芯片上分担出去。
什么决定选择
- 哪些必须离线可用。 没网络时还能回应的角色,需要更多本地能力。
- 视觉。 摄像头接模型,通常会把产品推向 NPU 档位。
- 显示。 生动的屏幕表情需要比基础控制器更强的芯片。
- 电池和体积。 每升一档,都要付出功耗和空间。
- 每个用户的云成本。 端侧处理越多,它越低,这可能改变商业模式。
档位要匹配产品
带屏幕和摄像头的桌面陪伴,处在偏上的档位。会说话的毛绒玩具偏下。穿戴设备更低。合适的档位,是能老实完成任务的最低一档,而不是能买到的最高一档。
在原理图之前选好
之后再换档位,意味着新板、新固件,往往还要新认证。要从需求、成本、供货和认证约束出发来选,而不是从团队碰巧熟悉的那一颗芯片出发。
四个档位,从 NPU 级 Linux 处理器到单片机,见能力页;成本上的取舍见AI 玩具机芯那一篇。
在规划 AI 设备?告诉我们你想做什么。