摘要:Nordic nRF54LM20B集成Axon NPU,在声音分类、关键字识别和图像检测等任务中,性能提升7倍,能效提升8倍。Neuton模型小于5KB,比同类CPU模型小10倍。Nordic Edge AI Lab简化了边缘AI开发流程。本文从NPU架构、超小型模型和开发工具三个维度,分析nRF54L系列如何将边缘AI带入电池供电的IoT设备。
一、Axon NPU:超低功耗AI加速的硬件基础
nRF54LM20B的核心是Axon NPU,这是一款超高效的AI硬件加速器,专门为边缘AI工作负载设计。
性能数据值得关注。与同类的边缘AI解决方案相比,Axon在声音分类、关键字识别和图像检测等任务中,性能提升高达7倍,能效提升高达8倍。这个能效提升意味着,原本需要频繁更换电池的设备,现在可以运行数月甚至数年。
芯片规格。nRF54LM20B集成了2MB NVM、512KB RAM、128MHz Arm Cortex-M33处理器和RISC-V辅助处理器,支持蓝牙LE、蓝牙信道探测、Matter over Thread等功能。2MB NVM和512KB RAM的配置,对于运行TinyML模型和协议栈来说是充足的。
与离散NPU方案的对比。Axon NPU集成在SoC内部,比采用离散NPU芯片的方案更高效。离散方案需要额外的芯片间通信开销和占板面积,集成方案消除了这些开销。
二、Neuton模型:小于5KB的超小型AI
Nordic与Neuton合作,提供了超小型的边缘AI模型。
Neuton模型的大小优势。Neuton模型通常在5KB以下,比同类CPU运行的模型小10倍,速度更快,效率更高。对于存储资源受限的MCU,模型大小是关键约束。
模型类型。Neuton模型用于异常检测、活动和手势识别、生物特征监控等应用。这些任务的模型规模有限,但对实时性和能效要求高。
定制化。Nordic Edge AI Lab帮助开发者生成定制的Neuton模型。开发者可以基于自己的数据训练模型,然后部署到nRF54L系列SoC上。
部署案例。一家全球供应链解决方案公司利用Nordic Edge AI Lab开发的人工智能模型,升级了其智能跟踪设备,在nRF54L系列SoC上直接检测冲击、摇晃和运输等实际事件。
三、Nordic Edge AI Lab:简化边缘AI开发
Nordic Edge AI Lab是一套工具,用于简化并加速边缘AI开发。
工具链的组成。Edge AI Lab提供从数据采集、模型训练到部署的完整流程。开发者不需要深入理解AI框架和量化技术,就可以生成适合目标硬件的模型。
工作流。开发者通过Edge AI Lab采集数据、训练模型、评估性能,然后导出为可部署的格式。工具链自动处理模型量化和优化。
与nRF54L的集成。Edge AI Lab生成的模型可以直接部署到nRF54L系列SoC上。工具链与Nordic的SDK和开发环境集成。
开发门槛的降低。Edge AI Lab的目标是让嵌入式工程师不需要成为AI专家,就可以将AI能力集成到产品中。这降低了边缘AI的开发门槛。
四、对嵌入式工程师的影响
第一,边缘AI的能效优先。nRF54L的7倍性能提升和8倍能效提升说明,边缘AI的核心指标是能效而非峰值算力。嵌入式工程师需要理解微焦耳每推理这个指标。
第二,超小型模型的价值。Neuton模型小于5KB,说明边缘AI不需要大模型。嵌入式工程师需要理解模型压缩和量化的基本方法。
第三,工具链的成熟度。Nordic Edge AI Lab降低了边缘AI的开发门槛。嵌入式工程师需要掌握这类工具链的使用方法。
第四,电池寿命的延长。nRF54L的能效提升直接转化为电池寿命的延长。嵌入式工程师需要理解能效优化对产品可用性的影响。
五、总结
Nordic nRF54L系列通过Axon NPU和Neuton模型,将边缘AI带入电池供电的IoT设备。7倍性能提升和8倍能效提升,使高速率传感器数据、音频和事件驱动型AI工作负载可以在微型电池供电下稳定运行。
对于嵌入式工程师而言,nRF54L意味着边缘AI的能效优先和超小型模型的价值。掌握Nordic Edge AI Lab等工具链,是进入边缘AI开发的关键。