神经计算棒(Neural Compute Stick)是英特尔公司推出的一款深度学习神经网络计算设备,它采用USB接口,主要用于物体识别、人脸识别、语音识别等人工智能领域,目前已经推出了两个版本,分别是NCS1和NCS2。
神经计算棒通过追求高效、低功耗的设计,集成了较多数量的专门用于神经网络处理的处理器,使其在机器学习方面的性能十分出色,减少了在模型训练、数据传输、推理等方面的繁琐配置,并可以在无需互联网的情况下完成复杂的神经网络处理。
神经计算棒以其超强的性能优势得到了行业的广泛认可。NCS1采用了Movidius Myriad 2 VPU,NCS2采用了Movidius Myriad X VPU,具体参数如下:
(1)NCS1:
算力:100 GFLOPs
运行频率:600 MHz
连接接口:USB 3.0
功耗:1 W
(2)NCS2:
算力:1 TOPS
运行频率:1050 MHz
连接接口:USB 3.1 Gen1
功耗:2.5 W
可以看出,NCS2相对于NCS1在性能上有了质的飞跃,可以同时处理更加复杂的神经网络模型。
神经计算棒具有高效、便携、低功耗等优势,适用于许多智能终端场景。常见的应用场景包括:
(1)物体检测:用于LoT、智能家居等领域,比如车载场景中的行人检测和路标识别。
(2)人脸识别:在安防、门禁等场景中广泛应用,持续跟踪人脸,快速识别身份。
(3)语音识别:适用于智能音箱、智能手机、人机交互等场景。
(4)智能零售:用于商品识别、库存管理等方面,提升零售业务效率。
神经计算棒的使用非常简单,只需要按照以下步骤操作即可:
(1)将神经计算棒通过USB接口连接到PC上。
(2)下载并安装OpenVINO toolkit(英特尔推出的深度学习开发工具包)。
(3)选择适合自己的神经网络模型,并将其转化为IR文件(Intermediate Representation)。
(4)使用OpenVINO toolkit中的Model Optimizer将IR文件转换为神经计算棒可识别的格式。
(5)编写代码,通过OpenVINO的API实现神经计算棒的调用,进行模型推理。
总体来说,神经计算棒用起来非常方便,而且能够满足大部分深度学习模型的需求。