Innatera推出用于SNN的神经形态AI加速器,支持sub-mW AI推理

原文链接:Innatera neuromorphic AI accelerator for spiking neural networks (SNN) enables sub-mW AI inference 由Jean-Luc Aufranc撰写。

备注:SNNspiking neural networks称为尖峰神经网络

目前大多数的 AI 加速器主要都是依赖 CNN(卷积神经网络)然后以比 CPU 内核甚至 GPU 更快、更有效的方式执行 AI 推理。不过,其实还有另一种类型的神经网络,即尖峰神经网络(SNN),它使用的是电信号中尖峰的时间,并以类似于大脑神经元的方式执行模式识别任务。

该神经网络效率方面的说法则比较令人难以置信,它每瓦的性能比微处理器和数字加速度计的要高 10,000 倍,能耗低 500 倍,延迟短 100 倍。

Innatera神经形态人工智能加速器
Innatera神经形态人工智能加速器
(包括神经突触阵列和尖峰编码器和解码器,通过 I2C 或 SPI 连接到主机处理器上)

目前已经有好几家公司在开发用于尖峰神经网络的神经形态 AI 加速器了,特别是专注于图像处理的Prophesee正在开发超低功耗 AI 加速器的Innatera,以及处理音频、健康、用于声音和语音识别的雷达、生命体征监测、老人跌倒传感器等。

最近,Innatera(荷兰神经形态处理器公司)就提供了有关其解决方案的更多信息,所以接下来我们一起来详细了解一下该解决方案。在与 EETimes 交谈时,Innatera 的营销和业务发展副总裁 Marco Jacobs 解释说,传感器有时间序列数据,而不是非常并行的图像,在三个应用程序上的加速器目标通常是发生在传感器节点上的,这可能是因为电池供电所致的。

音频测试显示神经元簇(点组)的音素检测图
音频测试显示神经元簇(点组)的音素检测图
(随着噪声的增加,这些星团还是可以被看到,只是比较难被发现)

在Innatera的音频测试中,每个峰值事件(即每个神经元对输入数据作出反应)在TSMC 28nm过程中需要的能量一般少于200毫焦耳,这接近生物神经元和突触所消耗的能量。因为,一个典型的音频关键字识别应用每次推理需要的是低于500个的峰值事件,亚毫瓦推断是可能的,而Innatera AI加速器可以直接在电池供电的传感器节点中实现常开模式的识别能力。

Innatera 的神经形态 AI 加速器预计会在今年年底面世。

分享这篇文章
<-- Multiplex code - to do -->
0 评论
内联反馈
查看所有评论