备注： YOLOv3即You Only Look Once v3，一种实时物体检测识别视频、实时提要或图像中特定对象的算法。
在 2020 年，我第一次撰写了有关Flex Logix InferX X1 AI推理加速器的文章。当时我介绍的是InfexX X1M M.2 AI加速器模块，这一模块适用于边缘服务器、PC、笔记本电脑和嵌入式系统，当时官方预估的上市时间是2021年第二季度。
当然，实际花费的时间比他们自己预估的要长。不过他们最终还是推出了外形尺寸大约一根口香糖大小的M.2 2280 InferX X1M板，该板十分适用于功率受限的应用场景，例如机器人视觉、工业、安全和零售分析。
InferX X1M模块规格：
- InferX X1边缘推理加速器，带有4K MAC和8 MB分布式的SRAM、带有4MB DDR3 RAM的 eFPGA
- 系统内存 – LPDDR4X（容量未公开）
- 接口 – M.2 B+M Key edge连接器，带 x4 PCIe GEN3/4
- 尺寸 – 22 mmx 80 mm
- 功率预算 – 6 至 8.2W TDP
Flex Logix目前没有在产品页面上提供太多信息，如果你们感兴趣、想了解更多详情可以查看他们2021年的演示文稿，可以着重了解性能方面的信息。
这些卡在使用 YOLOv3 处理416×416 图像时，可以用6W的TPD，每秒进行30 次推理 (IPS)；在 8.2W TDP 的情况下，这个数字上升会略高于50 IPS。其实，早在 2020 年的时候，该公司就想在M.2卡上以19W的功率预算运行X1。但这显然是不可能的，因为M.2外形尺寸的热限制使得其TDP最高只能达到 8W左右。
该公司也表示，InferX X1M板可以处理Yolov5，而且还针对大型模型和batch=1 的百万像素图像进行了优化，可以用于对象检测、边缘服务器和工业视觉系统等所需高分辨率图像处理能力的设备当中。Flex Logix还提供了各种软件工具，包括一个实用程序，该程序主要用于移植经过训练的 ONNX 模型, 以及在 X1M上运行一个简单的runtime 框架，它也支持Linux和Windows中的推理处理；另外还有一个具有外部API的驱动程序来配置和部署模型。
据我所知，这些工具都不是公开可用的。如果你们有需要用的话，必须要购买该模块并要求公司提供相关的软件。价格方面，以1000个批量订购Flex Logix InferX X1M M.2 AI加速器板时，单片模块的价格是399美元。
十分感谢 TLS 的提示。
文章翻译者：Taylor Lee，瑞科慧联（RAK）高级嵌入式开发工程师，有丰富的物联网和开源软硬件经验，熟悉行业主流软硬件框架，对行业发展动向有着敏锐的感知力和捕捉能力。