Xilinx如何实现AI推断

Xilinx AI软件平台提供全面的工具和库

AI 推断简介

Xilinx 提供全面的硬件和软件解决方案，以实现 AI 推断。下图显示了高层次组件。

部署在推断应用中时，Xilinx 适应性极强的硬件可加速大多数 AI/ML 模型

该模型由 Xilinx 工具优化，这些工具能与行业标准框架协同工作

优化后，该模型能够与 Xilinx 运行时及驱动程序软件协同工作，优化后的部分运行在 Xilinx 硬件中

移植非常简单，不需要硬件专业技术，也不需要 FPGA 编程经验

Xilinx 的 AI 优化工具提供深度神经网络 （DNN） 修正和量化以及其它优化功能，可减少模型尺寸，对精度的影响极小。

尽管可以根据确切的应用使用定制精度，通常情况下，模型也被量化为 16 位或 8 位，以便实现推断。