Mipsology FPGA机器学习端口为数据中心

2020年6月24日//尼克费海提
Mipsology的斑马神经网络加速软件在Xilinxs Alveo U50
Mipsology已经将其Zebra神经网络机器学习加速软件移植到Xilinx肺泡U50加速卡的最新版本。

欧洲机器学习和人工智能软件开发商Mipsology签署了一项协议,将其Zebra神经网络加速软件用于Xilinx的Alveo U50数据中心加速卡的最新版本。

Alveo U50是业界首款低姿态的可适应加速器,支持PCIe Gen 4。Zebra工具允许机器学习框架作为推理引擎快速、轻松地移动到FPGA上,使用更小的Alveo卡可以在cpu和gpu上实现更多的推理性能。

“当我们开始Mipsology我们看谁会使用它,所以我们没有改变框架,我们没有改变培训,我们没有改变的工具,这意味着我们99.5%透明,“卢多Larzul说,首席执行官和创始人Mipsology和法国模拟器公司的前首席执行官夏娃。“我们已经开发了机器学习框架的所有层,所以在框架中使用一个Linux命令,我们捕获了应该进入GPU的调用,它进入我们的堆栈,并进入FPGA板上的驱动程序。没有API,因为我们所做的就是框架,”他说。

他说,数据中心用户的关键在于简单性和性能。Zebra的设计不需要任何硬件或软件知识,只需要机器学习框架即可。

他说:“为了提高性能,我们采用INT8(8位整数格式)。“五年前,我们使用FP32(32位浮点,通常用于培训),但由于每个人都在转向INT16,我们放弃了它,所以我们将FPGA重新编程为INT16,然后我们引入了我们自己的量化INT8。我们可以采用FP32框架,如Resnet152,可能需要10到15分钟,但我们可以保持精度,误差在1%之内。”

Zebra给我们的肺泡卡带来的加速水平让CPU和GPU加速器相形见绌


您êtes确定吗?

如果您有饼干,您就可以在这个网站上找到导航器。

您可以访问être重编者谷歌。

Baidu