欢迎光临散文网 会员登陆 & 注册

HLS 后端示例

2023-08-28 17:10 作者:HyperAI超神经  | 我要投稿

更多 TVM 中文文档可访问 →https://tvm.hyper.ai/



TVM 支持带有 SDAccel 的 Xilinx FPGA 板,接下来介绍如何将 TVM 部署到 AWS F1 FPGA 实例。

备注

此功能仍处于测试阶段,目前无法用 SDAccel 部署端到端神经网络。

本教程使用了两个 Python 脚本:

  • build.py - 用于合成 FPGA 比特流的脚本。

  • run.py - 将 FPGA 作为加速器的脚本。


设置

  • 用 FPGA Developer AMI 启动实例。无需 F1 实例来进行仿真和合成,因此推荐用开销较低的实例。

  • 设置 AWS FPGA 开发套件:

  • 启用 OpenCL 前设置 TVM。

仿真

  • 为仿真创建 emconfig.json:

  • 将 emconfig.json 复制到 Python binary 目录下:因为当前的 Xilinx 工具包假定宿主机的二进制文件和 emconfig.json 文件处于同一路径。

  • 运行软件仿真:

  • 运行硬件仿真:


合成

  • 用以下脚本进行合成:

  • 创建 AWS FPGA 镜像,并将其上传到 AWS S3:

这会生成 awsxclbin 文件(在 F1 实例上使用 AWS FPGA 镜像必需)。

运行

  • 启动 Amazon EC2 F1 实例。

  • 将 myadd.somyadd.awsxclbin 和 run.py 复制到 F1 实例中。

  • 设置 AWS FPGA 开发套件:

  • 启用 OpenCL 前设置 TVM。

  • 以 root 身份设置环境变量:

  • 运行:



HLS 后端示例的评论 (共 条)

分享到微博请遵守国家法律