欢迎光临散文网 会员登陆 & 注册

贪心高性能神经网络与AI芯片应用研修

2023-08-12 11:31 作者:bili_74890469624  | 我要投稿

FPGA芯片

FPGA可编程的阵列(Field-Programmable Gate Array),作为ASIC领域中的一种半定制电路而出现,本质上是基于无指令,无需共享内存的体系架构创新,满足了特定场景的需求。

FPGA主要通过以下手段提升性能、降低时延;减少能耗、降低成本:

1、 通过烧入可配置、可反复刷写的FPGA配置文件来定义大量门电路和存储器间的连线。

2、 通过配置文件,将FPGA变成不同的处理器,支持各种不同的深度学习计算任务。

3、 FPGA中的寄存器和片上内存,属于各自的控制逻辑,无需不必要的冲裁和缓存。

根据研究发现,对于大量的矩阵运算GPU计算能力远高于FPGA,但是由于FPGA体系结构特点,非常适用于低时延、流式计算密集型任务处理。在类似海量并发的云端推断,比如语音云识别场景,FPGA相比GPU具备更低计算时延的优势,能够提供更佳的消费者体验。

但是,FPGA芯片本质上是通过预编程的方法来提升性能的,AI需要处理的内容往往是大量非结构化数据,例如视频、图像等,这类数据很难通过预编程的方法得到满意的结果。相反,需要通过人工智能芯片,进行大量样本训练和推理交互,形成算法模型后,集成了AI芯片和算法的智能设备,才能具备智能推理能力。


贪心高性能神经网络与AI芯片应用研修的评论 (共 条)

分享到微博请遵守国家法律