欢迎光临散文网 会员登陆 & 注册

AMD 发布针对 AI 优化的 ROCm 5.6

2023-07-21 12:50 作者:AMD中国  | 我要投稿

近日,AMD 发布了新的 AMD ROCm 5.6 开放软件平台 ,AMD AI群组高级副总裁 Vamsi Boppana 在博客(https://community.amd.com/t5/rocm/new-rocm-5-6-release-brings-enhancements-and-optimizations-for/ba-p/614745/jump-to/first-unread-message)中重点介绍了 ROCm 5.6 的一些新功能。

对于 AI 和 LLM 工作负载,ROCm 5.6 带来了:

· 将 Hugging Face 单元测试套件集成到 ROCm QA 中

· PyTorch 2.0 感应器模式下对 OpenAI Triton 的增量支持

· 通过 ROCm 对 PyTorch、TensorFlow 和 JAX 提供 OpenXLA 支持,支持更广泛的社区。 

对于 HPC 应用程序,ROCm 5.6 引入了对 FFT、BLAS 和求解器等多个数学库的改进,这些数学库构成了 HPC 应用程序的基础,并增强了 ROCm 开发和部署工具,包括安装、ROCgdb(CPU-GPU 集成调试器)、ROCm 分析器 和文档。

在接下来的几个月中,AMD 还将进一步优化框架和后端编译器,以实现更佳性能,其中包括 MLIR 基础设施改进,巩固 AMD 对 OpenAI Triton 和 OpenXLA 编译器的支持。 客户还可以在 Hugging Face 的 AMD 中心内期待更多针对AMD 解决方案优化的开源 AI 模型。

此外,AMD 透露,今年晚些时候,对AMD ROCm 的正式支持将开始在部分基于 AMD RDNA 3 的 GPU 上推出。Linux 上对基于 RDNA 3 的 GPU 的正式支持计划于今年秋季开始推出,首先是 48GB Radeon PRO W7900 和 24GB Radeon RX 7900 XTX,随着时间的推移,还会发布更多卡和扩展功能。


AMD 发布针对 AI 优化的 ROCm 5.6的评论 (共 条)

分享到微博请遵守国家法律