如何让大规模深度学习变得更容易?今晚8点,一流科技袁总带你走近"OneFlow" !
「超级云讲堂第58期」
指导单位:中国计算机学会高性能计算专业委员会
主办单位:北京超级云计算中心
直播平台:bilibili、视频号、知乎、微博、抖音
本期嘉宾:袁进辉,一流科技创始人,清华大学博士,之江实验室天枢开源开放平台架构师,原微软亚洲研究院主管研究员。

OneFlow:
如何让大规模深度学习变得更容易
近年来,大规模预训练模型因其在文本生成等应用上优异的表现而备受关注,但通用深度学习框架无法直接支持此类需求。目前,通用深度学习框架仅支持数据并行,还不能支持大规模预训练模型所需要的模型并行、流水并行等技术,只有高度定制的专用软件系统才能满足需求。如何在通用深度学习框架统一、灵活、高效的支持这些技术挑战成为业界研究热点,本期分享袁总将系统介绍开源深度学习框架OneFlow的设计理念、技术实现和应用。
内容章节
01 大规模分布式深度学习的研究现状
02 大规模分布式深度学习系统的核心机制
03 大规模分布式深度学习训练方案的对比
04 大规模分布式深度学习训练技术在预训练模型和搜推广等领域的应用
预约直播有福利!
扫码报名预约,开播前有短信提醒;观看直播可参与互动抽奖,更可免费领取5000核时/500元卡时计算资源。
互动抽奖 礼品
ACM中国-国际并行计算挑战赛(IPCC)2022纪念帽衫-秋冬限定版

特邀讲师

2008年于清华大学计算机系获得工学博士学位(优秀博士学位论文奖),2008~2011年在清华大学计算机系从事计算神经科学方面的博士后研究,原微软亚洲研究院主管研究员,于2017年创立北京一流科技有限公司,致力于打造新一代深度学习框架OneFlow。兼任之江实验室天枢开源开放平台架构师,北京智源人工智能研究院大模型技术委员会委员。


「超级云讲堂」由中国计算机学会高性能计算专业委员会指导,北京超级云计算中心主办,是集科研、学术、教育为一体的在线科普、公益直播讲堂。邀请各领域技术大咖、知名学者解读最新、最热科研、科普话题,分享基于云上科研环境的应用经验与成功实践。致力于打造一个易参与、乐分享、勤思考、善实践的科研、科普、学术交流平台,搭建科研、教研工作者与公众的纽带和桥梁,不但注重科学思想的传播,更注重不同领域思想的交叉和碰撞,志在营造多元的、思辨的科学文化交流氛围。
目前云讲堂已连续开播57期,B站粉丝数量1.1W+,累计观看次数达500000+,并拥有29个直播交流群,群活跃粉丝数量6000+。
往期课程观看链接:
https://space.bilibili.com/505497082
直播扣扣交流群号:794834983
直播平台:bilibili、视频号、知乎、微博、抖音
科普、公益、多元、思辨
