直播 | 商汤科技龚睿昊&李雨杭: 基于块重建的离线量化算法

本周为商汤 x TechBeat系列直播课,也是ICLR 2021系列Talk第⑤期。
北京时间4月14日(周三)19:00,商汤科技高级研究员—龚睿昊、见习研究员—李雨杭的直播课将准时在将门B站直播间开播!
本次Talk的主题是: “基于块重建的离线量化算法”,届时将分享有关模型压缩、离线量化、高效推理等方面的研究与思考。
课程信息
主题:基于块重建的离线量化算法
嘉宾:商汤科技见习研究员 李雨杭、商汤科技高级研究员 龚睿昊
时间:4月14日(周三) 19:00
地点:将门-TechBeat社区 B站直播间
https://live.bilibili.com/22183939

课程摘要
在深度学习的各个垂直领域中,模型量化被广泛应用以加速推理部署。然而现在的量化感知训练方法需要消耗大量的训练资源,成本极高。如何使用离线量化来快速生产一个效果媲美量化感知训练的模型至关重要,因此基于块重建的离线量化算法具有极高的工业落地价值。本次分享的主要内容如下:
1. 模型量化基本概念
2. 量化感知训练和离线量化区别
3. 离线量化的难点
4. 基于块重建的离线量化
5. 如何实现离线混合精度
6. 实验对比
7. 讨论
参考资料
这是本次分享中将会提及的资料,建议提前预习哦!
1. Up or Down? Adaptive Rounding for Post-Training Quantization
https://arxiv.org/pdf/2004.10568.pdf
2. Brecq: Pushing The Limit Of Post-Training Quantization By Block Reconstruction
https://arxiv.org/pdf/2102.05426.pdf
主讲人

商汤科技高级研究员
龚睿昊,硕士毕业于北航计算机学院,大三下加入商汤科技实习,现为商汤科技高级研究员。期间先后从事视频结构化解析系统开发,模型量化压缩框架的设计开发和相关算法研究,服务大量业务线模型的压缩落地。曾获得商汤科技未来之星、腾讯犀牛鸟人才培养计划、CCF优秀大学生、北京市三好学生、国家奖学金等,在ICCV、CVPR、ICLR、PR等期刊会议上发表10篇论文(其中2篇一作,4篇二作)。现主要研究和工作方向为: 深度学习模型压缩和部署编译,致力于打破硬件彩票假设,最大化榨取模型和系统的潜力。

商汤科技见习研究员
李雨杭,去年开始加入商汤科技实习,现为耶鲁大学准博士一年级新生。期间主要的研究方向为模型量化与部署,包括量化感知训练和后训练量化以及量化框架的开发设计,致力于解决神经网络在部署过程中低速推理的问题。曾在ICLR,AAAI,CVPR,IEEE VR会议上发表论文共计6篇。
关于TechBeat人工智能社区
▼
TechBeat(www.techbeat.net)是一个荟聚全球华人AI精英的成长社区。我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!
更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ