斯坦福大学马腾宇：如何为深度模型找到好的显式正则化方法？

2019-12-26 14:23 作者:智源社区 0人读过 | 我要投稿

马腾宇是谁？

你应该听过 2018 年获得ACM 博士论文奖荣誉奖的那位年轻人；

或许也关注过COLT 2018 的最佳论文奖是位华人；或许还记得 2016 年在那个还被叫做 NIPS 的会议上获得最佳学生论文奖的博士生；

或许也耳闻有位“姚班”大神，博士一毕业就获得了斯坦福大学的教职，并被姚期智高度赞扬 “将来一定会在该领域留下非常深刻的痕迹” 。是他，就是他！12月30日，马腾宇博士将在北京进行一场学术报告，我们将有机会一睹其风采。

下面是这次学术报告的详细介绍：深度模型有高超的学习（数据拟合）能力，但为了提高模型的泛化能力、让模型在新的数据上也有好的表现，我们需要寻找一些方法干扰模型的训练过程，避免模型“记住”训练数据，这就是正则化。本次报告邀请了斯坦福大学计算机科学和统计学助理教授马腾宇博士，他将给大家带来的报告题目是《为深度模型设计显式正则器》，在这次分享中，马腾宇老师会介绍一些近期的显式正则化方法。设计显shi正则器以提高深度神经网络的推广能力，推导深度神经网络基于数据依赖的推广边界，并根据经验对边界进行规范化，以在标准精度或稳健精度方面获得改进的推广能力，最终将这些技术应用于不平衡数据集等最新研究结果。

报告嘉宾

马腾宇博士现为斯坦福大学计算机科学和统计学助理教授。主要研究领域包括机器学习和算法，如非凸优化、深度学习及其理论、强化学习、表示学习、高维统计等。已在国际顶级会议和期刊上发表高质量论文40多篇。获得2018 ACM博士论文奖荣誉奖(Honorable Mentions)，NeurIPS 2016最佳学生论文， COLT 2018最佳论文奖。本科就读于清华大学交叉信息研究院，是2008级“姚班”学生。毕业后前往美国在普林斯顿攻读博士学位，期间师从Sanjeev Arora教授。