本周为将门-TechBeat技术社区第256期线上Talk，也是字节跳动人工智能实验室系列Talk第④弹！

北京时间11月12日(周四)晚8点，字节跳动AI Lab研究员—黄训蓬的Talk将准时在将门TechBeat技术社区开播！

他与大家分享的主题是: “如何利用高阶信息加速优化算法”。届时将从理论和实践两个角度来说明自适应梯度优化算法和高阶优化的千丝万缕的联系。

Talk·信息

▼

主题：如何利用高阶信息加速优化算法

嘉宾：字节跳动AI Lab研究员 黄训蓬

时间：北京时间 11月12日 (周四) 20:00

地点：将门TechBeat技术社区

http://www.techbeat.net/

Talk·提纲

▼

近年来，随着机器学习的兴起和神经网络模型的广泛使用，如何高效训练神经网络使之收敛成为了非常重要的课题。AdaGrad、Adam等自适应梯度优化算法也正是因为有较快的收敛性而在实践中备受青睐，然而并没有一种理论观点得以解释他们能够带来加速的原因。本次Talk将从理论和实践两个角度来说明这些算法和高阶优化的千丝万缕的联系。

本次分享的主要内容如下：

1. Second Moment Matrices如何加速神经网络训练

2. 如何高效精确估计目标函数Hessian矩阵

3. 自适应梯度算法的理论进展

Talk·提问交流

▼

方式 ①

在本文留言区直接提出你的问题，或扫描下方二维码提问！问题被选中的小伙伴们将获得一个红包奖励！

方式 ②

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，说不定就被讲者直接翻牌解答了呢！

你的每一次贡献，我们都会给予你相应的i豆积分，近期还会有惊喜奖励哦！

Talk·观看方式

▼

扫描下方二维码，或复制https://datayi.cn/w/rREqZJYR至浏览器，一键完成预约！上线后会在第一时间收到通知哦~

嘉宾介绍

▼

黄训蓬2018年从中国科学技术大学毕业，师从陈恩红教授，主要研究方向是矩阵与机器学习。同年加入字节跳动AI Lab MLNLC组担任算法研究员，主要研究方向为非凸随机优化以及自适应梯度优化算法。在AAAI，IJCAI，DASFAA, Information Science等人工智能机器学习的会议期刊上发表论文数篇。

关于TechBeat社区      

▼    

TechBeat(www.techbeat.net)是一个荟聚全球华人AI精英的成长社区。我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！     

更多详细介绍>>https://mp.weixin.qq.com/s/Bd9MOmrFlHSSSvTecUsz_A