本期为TechBeat人工智能社区第407期线上Talk。北京时间5月25日(周三)20:00，北卡州立大学计算机系助理教授——胥栋宽的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “资源高效的深度学习: 规模化人工智能的民主化”，届时将分享其最近的研究贡献，这些贡献围绕着资源高效的深度学习，将人工智能从“参数-数据-计算”的饥饿野兽中解放出来。

Talk·信息

主题：资源高效的深度学习: 规模化人工智能的民主化

嘉宾：北卡州立大学计算机系助理教授 胥栋宽

时间：北京时间 5月25日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/Aovr4b5o至浏览器，一键完成预约！上线后会在第一时间收到通知哦

Talk·介绍

在过去的十年中，深度学习的惊人成功主要是由越来越大的深度神经网络模型的构建推动的。这些模型通常强加一个理想的假设，即有足够的资源，包括大规模的参数、足够的数据和大规模的计算，用于优化。然而，这个假设在现实世界的场景中通常会失败。例如，计算机内存可能是有限的，如在边缘设备中，大规模的数据由于昂贵的成本和隐私限制而难以获得，计算能力受到限制，如在大多数大学实验室。因此，这些资源差异问题阻碍了深度学习技术在许多人工智能应用中的民主化，开发能够适应不同资源约束的高效深度学习方法具有重要意义。

这次Talk中，讲者将介绍最近的研究贡献，这些贡献围绕着资源高效的深度学习，将人工智能从“参数-数据-计算”的饥饿野兽中解放出来。首先，我将介绍我在pretrain-then-finetune范式下对神经网络修剪的贡献，它提高了大规模语言模型在推理阶段的参数效率，使修剪后的模型比原始模型的参数少一个数量级，同时达到相同或更好的预测精度。然后，我将谈论我的任务不可知的神经网络结构搜索框架，以减少训练阶段寻找最佳修剪模型的计算成本，这对提高推理阶段的参数效率是一种补充。最后，我将在演讲的最后简要介绍我正在进行的和未来的工作，作为未来几年新的和相关的问题和潜在合作的更广泛的研究议程的一部分。

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

胥栋宽，将于2022年秋季加入北卡州立大学 (North Carolina State University) 工学院计算机系，担任助理教授。他于2014年本科毕业于中国人民大学，2017年硕士毕业于中国科学院 (获中科院院长奖学金，国家奖学金), 2022年将博士毕业于美国宾州州立大学(Penn State University, PSU)。

胥栋宽致力于高效深度学习，主要探究如何提升深度神经网络模型的参数、数据、算力的效率，开发低功耗的算法-硬件协同设计解决方案。其论文多次发表在机器学习、自然语言处理、数据挖掘的顶级会议和期刊 (NeurIPS, AAAI, ACL, NAACL, IJCAI等)，并拥有和提交8项美国专利/申请。他在PSU担任过9门课程的客座讲师或助教 (获PSU杰出教学支持奖)，在会议/大学/公司做过多次讲座和报告，指导过6名学生的研究工作，担任了超过28个顶级会议和14个研究领域期刊的 (高级) PC委员或常规期刊评审员，多次获得 IST学术旅行奖及各种学术会议的奖学金。

此外，作为创始学术委员会成员，胥栋宽还发起了国内外知名的MLNLP (机器学习算法与自然语言处理) 社区。他与业界公司和高校有着丰富的合作经验，曾在Microsoft Research (Redmond)、AI芯片创业公司Moffett AI、和NEC美国实验室实习，并与Princeton University、UT Austin、Northeastern University、University of Connecticut、Texas A&M University等高校有紧密的合作。胥栋宽的长期研究目标是使人工智能民主化，以服务更广泛的人群和领域。

个人主页：http://www.personal.psu.edu/dux19/

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ