本周为TechBeat人工智能社区第296期线上Talk。

北京时间4月20日(周二)晚8点，新加坡国立大学在读博士—周大权的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “迈向更深的Vision Transformer”，届时将介绍有关深度学习，模型架构，Vision Transformer的相关研究与近期的一些进展和思考。

Talk·信息

▼

主题：迈向更深的Vision Transformer

嘉宾：新加坡国立大学在读博士 周大权

时间：北京时间 4月20日 (周二) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接 https://datayi.cn/w/39lMAODR 至浏览器，一键完成预约！上线后会在第一时间收到通知哦~

Talk·提纲

▼

最近研究表明，在没有domain inductive bias的情况下，Transformer也可以在视觉任务中取得和CNN相匹配的效果。然而如何基于已有的Vision Transformer提升性能仍未很好地被探索。在传统卷积神经网络中广泛使用的深度缩放，在Transformer 网络中是否依然有效？

本次分享的主要内容如下：

1. Transformer在视觉分类任务中的应用

2. 现有的Vision Transformer架构总结

3. 训练有深度的Vision Transformer

Talk·参考资料

▼

这是本次分享中将会提及的资料，建议提前预习哦！[1] DeepViT: Towards Deeper Vision Transformerhttps://arxiv.org/abs/2103.11886

[2] An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 

https://openreview.net/forum?id=YicbFdNTTy

[3] Deep Residual Learning for Image Recognition

https://arxiv.org/abs/1512.03385

Talk·提问交流

▼

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

▼

周大权，NUS 数据科学深度学习方向三年级博士生，师从冯佳时教授。研究方向是深度学习神经网络的架构设计，压缩优化与自动搜索。他在ICLR， ECCV，ICCV，CVPR，NeruIPS等计算机视觉与机器学习顶会发表多篇论文。其工作曾被机器之心等媒体报道。他曾参与设计新加坡第一个商业人造卫星的研发。

关于TechBeat人工智能社区

▼

TechBeat(www.techbeat.net)是一个荟聚全球华人AI精英的成长社区。我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ