本周为TechBeat人工智能社区第322期线上Talk。

北京时间7月20日(周二)晚8点，清华大学计算机系在读博士生——国孟昊的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “External Attention 和 EAMLP”，届时将介绍有关一种新的注意力机制External attention和一种MLP结构EAMLP的进展。

Talk·信息

主题：External Attention 和 EAMLP

嘉宾：清华大学计算机系在读博士生国孟昊

时间：北京时间 7月20日 (周二) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/koreXNQP至浏览器，一键完成预约！

上线后会在第一时间收到通知哦~

Talk·提纲

最近 Self-attention和Transformer在计算机视觉中取得了巨大的成功。本次 Talk 主要讲述了一种新的注意力机制External attention和一种MLP的结构EAMLP，以及对最近出现的一些MLP做了一个简单的讨论。

本次分享的主要内容如下：

1.self-attention 以及一些变体

2.external attention 和线性层

3.multi-head external attention 和 EAMLP

4.MLP-> CNN -> Transformer -> MLP 是否是一个圈？

5.潜在的方向和挑战

Talk·参考资料

这是本次分享中将会提及的资料，建议提前预习哦！

[1] https://arxiv.org/abs/2105.02358

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

国孟昊，清华大学计算机系20级博士生。研究方向为计算机视觉、计算机图形学、深度学习。计图的开发者之一，曾在国际会议/期刊 ICLR/IPMI/CVMJ 上发表论文。

个人主页：

https://menghaoguo.github.io/

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ