本期为TechBeat人工智能社区第346期线上Talk。

北京时间9月29日(周三)晚8点，清华大学在读博士生—李一鸣的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “后门攻击简介”，届时将介绍后门攻击的基础知识和一些经典方法，并介绍他在这个领域的一些探索。

Talk·信息

主题：后门攻击简介

嘉宾：清华大学在读博士生 李一鸣

时间：北京时间 9月29日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/korewgZP至浏览器，一键完成预约！

上线后会在第一时间收到通知哦~

Talk·提纲

后门攻击是一种新兴的针对深度学习模型的攻击方式，攻击者旨在模型的训练过程中通过某种方式对模型植入后门。当后门未被激发时，被攻击的模型具有和正常模型类似的表现；而当模型中埋藏的后门被攻击者激活时，模型的输出变为攻击者预先指定的标签，以达到恶意的攻击目的。后门攻击可以发生在训练过程并非完全受控的很多场景中，包括但不限于使用第三方数据集、使用第三方平台进行训练、直接调用第三方模型等，因此对模型的安全性造成了巨大威胁。在本次分享中，我们将介绍后门攻击的基础知识和一些经典方法，并介绍我们在这个领域的一些探索。

本次分享主要为：

1、后门攻击的基础知识

2、后门攻击的代表工作

3、我们的相关探索

Talk·参考资料

这是本次分享中将会提及的资料，建议提前预习哦！

Paper List:

[1] Gu T, Liu K, et al. Badnets: Evaluating Backdooring Attacks on Deep Neural Networks, 2017.

[2] Chen X, Liu C, et al. Targeted Backdoor Attacks on Deep Learning Systems using Data Poisoning, 2017.

[3] Turner A, Tsipras D, Madry A. Label-Consistent Backdoor Attacks, 2019.

[4] Saha A, Subramanya A, Pirsiavash H. Hidden Trigger Backdoor Attacks, 2020.

[5] Tang R, Du M, et al. An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks, 2020.

[6] Li Y, Wu B, et al. Backdoor Learning: A Survey, 2020.

[7] Li Y, Zhai T, et al. Rethinking the Trigger of Backdoor Attack, 2020.

[8] Li Y, Li Y, et al. Invisible Backdoor Attack with Sample-Specific Triggers, 2021.

[9] Zhai T, Li Y, et al. Backdoor Attack against Speaker Verification, 2021.

Github Resources: 

https://github.com/THUYimingLi/backdoor-learning-resources

知乎入门介绍文章链接：

https://zhuanlan.zhihu.com/p/160964591

知乎相关专栏链接：

https://www.zhihu.com/column/c_1340010673653395456

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

李一鸣，清华大学四年级在读博士生，师从夏树涛和江勇教授。其研究主要专注于AI安全，尤其是后门学习，对抗学习和数据隐私保护。

个人主页：

http://liyiming.tech

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ