本期为TechBeat人工智能社区第387期线上Talk，也是伊利诺伊大学安全学习实验室“可信机器学习: 机器学习鲁棒性，隐私性，泛化性，及其内在关联”的系列Talk第⑦场。北京时间3月9日(周三)20:00，伊利诺伊大学在读博士生——徐晓骏的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “后门攻击及针对其的可验证模型鲁棒性”，届时将介绍两种防御措施，一种是在测试时的检测模型，从而判断当前模型是否含有后门；另一种是在训练时的可验证鲁棒训练算法，使得训练者即使在后门数据集上也能训练出良好的模型。

Talk·信息

主题：后门攻击及针对其的可验证模型鲁棒性

嘉宾：伊利诺伊大学在读博士生徐晓骏

时间：北京时间 3月9日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/xRxBv8jo至浏览器，一键完成预约！上线后会在第一时间收到通知哦

Talk·提纲

近年来机器学习技术不断发展，已经在许多领域取得了成果。然而机器学习模型的训练需要大量数据和计算资源，为此，很多人会使用他人共享的数据集或训练完成的模型。这种共享行为会导致许多安全隐患，在本次讲座中我们就会介绍一种比较著名的攻击——后门攻击。攻击者能通过修改训练集或模型参数，在模型中加入后门并共享给他人。这类后门模型在普通的输入上表现正常，然而，当输入中包含特殊的触发图案时，模型就会被攻击者操纵而产生错误输出。在本次Talk中，我们会介绍两种防御措施，一种是在测试时的检测模型，从而判断当前模型是否含有后门；另一种是在训练时的可验证鲁棒训练算法，使得训练者即使在后门数据集上也能训练出良好的模型。

具体分享提纲如下：

· 机器学习中的后门攻击。

· 测试时针对后门模型的检测。

· 训练时针对后门数据集的可验证防御。

Talk·预习资料

测试时针对后门模型的检测：

https://arxiv.org/pdf/1910.03137.pdf

代码：

https://github.com/AI-secure/Meta-Nerual-Trojan-Detection

训练时针对后门数据集的可验证防御：

https://arxiv.org/pdf/2003.08904.pdf

代码：

https://github.com/AI-secure/Robustness-Against-Backdoor-Attacks

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

徐晓骏
伊利诺伊大学在读博士生

徐晓骏，现为伊利诺伊大学厄巴纳-香槟分校（UIUC）的四年级博士生，导师为李博教授和Carl A. Gunter教授。徐晓骏当前的主要研究方向为机器学习模型训练时的安全性保证，以及可验证的机器学习鲁棒性，从而为大型机器学习模型在实际生活中的应用提供安全保障。徐晓骏已在机器学习与计算机安全顶会（NeuRIPS, ICLR, CVPR, Oakland, CCS）上发表多篇论文。徐晓骏于2018年以优秀毕业生身份毕业于上海交通大学致远学院ACM班，并获得UIUC Computer Science Excellence奖学金。

个人主页：

https://scholar.google.com/citations?user=rdMZZQwAAAAJ&hl=zh-CN

系列Talk介绍

伊利诺伊大学安全学习实验室SL2(Secure Learning Lab)（http://boli.cs.illinois.edu/）由助理教授李博以及10名博士生和1名博士后组成，实验室隶属于计算机组(https://cs.illinois.edu/)。

我们相信机器学习的安全性，隐私保护，可解释性等可信赖性质是引领未来机器学习算法和模型大规模部署和应用的重要特质，尤其是在自动驾驶等对安全性质要求颇高的应用中。基于此核心理念，SL2实验室的研究重点是构建可验证性的可信机器学习算法，平台和系统，从而部署于不同的实际应用中。

从2月16日开始，每周三、周四晚20点，伊利诺伊大学安全学习实验室的老师及同学们将带来一系列的Talk分享，议程如下：

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ