本期为TechBeat人工智能社区第342期线上Talk。

北京时间9月9日(周四)晚8点，滑铁卢大学计算机学院助理教授—张弘扬的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “机器学习对抗稳健性：从经验到有理论保障的防御模型”，届时将介绍其理论结果揭示了“通过随机噪声达到稳健性”的本质困难，并启发了新的研究方向。

Talk·信息

主题：机器学习对抗稳健性：从经验到有理论保障的防御模型

嘉宾：滑铁卢大学计算机学院助理教授张弘扬

时间：北京时间 9月9日 (周四) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/xogayXDR至浏览器，一键完成预约！上线后会在第一时间收到通知哦~

Talk·提纲

机器学习模型往往极易受到对抗样本的攻击。由此带来了人工智能落地应用的巨大挑战，尤其是在诸如自动驾驶、对安全性要求较高的领域。另外，对抗样本的存在也揭示了人类和现阶段机器学习性能的差别。

本次分享主要为：

1、机器学习模型往往极易受到对抗样本的攻击：人眼不可察觉的数据细微变化经常会造成机器学习模型错误的判断结果。

本Talk主要关注测试阶段机器学习针对对抗样本的两类稳健模型：

1）经验防御；2）有证明保障的防御。

2、Talk的第一部分主要介绍我们组在经验防御模型方面的一系列新结果。我们的方法启发于机器学习稳健性和准确性之间的权衡关系，并由此设计了目前最好的经验防御模型训练算法TRADES。该方法帮助我们在NeurIPS 2018视觉对抗挑战赛（双赛道），Google非限制对抗样本挑战赛及标准benchmark RobustBench中获得第一名。由此设计的攻击方法也帮助我们组在CVPR 2021安全AI挑战赛的1,559支队伍中荣获冠军。

3、Talk的第二部分主要介绍我们组在有证明保障的防御模型方面的一系列理论结果。我们主要关注Randomized Smoothing方法。正面结果方面，对TRADES训练得到的分类器使用Randomized Smoothing算法可以达到目前最优的可证明稳健性。负面结果方面，我们证明Randomized Smoothing算法无法处理高维数据。我们的理论结果揭示了“通过随机噪声达到稳健性”的本质困难，并启发了新的研究方向。

Talk·参考资料

这是本次分享中将会提及的资料，建议提前预习哦！

[1] Hongyang Zhang, Yaodong Yu, Jiantao Jiao, Eric P. Xing, Laurent El Ghaoui, Michael I. Jordan.“Theoretically Principled Trade-off between Robustness and Accuracy”, ICML 2019.

[2] Avrim Blum, Travis Dick, Naren Manoj, Hongyang Zhang. “Random Smoothing Might be Unable to Certify L_infty Robustness for High-Dimensional Images”, JMLR 2020.

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

张弘扬，滑铁卢大学计算机学院助理教授，同时隶属于向量AI研究院。他于2015至2019年的3年半时间内获得卡内基梅隆大学计算机学院机器学习系博士学位，师从Maria-Florina Balcan和David P. Woodruff。在此之前，张博士毕业于北京大学，师从林宙辰和张超教授。2019至2021年期间，张博士于芝加哥丰田技术研究院从事博士后工作，师从Avrim Blum和Greg Shakhnarovich。他的近期研究方向包括可信机器学习，人工智能安全，自监督学习。张博士的工作在包括NeurIPS 2018 Adversarial Vision Challenge（双赛道），CVPR 2021 Security AI Challenger等多个国际大赛中荣获冠军。他在顶级会议及期刊中发表30多篇论文，著有专著1本，并担任多个AI顶级会议的领域主席。

个人主页：

https://hongyanz.github.io

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ