本期为TechBeat人工智能社区第382期线上Talk，也是伊利诺伊大学安全学习实验室“可信机器学习: 机器学习鲁棒性，隐私性，泛化性，及其内在关联”的系列Talk第③场。北京时间2月23日(周三)20:00，伊利诺伊大学在读博士生——吴凡的Talk将准时在TechBeat人工智能社区开播！

她与大家分享的主题是: “强化学习的可验证鲁棒性”，届时将分享第一个对于强化学习鲁棒性验证的统一框架，以状态层面的行为稳定性和轨迹层面的累计回报下界作为验证标准，为强化学习系统提供鲁棒性验证。

Talk·信息

主题：强化学习的可验证鲁棒性

嘉宾：伊利诺伊大学在读博士生吴凡

时间：北京时间 2月23日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

完整版怎么看？

扫描下方二维码，或复制链接https://datayi.cn/w/lPQrp7ao至浏览器，一键完成预约！上线后会在第一时间收到通知哦 

Talk·提纲

当下，强化学习被大规模地应用于诸如自动驾驶之类的安全敏感的应用中，然而一系列针对强化学习的攻击的工作揭露了其脆弱性。尽管目前有一些经验化的防御被提出，但它们又会被更强的适应性的攻击化解。鉴于此，我们认为仅仅通过测试，或通过经验性地防御去提高系统鲁棒性并不足以切实提供可靠保障——我们需要的是对强化学习系统的鲁棒性的严格验证。于是，我们提出了第一个对于强化学习鲁棒性验证的统一框架，以状态层面的行为稳定性和轨迹层面的累计回报下界作为验证标准，为强化学习系统提供鲁棒性验证。

在本次Talk中，讲者会具体介绍针对该问题的两篇工作，分别着眼于强化学习系统在测试和训练阶段的鲁棒性，以不同的方式获得鲁棒模型及其验证。

具体分享提纲如下：

· 针对强化学习测试阶段的鲁棒性验证

· 针对离线强化学习训练阶段的鲁棒性验证

Talk·预习资料

CROP论文：

https://openreview.net/forum?id=HOjLHrlZhmx

CROP leaderboard: 

https://crop-leaderboard.me/

COPA论文：

https://openreview.net/forum?id=psh0oeMSBiF

Talk·提问交流

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

Talk·嘉宾介绍

吴凡，现为伊利诺伊大学厄巴纳-香槟分校（UIUC）Secure Learning Lab (SL2) 的二年级博士生，在李博教授门下接受指导。吴凡当前的主要研究方向为可信赖机器学习，包括安全性，隐私性，以及可解释性。她还特别着眼于强化学习的场景，通过为其提供鲁棒性验证、或利用数据价值评估工具或知识准则，意图达到更安全、高效、可解释的强化学习。吴凡目前已有多篇论文发表在相关领域的顶级会议，包括机器学习会议（ICLR、CVPR、NeurIPS）及计算机安全会议（IEEE S&P、ACM CCS）。吴凡于2020年以优秀毕业生荣誉本科毕业于南京大学。

个人主页：https://kkkkahlua.github.io/

系列Talk介绍

伊利诺伊大学安全学习实验室SL2(Secure Learning Lab)（http://boli.cs.illinois.edu/）由助理教授李博以及10名博士生和1名博士后组成，实验室隶属于计算机组(https://cs.illinois.edu/)。

我们相信机器学习的安全性，隐私保护，可解释性等可信赖性质是引领未来机器学习算法和模型大规模部署和应用的重要特质，尤其是在自动驾驶等对安全性质要求颇高的应用中。基于此核心理念，SL2实验室的研究重点是构建可验证性的可信机器学习算法，平台和系统，从而部署于不同的实际应用中。

从2月16日开始，每周三、周四晚20点，伊利诺伊大学安全学习实验室的老师及同学们将带来一系列的Talk分享，议程如下：

关于TechBeat人工智能社区

TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ