Talk预告 | 剑桥大学苏熠暄:对比搜索(Contrastive Search)当前最优的文本生成算法

本期为TechBeat人工智能社区第461期线上Talk!
北京时间12月8日(周四)20:00,剑桥大学在读博士生——苏熠暄的Talk将准时在TechBeat人工智能社区开播!
他与大家分享的主题是: “对比搜索(Contrastive Search)—当前最优的文本生成算法”,届时将分享其在NeurIPS2022上的工作及接下来的一篇后续工作。
Talk·信息
主题:对比搜索(Contrastive Search)—当前最优的文本生成算法
嘉宾:剑桥大学在读博士生 苏熠暄
时间:北京时间 12月8日(周四) 20:00
地点:TechBeat人工智能社区
http://www.techbeat.net/

Talk·介绍
文本生成在自然语言处理领域有着重要地位。传统的生成方法如贪心搜索(Greedy Search)或集束搜索(Beam Search)经常会导致模型退化(Model Degeneration)的问题。其他方法如Top-K采样或核采样(Nucleus Sampling)则经常会导致语义信息不一致的问题。在本次报告中,讲者将介绍在NeurIPS 2022中最新提出的对比搜索(Contrastive Search)算法。该方法已在16种语言下得到了广泛的验证,并且已经部署在腾讯AI Lab上线产品(Effidit)以及Huggingface Transformers平台库中。本次Talk主要分为两个部分。首先会分享讲者在NeurIPS 2022上的工作,之后会介其接下来的一篇后续工作。
Talk·提问交流
在Talk界面下的【交流区】参与互动留下你的打call🤟和问题🙋,和更多小伙伴们共同讨论,被讲者直接翻牌解答!

你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!
Talk·预习资料
A Contrastive Framework for Neural Text Generation
https://arxiv.org/abs/2202.06417https://github.com/yxuansu/simctg
Contrastive Search Is What You Need For Neural Text Generation
http://arxiv.org/abs/2210.14140https://github.com/yxuansu/Contrastive_Search_Is_What_You_Need
Talk·嘉宾介绍

剑桥大学在读博士生
苏熠暄,剑桥大学博士生,导师为Nigel Collier教授。此前他于剑桥大学获得硕士学位,于北京理工大学获得本科学位。他的研究方向关注于大规模语言模型,文本生成,以及表征学习。到目前为止,他已与NeurIPS,ACL,EMNLP,NAACL,EACL等会议中发表十余篇论文。
主页:https://yxuansu.github.io/

-The End-

关于TechBeat人工智能社区
TechBeat (www.techbeat.net) 是一个荟聚全球华人AI精英的成长社区。 我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。 期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!
更多详细介绍>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ