深度学习在自然语言处理中的应用 从词表征到ChatGPT
链接:https://pan.baidu.com/s/1scfJIEfdCQIbDBw5ly7KyQ?pwd=iqdx
提取码:iqdx

1. Meta资深工程师、数据科学家、机器学习算法研发专业人员执笔,传递值得借鉴学习的经验和见解。
2. 从研究员和实践者的双重角度出发,系统介绍深度学习技术原理及其在自然语言处理中的应用。
3. 汇集该领域的重要思想和研究成果,清晰梳理自然语言处理技术发展脉络,帮助读者更好地了解该领域的发展历程和趋势。
4. 内容新颖全面,聚焦前沿,讲解深入浅出、通俗易懂,适合入门自然语言处理,是一本不容错过的优质参考书。
内容简介
本书针对当前火热且应用前景广阔的自然语言处理(NLP),介绍了深度学习的技术原理及其在自然语言处理中的应用;简要分析了该领域各个应用方向上的相关模型和关键技术,包括Transformer、BERT、GPT,等等;汇集了众多论文中的重要思想和研究成果;系统梳理了技术发展脉络。此外,本书还介绍了如何使用深度学习技术来训练模型,并分析了其在应用中的表现及优化手段,以帮助读者更好地将理论应用于实践。本书内容通俗易懂,可作为入门自然语言处理的参考书。
作者简介
张镭
目前在Meta公司从事机器学习算法研发。美国伊利诺伊大学芝加哥分校计算机科学博士,主要研究领域为自然语言处理、机器学习和数据挖掘。在国内外学术期刊和会议上已发表20多篇学术文章,获得多项美国专利,合著有Mining Text Data等4本关于文本数据挖掘和大数据计算的图书,并长期受邀担任自然语言处理国际期刊评委和国际会议程序委员会委员。
精彩书评
以预训练语言模型为代表的深度学习技术是当下自然语言处理的核心技术。该书从自然语言处理和深度学习基础开始,详细介绍了GloVe、Word2Vec、BERT、GPT等词表征技术,同时涉及注意力机制、迁移学习、强化学习等基础方法,最后介绍了机器翻译、文本摘要、自动问答、对话系统、情感分析等任务相关的深度学习方法以及ChatGPT的核心技术。全书深入浅出、讲述清晰。通过本书读者能够快速、全面地了解该领域的基础技术和前沿方法,特此推荐!
——刘康,中国科学院自动化研究所模式识别国家重点实验室研究员、博士生导师
本书对深度学习在自然语言处理中的应用进行了系统、深入的介绍,前半部分涵盖了词表征、注意力机制、迁移学习等深度学习重要技术,后半部分讲解了机器翻译、自动问答、情感分析等自然语言处理的主要应用,对该领域的前沿进展进行了全面总结,内容翔实、通俗易懂,是一本不可多得的入门自然语言处理的参考书。
——刘洋,清华大学万国数据教授
OpenAI的对话式产品ChatGPT的推出再次点燃了工业界、学术界对AI、LLM的热情,而LLM正是由2017年应用于机器翻译等NLP问题的Transformer衍生而来。在现在这个时间点,张镭博士通过本书系统地介绍了深度学习技术在NLP各领域的应用,同时完整地介绍了从词表征到GPT的发展历程以及迁移学习、强化学习等基础算法原理,可以帮助NLP研究者快速入门,并与最新趋势无缝链接。
——仇光,阿里巴巴资深算法专家、技术总监
目录
前言 iii
第 1章 绪论 1
1.1 机器学习简介 1
1.1.1 机器学习的发展历程 1
1.1.2 机器学习的算法分类 4
1.2 深度学习简介 5
1.3 自然语言处理简介 7
1.3.1 自然语言处理的发展历程 7
1.3.2 自然语言处理的研究方向 8
1.3.3 自然语言理解的主要任务 8
1.3.4 自然语言生成的任务 14
1.3.5 自然语言处理面临的挑战 15
1.4 自然语言处理与机器学习和深度学习 16