这才是真正的调参

前段时间在知乎刷到关于调参的话题，里面很多大佬总结了这么多年来摸爬滚打形成的一套调参体系

调参这种东西真的是可以白嫖到自己项目中，帮助少走很多弯路

随着研究的深入，会发现还真没底气说自己是称职的「调参师」

调参的“参”，指的是模型超参数，与参数是有所区别的，超参数可以决定某最优问题的求解速率以及模型学习效果等。超参设的好，能帮助快速找到问题的（次）最优解

调参的重要性相信身处这个领域的同学都明白，尤其现在网络训练的时间越来越长，调参显得尤为重要

网上高赞回答大部分是几年前发表的动态，也没有一个系统的整理

其实，今年年初的时候，谷歌大脑发布了一份全面的深度学习调参手册

github.com/google-research/tuning_playbook

当时我也转发了这个动态，现在星标数已经到了20.6K

并且也有热心网友（@schrodingercatss）整理了中文版本

github.com/schrodingercatss/tuning_playbook_zh_cn

谷歌发布的这份指南总结了他们自己多年来训练网络的心得经验

该指南当时也得到了Geoffrey Hinton 等人的强烈推荐，Geoffrey Hinton 表示

大量的实践经验被提炼成这份强大的深度学习模型调参指南

全篇主要分为四个章节

强烈建议像这种专业术语多的直接看英文原稿，一些细节上的理解与把握会更加精确

英文与中文PDF版本也已经整理打包，方便有需求的同志获取

公众号【啥都会一点的研究生】后台回复【调参】即可

30+页而已，嫌少才是对的，恭喜你真的快成为合格的调参侠了~