【渐构】万字科普GPT4为何会颠覆现有工作流;为何你要关注微软Copilot、文


一、底层原理——单字接龙
影响生成的因素:
1.上文
2.模型
所以如果想要让它精确回答问题,需要训练模型。训练模型需要给它喂学习材料

与搜索引擎相比:
长板:可以创造不存在的文本
短板:会混淆记忆,混合捏造,胡说八道,无法直接进入数据库删改数据 ;高度依赖学习材料

总结:

二、 训练阶段
阶段一;开卷有益(预训练)
摄入足够多,足够广泛的语言材料
拥有了海量知识,但回答的内容和形式不受约束。难以指挥它。
阶段二:模板规范
用人工对话模板校正

不足:过于模板化,限制创造力
阶段三:创意引导
人类评分调整模型
总结:

三、未来影响
人类比动物高级的唯一原因就是可以通过语言存储群体知识,并进行储存与传承。
总结:

四、如何应对
大语言模型所影响的是知识的创造、继承、应用。这三个环节所构成的学习系统,是任何生命系统得以延续的根本。决定着一个个体认识世界和改造世界的能力。