北大公开课-人工智能基础 63 学习范式与学习任务的关系，以及其他学习范式
机器学习中的范式主要指监督学习、无监督学习和强化学习三种基本学习范式¹⁴。除此之外，还有半监督学习、迁移学习、多任务学习、元学习等其他范式²。其中，监督学习是最常见的一种，它是指在训练数据中，每个样本都有一个标签或目标值，模型通过输入特征预测标签或目标值。无监督学习是指在训练数据中没有标签或目标值，模型通过输入特征自动发现数据的内在结构和规律。强化学习是指智能体通过与环境交互，获得奖励信号并根据奖励信号调整策略，以最大化长期累积奖励。
【集成学习】
集成学习是指通过构建并结合多个学习器来完成学习任务，以达到更好的泛化性能和预测性能¹²。集成学习的主要方法可归类为三大类：堆叠（Stacking）、提升（Boosting）和装袋（Bagging/bootstrap aggregating）²。其中，装袋是最早的集成学习方法之一，它通过从原始数据集中有放回地重复抽样，构建多个训练集并分别训练多个基学习器，最后将这些基学习器进行结合¹²。提升方法是一种迭代的方法，它通过改变训练样本的权值分布来训练多个基学习器，并将这些基学习器进行加权结合¹²。堆叠方法是一种基于模型的集成学习方法，它通过将多个基学习器的输出作为新的训练集来训练一个次级学习器²。
【学会学习】
机器学习中的学会学习是指机器学习中的一种学习范式，即元学习（Meta Learning）¹。元学习是指在机器学习中，通过学习如何学习，来提高模型的泛化能力和适应性。元学习可以分为两个阶段：元训练和元测试。在元训练阶段，模型通过多个任务的训练来学习如何快速适应新任务；在元测试阶段，模型通过新任务的测试来验证其泛化能力和适应性。
【迁移学习】
机器学习中的迁移学习是指在一个任务上学习到的知识，通过一定的方式迁移到另一个任务上，从而提高后者的学习效果¹。迁移学习可以分为三类：基于实例的迁移、基于特征的迁移和基于模型的迁移²。其中，基于实例的迁移是指将源领域中的样本直接应用到目标领域中，基于特征的迁移是指将源领域中的特征应用到目标领域中，而基于模型的迁移则是指将源领域中的模型应用到目标领域中。
【对抗式学习】
对抗式学习（Adversarial Learning）是指在机器学习中，通过引入对抗样本，让模型更好地学习到数据的特征，提高模型的鲁棒性和泛化能力¹。对抗样本是指在原始数据中加入一些扰动，使得模型对这些数据的预测结果产生误差，从而达到提高模型鲁棒性的目的²。
【协同式学习】
协同式学习（Cooperative Learning）是指在学习过程中，学生之间相互合作，共同完成学习任务，达到共同学习的目的¹。协同式学习的重点在于强调小组成员共同的贡献，是一种教部结构化的教学策略，以学习群组的方式让成员共同讨论学习目标，定义问题，建立工作流程，以得到共同建构的知识²。
