bagging算法_常用的模型集成方法介绍：bagging、boosting、stacking

「团结就是力量」。这句老话很好地表达了机器学习领域中强大「集成方法」的基本思想。总的来说&＃xff0c;许多机器学习竞赛&＃xff08;包括 Kaggle&＃xff09;中最优秀的解决方案所采用的集成方法都建立在一个这样的假设上&＃xff1a;将多个模型组合在一起通常可以产生更强大的模型。

选自towardsdatascience&＃xff0c;作者&＃xff1a;Joseph Rocca、BaptisteRocca&＃xff0c;机器之心编译&＃xff0c;参与&＃xff1a;Geek AI、shooting。

本文介绍了集成学习的各种概念&＃xff0c;并给出了一些必要的关键信息&＃xff0c;以便读者能很好地理解和使用相关方法&＃xff0c;并且能够在有需要的时候设计出合适的解决方案。

本文将讨论一些众所周知的概念&＃xff0c;如自助法、自助聚合&＃xff08;bagging&＃xff09;、随机森林、提升法&＃xff08;boosting&＃xff09;、堆叠法&＃xff08;stacking&＃xff09;以及许多其它的基础集成学习模型。

为了使所有这些方法之间的联系尽可能清晰&＃xff0c;我们将尝试在一个更广阔和逻辑性更强的框架中呈现它们&＃xff0c;希望这样会便于读者理解和记忆。

何为集成方法&＃xff1f;

集成学习是一种机器学习范式。在集成学习中&＃xff0c;我们会训练多个模型&＃xff08;通常称为「弱学习器」&＃xff09;解决相同的问题&＃xff0c;并将它们结合起来以获得更好的结果。最重要的假设是&＃xff1a;当弱模型被正确组合时&＃xff0c;我们可以得到更精确和/或更鲁棒的模型。

在集成学习理论中&＃xff0c;我们将弱学习器&＃xff08;或基础模型&＃xff09;称为「模型」&＃xff0c;这些模型可用作设计更复杂模型的构件。在大多数情况下&＃xff0c;这些基本模型本身的性能并不是非常好&＃xff0c;这要么是因为它们具有较高的偏置&＃xff08;例如&＃xff0c;低自由度模型&＃xff09;&＃xff0c;要么是因为他们的方差太大导致鲁棒性不强&＃xff08;例如&＃xff0c;高自由度模型&＃xff09;。

集成方法的思想是通过将这些弱学习器的偏置和/或方差结合起来&＃xff0c;从而创建一个「强学习器」&＃xff08;或「集成模型」&＃xff09;&＃xff0c;从而获得更好的性能。

组合弱学习器

为了建立一个集成学习方法&＃xff0c;我们首先要选择待聚合的基础模型。在大多数情况下&＃xff08;包括在众所周知的 bagging 和 boosting 方法中&＃xff09;&＃xff0c;我们会使用单一的基础学习算法&＃xff0c;这样一来我们就有了以不同方式训练的同质弱学习器。

这样得到的集成模型被称为「同质的」。然而&＃xff0c;也有一些方法使用不同种类的基础学习算法&＃xff1a;将一些异质的弱学习器组合成「异质集成模型」。

很重要的一点是&＃xff1a;我们对弱学习器的选择应该和我们聚合这些模型的方式相一致。如果我们选择具有低偏置高方差的基础模型&＃xff0c;我们应该使用一种倾向于减小方差的聚合方法&＃xff1b;而如果我们选择具有低方差高偏置的基础模型&＃xff0c;我们应该使用一种倾向于减小偏置的聚合方法。

这就引出了如何组合这些模型的问题。我们可以用三种主要的旨在组合弱学习器的「元算法」&＃xff1a;

• bagging&＃xff0c;该方法通常考虑的是同质弱学习器&＃xff0c;相互独立地并行学习这些弱学习器&＃xff0c;并按照某种确定性的平均过程将它们组合起来。
• boosting&＃xff0c;该方法通常考虑的也是同质弱学习器。它以一种高度自适应的方法顺序地学习这些弱学习器&＃xff08;每个基础模型都依赖于前面的模型&＃xff09;&＃xff0c;并按照某种确定性的策略将它们组合起来。
• stacking&＃xff0c;该方法通常考虑的是异质弱学习器&＃xff0c;并行地学习它们&＃xff0c;并通过训练一个「元模型」将它们组合起来&＃xff0c;根据不同弱模型的预测结果输出一个最终的预测结果。

非常粗略地说&＃xff0c;我们可以说 bagging 的重点在于获得一个方差比其组成部分更小的集成模型&＃xff0c;而 boosting 和 stacking 则将主要生成偏置比其组成部分更低的强模型&＃xff08;即使方差也可以被减小&＃xff09;。

在接下来的章节中&＃xff0c;我们将具体介绍 bagging 和 boosting 方法&＃xff08;它们比 stacking 方法使用更广泛&＃xff0c;并且让我们可以讨论一些集成学习的关键概念&＃xff09;&＃xff0c;然后简要概述 stacking 方法。

关于 Bagging

在「并行化的方法」中&＃xff0c;我们单独拟合不同的学习器&＃xff0c;因此可以同时训练它们。最著名的方法是「bagging」&＃xff08;代表「自助聚合」&＃xff09;&＃xff0c;它的目标是生成比单个模型更鲁棒的集成模型。

自助法

这种统计技术先随机抽取出作为替代的 B 个观测值&＃xff0c;然后根据一个规模为 N 的初始数据集生成大小为 B 的样本&＃xff08;称为自助样本&＃xff09;。

在某些假设条件下&＃xff0c;这些样本具有非常好的统计特性&＃xff1a;在一级近似中&＃xff0c;它们可以被视为是直接从真实的底层&＃xff08;并且往往是未知的&＃xff09;数据分布中抽取出来的&＃xff0c;并且彼此之间相互独立。因此&＃xff0c;它们被认为是真实数据分布的代表性和独立样本&＃xff08;几乎是独立同分布的样本&＃xff09;。

为了使这种近似成立&＃xff0c;必须验证两个方面的假设。

首先初始数据集的大小 N 应该足够大&＃xff0c;以捕获底层分布的大部分复杂性。这样&＃xff0c;从数据集中抽样就是从真实分布中抽样的良好近似&＃xff08;代表性&＃xff09;。

其次&＃xff0c;与自助样本的大小 B 相比&＃xff0c;数据集的规模 N 应该足够大&＃xff0c;这样样本之间就不会有太大的相关性&＃xff08;独立性&＃xff09;。注意&＃xff0c;接下来我可能还会提到自助样本的这些特性&＃xff08;代表性和独立性&＃xff09;&＃xff0c;但读者应该始终牢记&＃xff1a;「这只是一种近似」。

举例而言&＃xff0c;自助样本通常用于评估统计估计量的方差或置信区间。根据定义&＃xff0c;统计估计量是某些观测值的函数。因此&＃xff0c;随机变量的方差是根据这些观测值计算得到的。

为了评估这种估计量的方差&＃xff0c;我们需要对从感兴趣分布中抽取出来的几个独立样本进行估计。在大多数情况下&＃xff0c;相较于实际可用的数据量来说&＃xff0c;考虑真正独立的样本所需要的数据量可能太大了。

然而&＃xff0c;我们可以使用自助法生成一些自助样本&＃xff0c;它们可被视为「最具代表性」以及「最具独立性」&＃xff08;几乎是独立同分布的样本&＃xff09;的样本。这些自助样本使我们可以通过估计每个样本的值&＃xff0c;近似得到估计量的方差。

关于 Boosting

在「顺序化的方法中」&＃xff0c;组合起来的不同弱模型之间不再相互独立地拟合。其思想是「迭代地」拟合模型&＃xff0c;使模型在给定步骤上的训练依赖于之前的步骤上拟合的模型。「Boosting」是这些方法中最著名的一种&＃xff0c;它生成的集成模型通常比组成该模型的弱学习器偏置更小。

提升方法

Boosting 方法和bagging 方法的工作思路是一样的&＃xff1a;我们构建一系列模型&＃xff0c;将它们聚合起来得到一个性能更好的强学习器。然而&＃xff0c;与重点在于减小方差的 bagging 不同&＃xff0c;boosting 着眼于以一种适应性很强的方式顺序拟合多个弱学习器&＃xff1a;序列中每个模型在拟合的过程中&＃xff0c;会更加重视那些序列中之前的模型处理地很糟糕的观测数据。

直观地说&＃xff0c;每个模型都把注意力集中在目前最难拟合的观测数据上。这样一来&＃xff0c;在这个过程的最后&＃xff0c;我们就获得了一个具有较低偏置的强学习器&＃xff08;我们会注意到&＃xff0c;boosting 也有减小方差的效果&＃xff09;。和 bagging 一样&＃xff0c;Boosting 也可以用于回归和分类问题。

由于其重点在于减小偏置&＃xff0c;用于 boosting 的基础模型通常是那些低方差高偏置的模型。例如&＃xff0c;如果想要使用树作为基础模型&＃xff0c;我们将主要选择只有少许几层的较浅决策树。

而选择低方差高偏置模型作为 boosting 弱学习器的另一个重要原因是&＃xff1a;这些模型拟合的计算开销较低&＃xff08;参数化时自由度较低&＃xff09;。

实际上&＃xff0c;由于拟合不同模型的计算无法并行处理&＃xff08;与 bagging 不同&＃xff09;&＃xff0c;顺序地拟合若干复杂模型会导致计算开销变得非常高。

一旦选定了弱学习器&＃xff0c;我们仍需要定义它们的拟合方式&＃xff08;在拟合当前模型时&＃xff0c;要考虑之前模型的哪些信息&＃xff1f;&＃xff09;和聚合方式&＃xff08;如何将当前的模型聚合到之前的模型中&＃xff1f;&＃xff09;在接下来的两小节中&＃xff0c;我们将讨论这些问题&＃xff0c;尤其是介绍两个重要的 boosting 算法&＃xff1a;自适应提升&＃xff08;adaboost &＃xff09;和梯度提升&＃xff08;gradient boosting&＃xff09;。

简而言之&＃xff0c;这两种元算法在顺序化的过程中创建和聚合弱学习器的方式存在差异。自适应增强算法会更新附加给每个训练数据集中观测数据的权重&＃xff0c;而梯度提升算法则会更新这些观测数据的值。这里产生差异的主要原因是&＃xff1a;两种算法解决优化问题&＃xff08;寻找最佳模型——弱学习器的加权和&＃xff09;的方式不同。

自适应 boosting

在自适应 boosting&＃xff08;通常被称为「adaboost」&＃xff09;中&＃xff0c;我们将集成模型定义为 L 个弱学习器的加权和

&＃xff0c;其中 c_l 是系数而 w_l 是弱学习器

寻找这种最佳集成模型是一个「困难的优化问题」。因此&＃xff0c;我们并没打算一次性地解决该问题&＃xff08;找到给出最佳整体加法模型的所有系数和弱学习器&＃xff09;&＃xff0c;而是使用了一种更易于处理的「迭代优化过程」&＃xff08;即使它有可能导致我们得到次优解&＃xff09;。

另外&＃xff0c;我们将弱学习器逐个添加到当前的集成模型中&＃xff0c;在每次迭代中寻找可能的最佳组合&＃xff08;系数、弱学习器&＃xff09;。换句话说&＃xff0c;我们循环地将 s_l 定义如下&＃xff1a;

其中&＃xff0c;c_l 和 w_l 被挑选出来&＃xff0c;使得 s_l 是最适合训练数据的模型&＃xff0c;因此这是对 s_(l-1) 的最佳可能改进。我们可以进一步将其表示为&＃xff1a;

其中&＃xff0c;E(.) 是给定模型的拟合误差&＃xff0c;e(.,.)是损失/误差函数。因此&＃xff0c;我们并没有在求和过程中对所有 L 个模型进行「全局优化」&＃xff0c;而是通过「局部」优化来近似最优解并将弱学习器逐个添加到强模型中。

更特别的是&＃xff0c;在考虑二分类问题时&＃xff0c;我们可以将 adaboost 算法重新写入以下过程&＃xff1a;首先&＃xff0c;它将更新数据集中观测数据的权重&＃xff0c;训练一个新的弱学习器&＃xff0c;该学习器重点关注当前集成模型误分类的观测数据。其次&＃xff0c;它会根据一个表示该弱模型性能的更新系数&＃xff0c;将弱学习器添加到加权和中&＃xff1a;弱学习器的性能越好&＃xff0c;它对强学习器的贡献就越大。

因此&＃xff0c;假设我们面对的是一个二分类问题&＃xff1a;数据集中有 N 个观测数据&＃xff0c;我们想在给定一组弱模型的情况下使用 adaboost 算法。在算法的起始阶段&＃xff08;序列中的第一个模型&＃xff09;&＃xff0c;所有的观测数据都拥有相同的权重「1/N」。然后&＃xff0c;我们将下面的步骤重复 L 次&＃xff08;作用于序列中的 L 个学习器&＃xff09;&＃xff1a;

• 用当前观测数据的权重拟合可能的最佳弱模型
• 计算更新系数的值&＃xff0c;更新系数是弱学习器的某种标量化评估指标&＃xff0c;它表示相对集成模型来说&＃xff0c;该弱学习器的分量如何
• 通过添加新的弱学习器与其更新系数的乘积来更新强学习器
• 计算新观测数据的权重&＃xff0c;该权重表示我们想在下一轮迭代中关注哪些观测数据&＃xff08;聚和模型预测错误的观测数据的权重增加&＃xff0c;而正确预测的观测数据的权重减小&＃xff09;

重复这些步骤&＃xff0c;我们顺序地构建出 L 个模型&＃xff0c;并将它们聚合成一个简单的线性组合&＃xff0c;然后由表示每个学习器性能的系数加权。注意&＃xff0c;初始 adaboost 算法有一些变体&＃xff0c;比如 LogitBoost&＃xff08;分类&＃xff09;或 L2Boost&＃xff08;回归&＃xff09;&＃xff0c;它们的差异主要取决于损失函数的选择。

Stacking 概述

Stacking 与 bagging 和 boosting 主要存在两方面的差异。首先&＃xff0c;Stacking 通常考虑的是异质弱学习器&＃xff08;不同的学习算法被组合在一起&＃xff09;&＃xff0c;而bagging 和 boosting 主要考虑的是同质弱学习器。其次&＃xff0c;stacking 学习用元模型组合基础模型&＃xff0c;而bagging 和 boosting 则根据确定性算法组合弱学习器。

堆叠法&＃xff08;Stacking&＃xff09;

正如上文已经提到的&＃xff0c;stacking 的概念是学习几个不同的弱学习器&＃xff0c;并通过训练一个元模型来组合它们&＃xff0c;然后基于这些弱模型返回的多个预测结果输出最终的预测结果。

因此&＃xff0c;为了构建 stacking 模型&＃xff0c;我们需要定义两个东西&＃xff1a;想要拟合的 L 个学习器以及组合它们的元模型。

例如&＃xff0c;对于分类问题来说&＃xff0c;我们可以选择 KNN 分类器、logistic 回归和SVM 作为弱学习器&＃xff0c;并决定学习神经网络作为元模型。然后&＃xff0c;神经网络将会把三个弱学习器的输出作为输入&＃xff0c;并返回基于该输入的最终预测。

所以&＃xff0c;假设我们想要拟合由 L 个弱学习器组成的 stacking 集成模型。我们必须遵循以下步骤&＃xff1a;

• 将训练数据分为两组
• 选择 L 个弱学习器&＃xff0c;用它们拟合第一组数据
• 使 L 个学习器中的每个学习器对第二组数据中的观测数据进行预测
• 在第二组数据上拟合元模型&＃xff0c;使用弱学习器做出的预测作为输入

在前面的步骤中&＃xff0c;我们将数据集一分为二&＃xff0c;因为对用于训练弱学习器的数据的预测与元模型的训练不相关。因此&＃xff0c;将数据集分成两部分的一个明显缺点是&＃xff0c;我们只有一半的数据用于训练基础模型&＃xff0c;另一半数据用于训练元模型。

为了克服这种限制&＃xff0c;我们可以使用某种「k-折交叉训练」方法&＃xff08;类似于 k-折交叉验证中的做法&＃xff09;。这样所有的观测数据都可以用来训练元模型&＃xff1a;对于任意的观测数据&＃xff0c;弱学习器的预测都是通过在 k-1 折数据&＃xff08;不包含已考虑的观测数据&＃xff09;上训练这些弱学习器的实例来完成的。

换句话说&＃xff0c;它会在 k-1 折数据上进行训练&＃xff0c;从而对剩下的一折数据进行预测。迭代地重复这个过程&＃xff0c;就可以得到对任何一折观测数据的预测结果。这样一来&＃xff0c;我们就可以为数据集中的每个观测数据生成相关的预测&＃xff0c;然后使用所有这些预测结果训练元模型。

原文链接&＃xff1a;https://towardsdatascience.com/ensemble-methods-bagging-boosting-and-stacking-c9214a10a205