贪心算法_贪心算法的地理加权回归特征变量选择方法

特征变量选择是建立回归模型的前提， 它是用一定的方法从多个特征变量中选择影响显著、去掉影响不显著的变量的过程，其结果的准确程度决定着回归模型的可靠性。贪心算法是一种采用局部最优思想获取整体最优解或整体近似最优解的有效方法， 被广泛应用于人工智能、资源配置、社会管理等领域。在普通线性回归的特征变量选择中，基于Ｆ 检验的向前引入法和向后剔除法也是贪心算法的应用实例， 其思想是逐个加入或删除特征变量，利用Ｆ 检验验证改变后模型的显著性，从而保留显著变量或去掉不显著变量。由于地理加权回归在普通线性回归基础上考虑了各影响因素在空间非平稳性，因此，ＯＬＲ 常用的特征变量选择方法无法直接应用于ＧＷＲ。此外，ＧＷＲ的Ｆ检验计算复杂，将其作为评价准则过程繁琐。因此，如何设计一个简单有效的适用于ＧＷＲ 特征变量的选择方法值得思考。

Ａｋａｉｋｅ信息法则是一种有效的自变量选择评价准则，Ｈｕｒｖｉｃｈ 等（１９９８）将ＡＩＣ 准则扩展到非参数回归分析中的光滑参数选择。本文基于贪心算法原理，在ＯＬＲ 的向前引入法和向后剔除法基础上引入ＡＩＣ 准则，设计一种适用于地理加权回归分析的特征变量选择方法， 后文提到的向前引入法和向后剔除法是指利用ＡＩＣ 准则改进的适用于ＧＷＲ分析的新方法。文章以长江经济带人口空间影响因素为例，从多个角度验证方法的有效性。

基于贪心算法的地理加权回归特征变量选择方法试图寻找相关性强的特征变量， 建立可信度高的回归模型，其基本原理是从特征变量集合中逐个搜索变量，判断变量加入或删除对模型置信水平的影响， 根据评价准则决定变量的取舍， 因此搜索方向和评价准则是关键。

本文基于贪心算法，设计了一种适用于ＧＷＲ的特征变量选择方法。一方面， 利用贪心新算法能较方便地获取全局最优或近似最优的结果， 方便找到近似最佳组合； 另一方面， 引入ＧＷＲ 的ＡＩＣ 值作为评价准则， 能有效地探测特征变量的空间非平稳性，更适用于ＧＷＲ。实验以长江经济带人口及影响因素为例进行对比分析，结果发现：无论是从计算效率还是选择结果， 向前引入法都比向后剔除法效果好，而两者都比基于ＯＬＲ 的逐步回归法更适用于ＧＷＲ。由于贪心算法只是求局部最优，因此向前引入法和向后剔除法的选择结果不一致，建议在实际应用中同时运用两种方法建立不同模型， 综合考虑多个评价指标选择特征变量。