在数据分析和建模中&＃xff0c;经常会遇到变量值缺失的情况&＃xff0c;这是非常常见的。为了保证数据指标的完整性以及可利用性&＃xff0c;通常我们会采取特殊的方式对其进行处理。
1、缺失查看
首先&＃xff0c;需要查看缺失值的缺失数量以及比例&＃xff08;#数据使用的kaggle平台上预测房价的数据&＃xff09;
import pandas as pd# 统计缺失值数量
missing&＃61;data.isnull().sum().reset_index().rename(columns&＃61;{0:&＃39;missNum&＃39;})
# 计算缺失比例
missing[&＃39;missRate&＃39;]&＃61;missing[&＃39;missNum&＃39;]/data.shape[0]
# 按照缺失率排序显示
miss_analy&＃61;missing[missing.missRate>0].sort_values(by&＃61;&＃39;missRate&＃39;,ascending&＃61;False)
# miss_analy 存储的是每个变量缺失情况的数据框
柱形图可视化
import matplotlib.pyplot as plt
import pylab as plfig &＃61; plt.figure(figsize&＃61;(18,6))
plt.bar(np.arange(miss_analy.shape[0]), list(miss_analy.missRate.values), align &＃61; &＃39;center&＃39;,color&＃61;[&＃39;red&＃39;,&＃39;green&＃39;,&＃39;yellow&＃39;,&＃39;steelblue&＃39;])plt.title(&＃39;Histogram of missing value of variables&＃39;)
plt.xlabel(&＃39;variables names&＃39;)
plt.ylabel(&＃39;missing rate&＃39;)
# 添加x轴标签&＃xff0c;并旋转90度
plt.xticks(np.arange(miss_analy.shape[0]),list(miss_analy[&＃39;index&＃39;]))
pl.xticks(rotation&＃61;90)
# 添加数值显示
for x,y in enumerate(list(miss_analy.missRate.values)):plt.text(x,y&＃43;0.12,&＃39;{:.2%}&＃39;.format(y),ha&＃61;&＃39;center&＃39;,rotation&＃61;90)
plt.ylim([0,1.2])plt.show()
这样的统计计算以及可视化基本已经看出哪些变量缺失&＃xff0c;以及缺失比例情况&＃xff0c;对数据即有个缺失概况。下面将对缺失变量进行相应处理。
2、缺失处理
方式1&＃xff1a;删除
直接去除含有缺失值的记录&＃xff0c;这种处理方式是简单粗暴的&＃xff0c;适用于数据量较大&＃xff08;记录较多&＃xff09;且缺失比较较小的情形&＃xff0c;去掉后对总体影响不大。一般不建议这样做&＃xff0c;因为很可能会造成数据丢失、数据偏移。
func: df.dropna(axis&＃61;0, how&＃61;&＃39;any&＃39;, thresh&＃61;None, subset&＃61;None, inplace&＃61;False)# 1、删除‘age’列
df.drop(&＃39;age&＃39;, axis&＃61;1, inplace&＃61;True)# 2、删除数据表中含有空值的行
df.dropna()# 3、丢弃某几列有缺失值的行
df.dropna(axis&＃61;0, subset&＃61;[&＃39;a&＃39;,&＃39;b&＃39;], inplace&＃61;True)
直接去除缺失变量&＃xff0c;基于第一步我们已经知道每个变量的缺失比例&＃xff0c;如果一个变量的缺失比例过高&＃xff0c;基本也就失去了预测意义&＃xff0c;这样的变量我们可以尝试把它直接去掉。
# 去掉缺失比例大于80%以上的变量
data&＃61;data.dropna(thresh&＃61;len(data)*0.2, axis&＃61;1)
方式2&＃xff1a;常量填充
在进行缺失值填充之前&＃xff0c;我们要先对缺失的变量进行业务上的了解&＃xff0c;即变量的含义、获取方式、计算逻辑&＃xff0c;以便知道该变量为什么会出现缺失值、缺失值代表什么含义。比如&＃xff0c;‘age’ 年龄缺失&＃xff0c;每个人均有年龄&＃xff0c;缺失应该为随机的缺失&＃xff0c;‘loanNum’贷款笔数&＃xff0c;缺失可能代表无贷款&＃xff0c;是有实在意义的缺失。
全局常量填充&＃xff1a;可以用0&＃xff0c;均值、中位数、众数等填充。
平均值适用于近似正态分布数据&＃xff0c;观测值较为均匀散布均值周围&＃xff1b;中位数适用于偏态分布或者有离群点数据&＃xff0c;中位数是更好地代表数据中心趋势&＃xff1b;众数一般用于类别变量&＃xff0c;无大小、先后顺序之分。
# 均值填充
data[&＃39;col&＃39;] &＃61; data[&＃39;col&＃39;].fillna(data[&＃39;col&＃39;].means())
# 中位数填充
data[&＃39;col&＃39;] &＃61; data[&＃39;col&＃39;].fillna(data[&＃39;col&＃39;].median())
# 众数填充
data[&＃39;col&＃39;] &＃61; data[&＃39;col&＃39;].fillna(stats.mode(data[&＃39;col&＃39;])[0][0])
也可以借助Imputer类处理缺失:
from sklearn.preprocessing import Imputer
imr &＃61; Imputer(missing_values&＃61;&＃39;NaN&＃39;, strategy&＃61;&＃39;mean&＃39;, axis&＃61;0)
imputed_data &＃61;pd.DataFrame(imr.fit_transform(df.values),columns&＃61;df.columns)
imputed_data
方式3&＃xff1a;插值填充
采用某种插入模式进行填充&＃xff0c;比如取缺失值前后值的均值进行填充&＃xff1a;
# interpolate()插值法&＃xff0c;缺失值前后数值的均值&＃xff0c;但是若缺失值前后也存在缺失&＃xff0c;则不进行计算插补。
df[&＃39;a&＃39;] &＃61; df[&＃39;a&＃39;].interpolate()# 用前面的值替换, 当第一行有缺失值时&＃xff0c;该行利用向前替换无值可取&＃xff0c;仍缺失
df.fillna(method&＃61;&＃39;pad&＃39;)# 用后面的值替换&＃xff0c;当最后一行有缺失值时&＃xff0c;该行利用向后替换无值可取&＃xff0c;仍缺失
df.fillna(method&＃61;&＃39;backfill&＃39;)#用后面的值替换
方式4&＃xff1a;KNN填充
利用knn算法填充&＃xff0c;其实是把目标列当做目标标量&＃xff0c;利用非缺失的数据进行knn算法拟合&＃xff0c;最后对目标列缺失进行预测。&＃xff08;对于连续特征一般是加权平均&＃xff0c;对于离散特征一般是加权投票&＃xff09;
fancyimpute 类
from fancyimpute import KNN
fill_knn &＃61; KNN(k&＃61;3).fit_transform(data)
data &＃61; pd.DataFrame(fill_knn)
sklearn类
from sklearn.neighbors import KNeighborsClassifier, KNeighborsRegressordef knn_filled_func(x_train, y_train, test, k &＃61; 3, dispersed &＃61; True):# params: x_train 为目标列不含缺失值的数据&＃xff08;不包括目标列&＃xff09;# params: y_train 为不含缺失值的目标列# params: test 为目标列为缺失值的数据&＃xff08;不包括目标列&＃xff09;if dispersed:knn&＃61; KNeighborsClassifier(n_neighbors &＃61; k, weights &＃61; "distance")else:knn&＃61; KNeighborsRegressor(n_neighbors &＃61; k, weights &＃61; "distance")knn.fit(x_train, y_train)return test.index, knn.predict(test)
方式5&＃xff1a;随机森林填充
随机森林算法填充的思想和knn填充是类似的&＃xff0c;即利用已有数据拟合模型&＃xff0c;对缺失变量进行预测。
from sklearn.ensemble import RandomForestRegressor, RandomForestClassifierdef knn_filled_func(x_train, y_train, test, k &＃61; 3, dispersed &＃61; True):# params: x_train 为目标列不含缺失值的数据&＃xff08;不包括目标列&＃xff09;# params: y_train 为不含缺失值的目标列# params: test 为目标列为缺失值的数据&＃xff08;不包括目标列&＃xff09;if dispersed:rf&＃61; RandomForestRegressor()else:rf&＃61; RandomForestClassifier()rf.fit(x_train, y_train)return test.index, rf.predict(test)
3、缺失衍生
有时候&＃xff0c;可以根据某个字段是否缺失&＃xff0c;进行新变量的衍生&＃xff0c;比如&＃xff0c;"信用卡数量"&＃xff0c;若该字段缺失&＃xff0c;代表&＃39;无信用卡&＃39;&＃xff0c;则可以根据"信用卡数量"是否缺失衍生&＃39;有无信用卡&＃39;字段&＃xff0c;这种衍生很可能是很有效果的。
4、总结
总之&＃xff0c;处理缺失值是需要研究数据规律与缺失情况来进行处理的&＃xff0c;复杂的算法不一定有好的效果&＃xff0c;因此&＃xff0c;还要具体问题具体分析&＃xff0c;尤其是要搞明白字段含义以及缺失意义&＃xff0c;这往往容易被忽略。个人经验&＃xff0c;数据处理需要去探索&＃xff0c;没有一成不变的万全之策。
作者&＃xff1a;星星之火
https://zhuanlan.zhihu.com/p/98007066
京公网安备 11010802041100号