共享单车C语言开发项目：全面分析与实现

一、提出问题

在本项目中&＃xff0c;参与者被要求将历史使用模式与天气数据相结合&＃xff0c;以便预测华盛顿特区的自行车租赁计划中的自行车租赁需求。

二、理解数据

2.1 收集数据

一般而言&＃xff0c;数据由甲方提供。若甲方不提供数据&＃xff0c;则需要根据相关问题从网络爬取&＃xff0c;或者以问卷调查形式收集。本次共享单车数据分析项目数据源于Kaggle。获取数据后需要对数据整体进行分析&＃xff0c;从而提炼问题&＃xff0c;为后续建模奠定基础。

首先查看Kaggle所提供的数据描述&＃xff1a;

(1)    日期时间&＃xff1a;年/月/日/时间&＃xff0c;例&＃xff1a;2011/1/1 0:00

(2)    季节&＃xff1a;1&＃61;春&＃xff0c;2&＃61;夏&＃xff0c;3&＃61;秋天&＃xff0c;4&＃61;冬天

(3)    假日&＃xff1a;是否是节假日(0&＃61;否&＃xff0c;1&＃61;是)

(4)    工作日&＃xff1a;是否是工作日(0&＃61;否&＃xff0c;1&＃61;是)

(5)    天气&＃xff1a;1&＃61;晴天、多云等(良好)&＃xff0c;2&＃61;阴天薄雾等(普通)&＃xff0c;3&＃61;小雪、小雨等(稍差)&＃xff0c;4&＃61;大雨、冰雹等(极差)

(6)    实际温度(℃)

(7)    感觉温度(℃)

(8)    湿度

(9)    风速

(10)未注册用户租借数量

(11)注册用户租借数量

(12)总租借数量

根据官方数据描述&＃xff0c;特征为前9项&＃xff0c;分别为日期时间(1)、季节(2)、工作日/节假日(3-4)、天气(5-9)四类&＃xff1b;标签为后3项&＃xff1a;注册/未注册用户租借数量以及租借总数。因为官方规定的提交文件中要求预测的只有租借总数&＃xff0c;因此本项目中只关注租借总数的预测。

2.2导入并理解数据

首先导入并查看训练数据和测试数据&＃xff1a;import pandas as pd

#导入并查看训练数据和测试数据

train_data &＃61; pd.read_csv(&＃39;data/train.csv&＃39;)

test_data &＃61; pd.read_csv(&＃39;data/test.csv&＃39;)

print(train_data.shape)

print(train_data.info())

print(test_data.shape)

print(test_data.info())

训练数据共12列&＃xff0c;10886行&＃xff0c;测试数据共9列&＃xff0c;6493行&＃xff0c;且所有数据完整&＃xff0c;没有缺失。相比于训练数据&＃xff0c;测试数据缺少注册/未注册用户租借数量以及租借总数3个标签&＃xff0c;需要我们通过建模进行预测。

三、数据处理与分析

3.1 数据预处理

在数据处理过程中&＃xff0c;最好将训练数据与测试数据合并在一起处理&＃xff0c;方便特征的转换。通过查看数据&＃xff0c;训练和测试数据均无缺失、不一致和非法等问题。值得注意的是&＃xff0c;日期时间特征由年、月、日和具体小时组成&＃xff0c;还可以根据日期计算其星期&＃xff0c;因此可以将日期时间拆分成年、月、日、时和星期5个特征。#第二步&＃xff1a;数据预处理

#合并两种数据&＃xff0c;使之共同进行数据规范化

data &＃61; train_data.append(test_data)

#拆分年、月、日、时

data[&＃39;year&＃39;] &＃61; data.datetime.apply(lambda x: x.split()[0].split(&＃39;-&＃39;)[0])

data[&＃39;year&＃39;] &＃61; data[&＃39;year&＃39;].apply(lambda x: int(x))

data[&＃39;month&＃39;] &＃61; data.datetime.apply(lambda x: x.split()[0].split(&＃39;-&＃39;)[1])

data[&＃39;month&＃39;] &＃61; data[&＃39;month&＃39;].apply(lambda x: int(x))

data[&＃39;day&＃39;] &＃61; data.datetime.apply(lambda x: x.split()[0].split(&＃39;-&＃39;)[2])

data[&＃39;day&＃39;] &＃61; data[&＃39;day&＃39;].apply(lambda x: int(x))

data[&＃39;hour&＃39;] &＃61; data.datetime.apply(lambda x: x.split()[1].split(&＃39;:&＃39;)[0])

data[&＃39;hour&＃39;] &＃61; data[&＃39;hour&＃39;].apply(lambda x: int(x))

data[&＃39;date&＃39;] &＃61; data.datetime.apply(lambda x: x.split()[0])

data[&＃39;weekday&＃39;] &＃61; pd.to_datetime(data[&＃39;date&＃39;]).dt.weekday_name

data[&＃39;weekday&＃39;]&＃61;data[&＃39;weekday&＃39;].map({&＃39;Monday&＃39;:1,&＃39;Tuesday&＃39;:2,&＃39;Wednesday&＃39;:3, &＃39;Thursday&＃39;:4,&＃39;Friday&＃39;:5,&＃39;Saturday&＃39;:6,&＃39;Sunday&＃39;:7})

data &＃61; data.drop(&＃39;datetime&＃39;,axis&＃61;1)

#重新安排整体数据的特征

cols &＃61;[&＃39;year&＃39;,&＃39;month&＃39;,&＃39;day&＃39;,&＃39;weekday&＃39;,&＃39;hour&＃39;,&＃39;season&＃39;,&＃39;holiday&＃39;,&＃39;workingday&＃39;,&＃39;weather&＃39;,&＃39;temp&＃39;,&＃39;atemp&＃39;,&＃39;humidity&＃39;,&＃39;windspeed&＃39;,&＃39;casual&＃39;,&＃39;registered&＃39;,&＃39;count&＃39;]data &＃61; data.ix[:,cols]

#分离训练数据与测试数据

train &＃61; data.iloc[:10886]

test &＃61; data.iloc[10886:]

3.2 数据分析

规范数据后&＃xff0c;快速查看各影响因素对租借数的影响&＃xff1a;#第三步&＃xff1a;特征工程

#1、计算相关系数&＃xff0c;并快速查看

correlation &＃61; train.corr()

influence_order &＃61; correlation[&＃39;count&＃39;].sort_values(ascending&＃61;False)

influence_order_abs &＃61; abs(correlation[&＃39;count&＃39;]).sort_values(ascending&＃61;False)

print(influence_order)

print(influence_order_abs)

从相关系数可以看出&＃xff0c;天气(包括温度、湿度)对租借数存在明显影响&＃xff0c;其中temp和atemp的意义及其与count的相关系数十分接近&＃xff0c;因此可以只取atemp作为温度特征。此外&＃xff0c;year、month、season等时间因素对count也存在明显影响&＃xff0c;而holiday和weekday与count的相关系数极小。

为了更加直观地展现所有特征之间的影响&＃xff0c;作相关系数热力图&＃xff1a;#2、作相关性分析的热力图

import matplotlib.pyplot as plt

import seaborn as sn

f,ax &＃61; plt.subplots(figsize&＃61;(16,16))

cmap &＃61; sn.cubehelix_palette(light&＃61;1,as_cmap&＃61;True)

sn.heatmap(correlation,annot&＃61;True,center&＃61;1,cmap&＃61;cmap,linewidths&＃61;1,ax&＃61;ax)

sn.heatmap(correlation,vmax&＃61;1,square&＃61;True,annot&＃61;True,linewidths&＃61;1)

plt.show()

接下来&＃xff0c;深入分析各特征对租借数的影响规律&＃xff0c;对每个特征进行可视化&＃xff1a;#3、每个特征对租借量的影响

#(1) 时间维度——年份

sn.boxplot(train[&＃39;year&＃39;],train[&＃39;count&＃39;])

plt.title("The influence of year")

plt.show()

#(2) 时间维度——月份

sn.pointplot(train[&＃39;month&＃39;],train[&＃39;count&＃39;])

plt.title("The influence of month")

plt.show()

#(3) 时间维度——季节

sn.boxplot(train[&＃39;season&＃39;],train[&＃39;count&＃39;])

plt.title("The influence of season")

plt.show()

#(4) 时间维度——时间(小时)

sn.barplot(train[&＃39;hour&＃39;],train[&＃39;count&＃39;])

plt.title("The influence of hour")

plt.show()

(1)年份对租借数的影响

2012年的租借数明显比2011年高&＃xff0c;说明随着时间的推移&＃xff0c;共享单车逐渐被更多的人熟悉和认可&＃xff0c;使用者越来越多。

(2)月份对租借数的影响

月份对租借数影响显著&＃xff0c;从1月份开始每月的租借数快速增加&＃xff0c;到6月份达到顶峰&＃xff0c;随后至10月缓慢降低&＃xff0c;10月后急剧减少。这明显与季节有关。

(3)季节对租借数的影响

通过各季度箱型图可以看出季节对租借数的影响符合预期&＃xff1a;春季天气仍然寒冷&＃xff0c;骑车人少&＃xff1b;随着天气转暖&＃xff0c;骑车人逐渐增多&＃xff0c;并在秋季(天气最适宜时)达到顶峰&＃xff1b;随后进入冬季&＃xff0c;天气变冷&＃xff0c;骑车人减少。因为月份和季节对租借数的影响重合&＃xff0c;且月份更加详细&＃xff0c;因此在随后的建模过程中选取月份特征&＃xff0c;删除季节特征。

(4)时间(小时)对租借数的影响

从时间的分布上来看&＃xff0c;每天有两个高峰期&＃xff0c;分别是早上8点左右和下午17点左右&＃xff0c;正好是工作日的上下班高峰期。而介于两者之间的白天时间变化规律不明显&＃xff0c;可能与节假日有关&＃xff0c;因此以此为基础需要考虑节假日和星期的影响。#星期、节假日和工作日的影响

fig, axes &＃61; plt.subplots(2,1,figsize&＃61;(16, 10))

ax1 &＃61; plt.subplot(2,1,1)

sn.pointplot(train[&＃39;hour&＃39;],train[&＃39;count&＃39;],hue&＃61;train[&＃39;weekday&＃39;],ax&＃61;ax1)

ax1.set_title("The influence of hour (weekday)")

ax2 &＃61; plt.subplot(2,2,3)

sn.pointplot(train[&＃39;hour&＃39;],train[&＃39;count&＃39;],hue&＃61;train[&＃39;workingday&＃39;],ax&＃61;ax2)

ax2.set_title("The influence of hour (workingday)")

ax3 &＃61; plt.subplot(2,2,4)

sn.pointplot(train[&＃39;hour&＃39;],train[&＃39;count&＃39;],hue&＃61;train[&＃39;holiday&＃39;],ax&＃61;ax3)

ax3.set_title("The influence of hour (holiday)")

plt.show()

可以看出&＃xff0c;工作日早晚上班高峰期租借量高&＃xff0c;其余时间租借量低&＃xff1b;节假日中午及午后租借量较高&＃xff0c;符合节假日人们出行用车的规律。

(5)天气对租借数的影响#(5) 天气的影响

sn.boxplot(train[&＃39;weather&＃39;],train[&＃39;count&＃39;])

plt.title("The influence of weather")

plt.show()

(6)具体天气因素(温度、湿度和风速)的影响#(6) 温度、湿度、风速的影响

cols &＃61; [&＃39;temp&＃39;, &＃39;atemp&＃39;, &＃39;humidity&＃39;, &＃39;windspeed&＃39;, &＃39;count&＃39;]sn.pairplot(train[cols])

plt.show()

作出多个连续变量之间的相关图&＃xff0c;可以比较任意两个连续变量之间的关系。图中可以明显看出temp和atemp大致成线性关系&＃xff0c;但也存在一组数据显著偏离线性相关趋势&＃xff0c;可能与湿度和风速有关。因此&＃xff0c;可以认为temp、humidity和windspeed三者共同决定了atemp&＃xff0c;因此在后续建模过程中可以删除atemp特征。

进一步研究温度、湿度和风速对租借数的影响&＃xff1a;fig, axes &＃61; plt.subplots(1,3,figsize&＃61;(24,8))

ax1 &＃61; plt.subplot(1,3,1)

ax2 &＃61; plt.subplot(1,3,2)

ax3 &＃61; plt.subplot(1,3,3)

sn.regplot(train[&＃39;temp&＃39;],train[&＃39;count&＃39;],ax&＃61;ax1)

sn.regplot(train[&＃39;humidity&＃39;],train[&＃39;count&＃39;],ax&＃61;ax2)

sn.regplot(train[&＃39;windspeed&＃39;],train[&＃39;count&＃39;],ax&＃61;ax3)

ax1.set_title("The influence of temperature")

ax2.set_title("The influence of humidity")

ax3.set_title("The influence of windspeed")

plt.show()

虽然三种天气因素对租借数的影响比较分散&＃xff0c;但可以明显看出温度和风速与租借数成正相关&＃xff0c;湿度与租借数成负相关。

3.3 特征工程

综上所述&＃xff0c;本项目提取特征year、month、hour、workingday、holiday、weather、temp、humidity和windspeed共9个特征预测租借总数。其中year、month、hour、workingday、holiday和weather为离散量&＃xff0c;且由于workingday和holiday已经是二元属性&＃xff0c;因此其余四个需要进行独热编码(one-hot)方式进行转换。#特征工程

#所选取的特征&＃xff1a;year、month、hour、workingday、holiday、weather、temp、humidity和windspeed

#(1) 删除不要的变量

data &＃61; data.drop([&＃39;day&＃39;,&＃39;weekday&＃39;,&＃39;season&＃39;,&＃39;atemp&＃39;,&＃39;casual&＃39;,&＃39;registered&＃39;],axis&＃61;1)

#(2) 离散型变量(year、month、hour、weather)转换

column_trans &＃61; [&＃39;year&＃39;,&＃39;month&＃39;,&＃39;hour&＃39;,&＃39;weather&＃39;]

data &＃61; pd.get_dummies(data, columns&＃61;column_trans)

四、构建模型

接下来&＃xff0c;需要对数据进行建模预测&＃xff0c;分别采用三种典型集成学习模型(普通随机森林、极端随机森林模型和梯度提升树模型)、XGBoost模型和人工神经网络模型。此处均采用模型的默认参数或简单参数&＃xff0c;如人工神经网络选用三层神经网络&＃xff0c;每层包含神经元数量相同&＃xff0c;且均为特征个数。#机器学习

#1、特征向量化

col_trans &＃61; [&＃39;holiday&＃39;, &＃39;workingday&＃39;, &＃39;temp&＃39;, &＃39;humidity&＃39;, &＃39;windspeed&＃39;, &＃39;year_2011&＃39;, &＃39;year_2012&＃39;, &＃39;month_1&＃39;, &＃39;month_2&＃39;, &＃39;month_3&＃39;, &＃39;month_4&＃39;, &＃39;month_5&＃39;, &＃39;month_6&＃39;, &＃39;month_7&＃39;, &＃39;month_8&＃39;, &＃39;month_9&＃39;, &＃39;month_10&＃39;, &＃39;month_11&＃39;, &＃39;month_12&＃39;, &＃39;hour_0&＃39;, &＃39;hour_1&＃39;, &＃39;hour_2&＃39;, &＃39;hour_3&＃39;, &＃39;hour_4&＃39;, &＃39;hour_5&＃39;, &＃39;hour_6&＃39;, &＃39;hour_7&＃39;, &＃39;hour_8&＃39;, &＃39;hour_9&＃39;, &＃39;hour_10&＃39;, &＃39;hour_11&＃39;, &＃39;hour_12&＃39;, &＃39;hour_13&＃39;, &＃39;hour_14&＃39;, &＃39;hour_15&＃39;, &＃39;hour_16&＃39;, &＃39;hour_17&＃39;, &＃39;hour_18&＃39;, &＃39;hour_19&＃39;, &＃39;hour_20&＃39;, &＃39;hour_21&＃39;, &＃39;hour_22&＃39;, &＃39;hour_23&＃39;, &＃39;weather_1&＃39;, &＃39;weather_2&＃39;, &＃39;weather_3&＃39;, &＃39;weather_4&＃39;]

X_train &＃61; data[col_trans].iloc[:10886]

X_test &＃61; data[col_trans].iloc[10886:]

Y_train &＃61; data[&＃39;count&＃39;].iloc[:10886]

from sklearn.feature_extraction import DictVectorizer

vec &＃61; DictVectorizer(sparse&＃61;False)

X_train &＃61; vec.fit_transform(X_train.to_dict(orient&＃61;&＃39;record&＃39;))

X_test &＃61; vec.fit_transform(X_test.to_dict(orient&＃61;&＃39;record&＃39;))

#分割训练数据

from sklearn.model_selection import train_test_splitx_train, x_test, y_train, y_test &＃61; train_test_split(X_train, Y_train, test_size&＃61;0.25, random_state&＃61;40)

#2、建模预测&＃xff0c;分别采用常规集成学习方法、XGBoost和神经网络三大类模型from sklearn.ensemble import RandomForestRegressor

from sklearn.ensemble import ExtraTreesRegressor

from sklearn.ensemble import GradientBoostingRegressor

from xgboost import XGBRegressor

from sklearn.neural_network import MLPRegressor

from sklearn.metrics import r2_score

#(1)集成学习方法——普通随机森林

rfr &＃61; RandomForestRegressor()

rfr.fit(x_train,y_train)

#print(rfr.fit(x_train,y_train))

rfr_y_predict &＃61; rfr.predict(x_test)

print("集成学习方法——普通随机森林回归模型的R方得分为&＃xff1a;",r2_score(y_test,rfr_y_predict))

#(2)集成学习方法——极端随机森林

etr &＃61; ExtraTreesRegressor()

etr.fit(x_train,y_train)

#print(etr.fit(x_train,y_train))

etr_y_predict &＃61; etr.predict(x_test)

print("集成学习方法——极端随机森林回归模型的R方得分为&＃xff1a;",r2_score(y_test,etr_y_predict))

#(3)集成学习方法——梯度提升树

gbr &＃61; GradientBoostingRegressor()

gbr.fit(x_train,y_train)

#print(gbr.fit(x_train,y_train))

gbr_y_predict &＃61; gbr.predict(x_test)

print("集成学习方法——梯度提升树回归模型的R方得分为&＃xff1a;",r2_score(y_test,gbr_y_predict))

#(4) XGBoost回归模型

xgbr &＃61; XGBRegressor()

xgbr.fit(x_train,y_train)

#print(xgbr.fit(x_train,y_train))

xgbr_y_predict &＃61; xgbr.predict(x_test)

print("XGBoost回归模型的R方得分为&＃xff1a;",r2_score(y_test,xgbr_y_predict)) #(5) 神经网络回归模型

mlp &＃61; MLPRegressor(hidden_layer_sizes&＃61;(47,47,47),max_iter&＃61;500)mlp.fit(x_train,y_train)

mlp_y_predict &＃61; mlp.predict(x_test)

print("神经网络回归模型的R方得分为&＃xff1a;",r2_score(y_test,mlp_y_predict))

最终模型预测能力如下&＃xff1a;

可以看出&＃xff0c;默认配置的随机森林模型和简单参数的人工神经网络R方得分较高。分别采用极端随机森林模型和人工神经网络预测测试数据&＃xff0c;上传至Kaggle评分&＃xff0c;两者结果相似&＃xff0c;其中极端随机森林模型的效果略好&＃xff0c;结果如下&＃xff1a;

本项目的得分为均方根对数误差(RMSLE)&＃xff0c;值越小越好。该比赛官方记录最好得分为0.33756。因此&＃xff0c;该模型还有待提高&＃xff0c;主要是对模型进行调参。每种机器学习模型均有若干参数&＃xff0c;需理解每个参数的意义和作用&＃xff0c;采用适当方法进行调参&＃xff0c;以期获得最佳参数&＃xff0c;提高预测准确率。