ML学习笔记20210824分类算法模型选择与调优

3.1 交叉验证

1. 定义
   
   
2. 目的为了让模型得精度更加可信

3.2 超参数搜索 Grid Search

1. 对K值进行选择。k&＃61;[1,2,3,4,5,6]循环遍历搜索。
2. API
   参数1&＃xff1a;传入预估器。
   参数2&＃xff1a;超参数得取值&＃xff0c;字典类型&＃xff0c;{‘超参数名称’&＃xff1a;[参数列表]}
   参数3&＃xff1a;cv 几折交叉验证
   返回值&＃xff1a;可查看最佳参数啥的。
   

3.3 鸢尾花案例增加K值调优

def KNN_optimal(): # 模型选择和调优# 网格搜索和交叉验证x_train, x_test, y_train, y_test &＃61; load_data()estimator &＃61; KNeighborsClassifier() # 默认都是欧式距离, 采用的是minkowski推广算法,p&＃61;1是曼哈顿, p&＃61;2是欧式, 而默认值为2# 开始调优# 第一个参数是estimator# 第二个是估计器参数&＃xff0c;参数名称&＃xff08;字符串&＃xff09;作为key&＃xff0c;要测试的参数列表作为value的字典&＃xff0c;或这样的字典构成的列表# 第三个是指定cv&＃61;K, K折交叉验证# https://www.cnblogs.com/dblsha/p/10161798.htmlparam_dict &＃61; {"n_neighbors": [1, 3, 5, 7, 9, 11]}estimator &＃61; GridSearchCV(estimator, param_grid&＃61;param_dict, cv&＃61;10)# 结束调优estimator.fit(x_train, y_train)# 传入测试值通过前面的预估器获得预测值y_predict &＃61; estimator.predict(x_test)print("预测值为:", y_predict, "\n真实值为:", y_test, "\n比较结果为:", y_test &＃61;&＃61; y_predict)score &＃61; estimator.score(x_test, y_test)print("准确率为: ", score)# ------------------print("最佳参数:\n", estimator.best_params_)print("最佳结果:\n", estimator.best_score_)print("最佳估计器:\n", estimator.best_estimator_)print("交叉验证结果:\n", estimator.cv_results_)# -----------------以上是自动筛选出的最佳参数, 调优结果return None


3.4 预测 facebook 签到位置

• 数据集介绍
  
  
  
  
• . 流程分析
  1&＃xff09;获取数据
  2&＃xff09;数据处理&＃xff1a;
• 特征值&＃xff1a;x
• 目标值&＃xff1a;y
• a.缩小范围&＃xff1a;2
• b.time -> 年月日时分秒
• c.过滤签到次数少的地点
  3&＃xff09;特征工程&＃xff1a;特征提取&＃xff0c;特征预处理&＃xff1a;标准化&＃xff0c;特征降维
  4&＃xff09;算法训练&＃xff1a;KNN算法得预估流程
  5&＃xff09;模型评估&＃xff1a;模型选择与调优
  6&＃xff09;应用

import pandas as pd
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.preprocessing import StandardScalerdef load_data():data &＃61; pd.read_csv("../../resources/FBlocation/train.csv")# data &＃61; data.query("x<2.5 & x>1 & y<1.5 & y>1.0") # query 方法处理数据data &＃61; data.copy()# 处理时间特征time_value &＃61; pd.to_datetime(data["time"], unit&＃61;"s") # 通用datetime时间类型数据date &＃61; pd.DatetimeIndex(time_value) # 转换为可筛选的时间格式data["day"] &＃61; date.daydata["weekday"] &＃61; date.weekdaydata["hour"] &＃61; date.hour# 过滤签到次数少的地点print("计数count统计\n", data.groupby("place_id").count()) # 展示为可观测列表数据, 这里计数, 并且后面的所有的字段数据全是代表出现的总次数place_count &＃61; data.groupby("place_id").count()["row_id"] # 签到place的次数统计, 方便直观展示而只过滤place和次数, row_id是随便加的, 现在所有字段都代表count值, 所以可以取其他的也行print("签到place的次数统计\n", place_count)place_count[place_count > 3] # 过滤所有数据筛选出签到(这里是row_id>3)次数大于3的print("过滤所有数据,筛选出签到次数大于10的\n", place_count[place_count > 10])data["place_id"].isin(place_count[place_count > 3].index.values) # 布尔值索引print("布尔值索引\n", data["place_id"].isin(place_count[place_count > 10].index.values))final_data &＃61; data[data["place_id"].isin(place_count[place_count > 10].index.values)] # 通过布尔索引筛选print("处理后的data:\n", final_data)return final_datadef implement():used_data_x &＃61; load_data()[["x", "y", "accuracy", "day", "weekday", "hour"]]used_data_y &＃61; load_data()["place_id"]x_train, x_test, y_train, y_test &＃61; \train_test_split(used_data_x, used_data_y)transfer &＃61; StandardScaler()x_train &＃61; transfer.fit_transform(x_train)x_test &＃61; transfer.transform(x_test)estimator &＃61; KNeighborsClassifier()param_dict &＃61; {"n_neighbors": [5, 10, 15, 20]}estimator &＃61; GridSearchCV(estimator, param_grid&＃61;param_dict, cv&＃61;4)estimator.fit(x_train, y_train) # 训练集里面的数据和目标值# 传入测试值通过前面的预估器获得预测值y_predict &＃61; estimator.predict(x_test)print("预测值为:", y_predict, "\n真实值为:", y_test, "\n比较结果为:", y_test &＃61;&＃61; y_predict)score &＃61; estimator.score(x_test, y_test)print("准确率为: ", score)# ------------------print("最佳参数:\n", estimator.best_params_)print("最佳结果:\n", estimator.best_score_)print("最佳估计器:\n", estimator.best_estimator_)print("交叉验证结果:\n", estimator.cv_results_)# -----------------以上是自动筛选出的最佳参数, 调优结果return Noneif __name__ &＃61;&＃61; &＃39;__main__&＃39;:implement()