在分类过程中对连续数据的类划分

分类中对连续数据的类划分&＃xff1a;

在 C4.5 算法中采用二分法对连续值进行处理。
Markdown Code

对于连续的属性 XX 假设共出现了 n 个不同的取值&＃xff0c;将这些取值从小到大排序{x1,x2,x3,…,xn}{x1,x2,x3,…,xn}&＃xff0c;其中找一点作为划分点 t &＃xff0c;则将数据划分为两类&＃xff0c;大于 t 的为一类&＃xff0c;小于 t 的为另一类。而 t 的取值通常为相邻两点的平均数

t&＃61;xi&＃43;xi&＃43;12t&＃61;xi&＃43;xi&＃43;12。

则在 n 个连续值之中&＃xff0c;可以作为划分点的 t 有 n-1 个。通过遍历可以像离散型一样来考察这些划分点。

Gain(D,X)&＃61;Ent(D)−||D

def get_splitpoint(data, base_ent, feature):"""参数:data -- 数据集base_ent -- 根节点的信息熵feature -- 需要划分的连续特征返回:final_t -- 连续值最优划分点"""continues_value &＃61; data[feature].sort_values().astype(np.float64) # 将连续值进行排序并转化为浮点类型continues_value &＃61; [i for i in continues_value] # 不保留原来的索引t_set &＃61; []t_ent &＃61; {}for i in range(len(continues_value)-1): # 得到划分点 t 的集合temp_t &＃61; (continues_value[i]&＃43;continues_value[i&＃43;1])/2t_set.append(temp_t)for each_t in t_set: # 计算最优划分点temp1_data &＃61; data[data[feature].astype(np.float64) > each_t] # 将大于划分点的分为一类temp2_data &＃61; data[data[feature].astype(np.float64) # 将小于划分点的分为一类weight1 &＃61; len(temp1_data)/len(data)weight2 &＃61; len(temp2_data)/len(data)temp_ent &＃61; base_ent-weight1 * \get_Ent(temp1_data)-weight2*get_Ent(temp2_data) # 计算每个划分点的信息增益t_ent[each_t] &＃61; temp_entprint("t_ent:", t_ent)final_t &＃61; max(t_ent, key&＃61;t_ent.get)return final_t
final_t&＃61;get_splitpoint(data,base_ent,&＃39;height&＃39;)#得到final_t后&＃xff0c;对数据进行预处理&＃xff1a;
def choice_1(x, t):if x > t:return ">{}".format(t)else:return "<{}".format(t)
deal_data &＃61; data.copy()
# 使用lambda和map函数将 height 按照final_t划分为两个类别
deal_data["height"] &＃61; pd.Series(map(lambda x: choice_1(int(x), final_t), deal_data["height"]))
deal_data