西瓜书读书笔记（一）绪论

全部笔记的汇总贴&＃xff1a;《机器学习》西瓜书-读书笔记汇总贴

机器学习致力于研究如何通过计算的手段&＃xff0c;利用经验来改善系统自身的性能的学科。

数据集&＃xff1a;对单个样本特征进行描述的记录集合。每条记录时关于一个事件或对象的描述&＃xff0c;称为“示例”或“样本”&＃xff0c;反映事件或对象在某方面的表现或性质的事项称为“属性”或“特征”。

…&＃xff08;发现这块儿也没啥好说的&＃xff0c;这些概念用多了就能明白在说啥&＃xff0c;实在不懂就看看书吧&＃xff09;

归纳&＃xff08;induction&＃xff09;与演绎&＃xff08;deduction&＃xff09;是科学推理的两大基本手段。前者是从特殊到一般的 “ 泛化 ” generalization&＃xff09;过程&＃xff0c;即从具体的事实归结出一般性规律&＃xff1b;后者则是从一般到特殊的 “特化” &＃xff08;specialization&＃xff09;过程&＃xff0c;即从基础原理推演出具体状况。

我们可以把学习过程看作一个在所有假设&＃xff08;hypothesis&＃xff09;组成的空间中进行搜索的过程&＃xff0c;搜索目标是找到与训练集 “ 匹配” &＃xff08;fit&＃xff09;的假设&＃xff0c;即能够将训练集中判断正确的假设。

对于一个具体的算法&＃xff0c;我们需要选择一个模型&＃xff0c;这个时候我们选择的算法偏好就会起到关键的作用。任何一个有效的机器学习算法必有其归纳偏好&＃xff0c;否则它将被假设空间中看似在训练集上 “等效” 的假设所迷惑&＃xff0c;而无法产生确定的学习结果。

“奥卡姆剃刀” &＃xff08;Occam’s razor&＃xff09;是一种常用的、 自然科学研究中最基本的原则&＃xff0c;即 “若有多个假设与观察一致&＃xff0c;则选最简单的那个 ” 。有利于降低过拟合带来的模型在训练集上的效果优于测试集。

1. 数据挖掘&＃xff1a;发现数据之间的关系
2. 计算机视觉&＃xff1a;像人一样看懂世界
3. 自然语言处理&＃xff1a;像人一样看懂文字
4. 机器人决策&＃xff1a;像人一样具有决策能力

其他的看看课本&＃xff0c;扩展阅读一下…

下一章传送门&＃xff1a;西瓜书读书笔记&＃xff08;二&＃xff09;-模型评估与选择