本文首发于微信公众号“计算机视觉cv”
机器学习将数据拟合到数学模型中来获得结论或者做出预测。这些模型吸纳特征作为输入。特征就是原始数据某方面的数学表现。在机器学习流水线中特征位于数据和模型之间。特征工程是一项从数据中提取特征,然后转换成适合机器学习模型的格式的艺术。这是机器学习流水线关键的一步,因为正确的特征可以减轻建模的难度,并因此使流水线能输出更高质量的结果。从业者们认为构建机器学习流水线的绝大多数时间都花在特征工程和数据清洗上。然后,尽管它很重要,这个话题却很少单独讨论。也许是因为正确的特征只能在模型和数据的背景中定义。由于数据和模型如此多样化,所以很难概括项目中特征工程的实践。
尽管如此,特征工程不仅仅是一种临时实践。工作中有更深层的原则,最好就地进行说明。本书的每一章都针对一个数据问题:如何表示文本数据或图像数据,如何降低自动生成的特征的维度,何时以及如何规范化等等。把它看作是一个相互联系的短篇小说集,而不是一本长篇小说。每章都提供了大量现有特征工程技术的插图。它们一起阐明了总体原则。
由于深度学习的发展,构建的神经网络可以自动提取数据的特征,所以有人就认为现在不再需要特征工程了,只要用神经网络就可以。其实不是的,实际上,目前的DL(深度学习)中,构建网络结构这个过程就是特征工程方法。特征工程是需要掌握的,毕竟不是每个项目都可以用深度学习来做,用机器学习做有些效果会比深度学习好,所以要两手都要抓。
第 1 章:从数字数据的基本特征工程开始:过滤,合并,缩放,日志转换和能量转换以及交互功能。
第 2 章和第 3 章:深入探讨了自然文本的特征工程:bag-of-words,n-gram 和短语检测。
第 4 章:将 tf-idf 作为特征缩放的例子,并讨论它的工作原理。
第 5 章:讨论分类变量的高效编码技术,包括特征哈希和 bin-counting,步伐开始加速。
第 6 章:进行主成分分析时,深入机器学习的领域。
第 7 章:将 k-means 看作一种特征化技术,它说明了模型堆叠的有效理论。
第 8 章:都是关于图像的,在特征提取方面比文本数据更具挑战性。在得出深度学习是最新图像特征提取技术的解释之前,我们着眼于两种手动特征提取技术 SIFT 和 HOG。
第 9 章:完成了一个端到端示例中的几种不同技术,为学术论文数据集创建了一个推荐器。
[1]Feature Engineering for Machine Learning Models. Alice Zheng[美]