作者:johnnyLei | 来源:互联网 | 2023-09-16 22:52
frompc˃使用核技巧的支持向量机是我在1991年提出来的,这是我最重要的一项工作。同年,一起工作的两个物理学家,Mezard和Krauth,提出了一种名为minover的边缘算
Python部落(python.freelycode.com)组织翻译,禁止转载,欢迎转发。
“这将从1989年开始。 我曾研究神经网络和核方法的性能比较。 在丈夫使用Vladimir的算法之后,SVM诞生了。 ”
——Isabelle Guyon
使用核技术的支持向量机于1991年提出。 这是我最重要的工作。 当时我在Larry Jackel的队伍里。 Jackel的团队隶属于贝尔研究所(Bell Labs )。 结果,我有了和非常优秀的人接触的机会。 他们大多是现在有名的大佬,比如Vladimir Vapnik、Yann LeCun、Leon Bottou、Yoshuababou等。实验室充满了竞争的气氛,让人振奋做伟大的事。
故事开始于1989年的巴黎。 那个时候,我跟着我的博导、Dreyfus教授和Personnaz教授研究神经网络和核方法的性能比较(Parzen窗、隐函数,还有Poggio使用的最小平方核回归)。 同年,两个一起工作的物理学家,Mezard和Krauth提出了一种叫minover的边缘算法,它引起了我的注意,但在进入贝尔实验室之前,我无法将它们联系在一起。
当时,所有人都以多层传感器(深度学习的雏形)为中心进行研究。 我在边缘算法方面的第一份工作是受minover的启发,简化一些有效的聚集方法以优化边缘检测。 我丈夫Bernhard为多层传感器设计了专用硬件! 我和Vladimir就此展开了热烈的讨论。 他和我的办公室正忙于销售他在60年代发明的另一种边缘算法。
支持向量机出现在搬到伯克利之前三个月,Bernhard决定使用Vladimir的算法。 在线性算法中取得初步成功后,Vladimir提出了引入特征乘积,但我提出了使用隐函数算法的核技术(kernel trick )更好。 Vladimir当初反对。 因为隐函数算法的发明者(Aizerman、Braverman、Rozonoer )所属的团队,是他60年代滞留在俄罗斯的研究所的殊死战斗。 最后Bernhard还是尝试了,SVM也诞生了!
编辑补充:
我向Isabelle发送了数据挖掘历史的链接。 链接中出现了她和Vapnik发明的支持向量机。 问我关于SVM有什么想说的,她和我分享了她在脸书上的po的故事,也就是你们现在看到的。 为了让更多人知道SVM诞生的故事,经她自己许可,我们转载于此。
作者介绍:
在成为多年的机器学习顾问之后,Isabelle Guyon现在是巴黎萨克拉门托大学的全职教授,担任ChaLearn的主席。 ChaLearn是加州专门从事机器学习比赛的非营利组织。 她出生于巴黎,现在往返于巴黎和加利福尼亚之间工作。
原文: http://www.KD nuggets.com/2016/07/guyon-data-mining-history-SVM-support-vector-machines.html翻译人员:日本国民银行