当前位置: 开发笔记 > 编程语言 > 正文

图灵奖得主LeCun力推无监督学习：要重视基于能量的学习方法

作者：手机用户2502932807 | 来源：互联网 | 2023-09-24 12:55

作者|TiernanRay译者|夕颜出品|AI科技大本营（ID:rgznai100）导语：图灵奖得主深度学习大牛YannLeCun表示&#

作者 | Tiernan Ray

译者 | 夕颜

出品 | AI科技大本营&＃xff08;ID:rgznai100&＃xff09;

导语&＃xff1a;图灵奖得主深度学习大牛 Yann LeCun 表示&＃xff0c;人工智能的下一个发展方向可能是放弃深度学习的所有概率技巧&＃xff0c;转而掌握一系列转移能量值的方法。

据说&＃xff0c;工程师和某些科学家&＃xff08;大多数是工程师&＃xff09;可以把构思的东西在脑中视觉化。Facebook 的人工智能负责人 Yann LeCun 似乎就是这类人。

他在《When the Machine Learns》一书中写道&＃xff1a;“我主要是凭直觉工作。”这本新书既是传记&＃xff0c;又是科学讲座&＃xff0c;又是一部人工智能简史&＃xff0c;本周三以法语出版&＃xff0c;书名为《Quand la machine apprend》&＃xff08;中文大意&＃xff1a;当机器学习时&＃xff09;。

LeCun 写道&＃xff1a;“我想到了爱因斯坦称之为‘思维实验’的临界案例。”

想象不存在事物的能力&＃xff0c;也许通常被认为是可行性的极限&＃xff0c;也是工程师和创新者的标志。LeCun 在 AI 人才中很少见&＃xff0c;他既是算法设计领域的专家&＃xff0c;同时在计算机工程领域也颇有建树。

LeCun 今年因其对计算机科学的贡献而获得了 ACM 图灵奖&＃xff0c;他最负盛名的成就是在 1990 年代改进和完善了卷积神经网络&＃xff08;即 CNN&＃xff09;并使其实用化。他并非从零开始创造了 CNN&＃xff0c;但他让 CNN 变得实用、可行。这奠定了机器学习革命的基础&＃xff0c;在过去十年中&＃xff0c;LeCun 与他的伙伴&＃xff0c;另两位获奖者 Geoffrey Hinton 和 Yoshua Bengio 一起在机器学习中脱颖而出。

LeCun 本周三在新泽西州普林斯顿高等研究院进行了演讲&＃xff0c;活动由研究所数学教授 Sanjeev Arora 组织&＃xff0c;吸引了许多 AI 专家&＃xff0c;包括英伟达的 AI 研究负责人 Anima Anandkumar 和 LeCun 在 Facebook 的学者同事 LéonBottou。

LeCun 的演讲是他最近在许多讲座中所采用的主题&＃xff1a;如何超越常规深度学习的标记训练示例。他对听众说&＃xff1a;“在监督或多任务学习中&＃xff0c;我们将不会获得像人类一样可以泛化的智能。我们必须要换个方向。”

LeCun 认为&＃xff0c;这个其他方向就是无监督学习。为了使无监督学习成为可能&＃xff0c;整个领域可能需要在基于能量的学习方法上做更多的工作。

能量函数在 AI 领域已经存在数十年了。生物学家约翰·霍普菲尔德&＃xff08;John Hopfield&＃xff09;于 1980 年代首次通过后来称为“霍普菲尔德网络”&＃xff08;Hopfield Network&＃xff09;的方法普及了这一概念。这在当时的机器学习中是一个突破&＃xff0c;让其他类型的学习算法可以处理能量场的概念&＃xff0c;例如 Hinton 所研究的“玻尔兹曼机器”。

LeCun指出&＃xff1a;“基于能量的学习已经存在一段时间了&＃xff0c;但由于需要减少监督&＃xff0c;最近我又想到了它。”

细节很难懂&＃xff0c;但其基本思想是&＃xff0c;无需创建大量带有标签的数据集&＃xff08;例如猫和狗的图片&＃xff09;&＃xff0c;也不用花费数千个小时训练 DeepMind 的 AlphaZero 这样的国际象棋游戏&＃xff0c;而只是获取一些丰富的原始数据&＃xff0c;例如大量 YouTube 视频&＃xff0c;然后“喂”给计算机。

LeCun说&＃xff1a;“让机器变得足够大&＃xff0c;整天观看 YouTube 或 Facebook Live 就行。”由此可以训练机器预测视频中每一帧后的下一帧。预测与现实之间的兼容性就是所谓的能级&＃xff08;energy level&＃xff09;。能量越少越好&＃xff0c;更兼容、更准确&＃xff0c;因此神经网络需要努力达到理想的低能量状态。

原文链接&＃xff1a;

https://www.zdnet.com/article/high-energy-facebooks-ai-guru-lecun-imagines-ais-next-frontier/

&＃xff08;*本文为 AI科技大本营编译文章&＃xff0c;转载请微信联系 1092722531&＃xff09;

◆

精彩推荐

◆

2019 中国大数据技术大会&＃xff08;BDTC&＃xff09;再度来袭&＃xff01;豪华主席阵容及百位技术专家齐聚&＃xff0c;15 场精选专题技术和行业论坛&＃xff0c;超强干货&＃43;技术剖析&＃43;行业实践立体解读&＃xff0c;深入解析热门技术在行业中的实践落地。

即日起&＃xff0c;限量 5 折票开售&＃xff0c;数量有限&＃xff0c;扫码购买&＃xff0c;先到先得&＃xff01;