作者:华东师大中北文艺部 | 来源:互联网 | 2023-07-13 17:51
休假栗问耕假装发自凹非寺量子位出品|公众号QbitAIPyTorch1.0来了~在今天的F8(Facebook开发者大会)上,深度学习框架PyTorch1.0rc1版
休假栗问耕假装从凹非寺里长出了头发
量子出品|公众号QbitAI
PyTorch 1.0来了~
在今天的f8(Facebook开发者大会)上,我们如期发布了深度学习框架PyTorch 1.0 rc1版。 但是,在国外论坛上,另一个开源库的关注度并不高。
那就是fastai 1.0。
简单来说,fastai是一个API,包含了所有常见的深度学习APP。 被称为实用版的“生命3000”。 而且很多性能指标已经超过了Keras。
例如,用5行代码完成Keras在31行中可以解决的事情。 同时,误差也变得更好。 难怪在Hacker News上,fastai的关注度比PyTorch 1.0还要高……
而且fastai基于PyTorch 1.0的框架,在Facebook官方也有重点宣传。 这两个新框架如果同时下载使用,疗效会更好。
这个长假,要不要试试?
fastai 1.0 fastai的出品方是fast.ai,虽然机构规模不大,但是提供了大量免费的机器学习课程,所以名声在外。 还有,fast.ai也是美军的伙伴,研究如何加速人工智能技术的发展。
只有一个API
据创始人Jeremy Howard介绍,fastai是一个API,包含了大部分常见的深度学习APP。
在传统库中,必须为不同的APP调用适当的API。 fastai是第一个可以通过单个API支持各种APP的库。
这样,用户就不需要记住各种各样的API调用方法。 用fastai构建视觉模型后,可以使用相同的API构建自然语言处理模型。
1.0发行前,fastai的第一个版本于9月上线。 早期的用户浪潮已经先行探索了这个幼师库,很多大人物都说好用:
这是Kaggle资深玩家rzdxbw Prez Michaus使用fastai进行的风格迁移的成果。
作为一个“没有正式电脑背景”的程序员,他称赞fastai的灵活性。 我也可以用。
GitHub的机器学习科学家Hamel Husain也使用了这个库,制作了GitHub语义代码的检索工具。 还是中途从TensorFlow Hub换成了fastai。 现在,搜索工具已联机。
359 Experiments.github.com/semantic -代码搜索
还有,OpenAI的姐姐ngdwx Payne最近在做一个叫自然苗条的项目。 用神经网络生成音乐的AI。 姐姐说,没有fastai,速度就没有保障。
让我们来听听自然苗条的作品吧。 很美。
其他音乐:
http://christinemcleavey.com/完成的黑色裤子-a-neural-net-music-generator/
五行代码就足够了
据Howard先生说,小组进行的研究都纳入了这个框架。 所以,大家可以充分享受这些成果。
gn-justify">他用猫狗识别的来举栗,那是迁移学习的经典案例,也是fast.ai的课程里最受欢迎的章节之一。
在新的库诞生之前,这样的问题大多是在TensorFlow上面用Keras解决的。如今,Keras依然是fast.ai团队仰慕的对象。
所以,团队也想在猫狗大战里感受一下,自家的框架和Keras对比起来,竞争力究竟如何。
这5行代码,就是在fastai框架里做ResNet50的two-stage微调,需要的全部操作了。
而同样的任务,Keras要用31行才能完成。
除了代码行数,fastai在两个阶段的误差也比Keras更小。
虽然成绩表十分骄人,Howard依然三番五次地表示,Keras始终是大神,整个团队都是Keras的粉丝。
先去用用看?
现在,fastai框架已经在GitHub上线了。下载请至:
https://github.com/fastai/fastai
也可以在谷歌云平台上用啊。先打开这个页面:
https://cloud.google.com/deep-learning-vm/docs/images
然后,给你的示例安装配置,再把fastai部署在PyTorch 1.0上。有了。
如果要在GPU驱动的Jupyter Notebook上运行fastai,也没问题:
https://salamander.ai/
除此之外,还有一个好消息。不久就会支持AWS了,可以期待一下。
PyTorch 1.0
接下来,说说也是最新发布的PyTorch 1.0。
去年1月,PyTorch首次发布,目前下载已经超过100万次。今年五月,Facebook副总裁贾扬清和CTO Mike Schroepfer透露,PyTorch 1.0即将推出。当时,Caffe2代码还并入了PyTorch。
PyTorch 1.0 rc1版传送门:
https://github.com/pytorch/pytorch/releases
Facebook在官方博客中,还对PyTorch 1.0 rc1版进行了详细的介绍。
新框架有了一个全新的混合模式前端,支持tracing和scripting模型,从eager模式进入graph模式,从而弥合研发与生产部署之间的差距;一个经过改进的torch.distributed库,能让Python和C++环境中的训练更快。
以及这个版本正式融合了PyTorch框架的灵活性与Caffe2的生产力。贾扬清此前给的总结就是:Caffe2 + PyTorch = PyTorch 1.0。
三大新功能
torch.jit
JIT是一组编译工具,用于弥合PyTorch研究和生产之前的差距。其中包含一种名为Torch Script的语言(仍然使用Python编写),还有两种方法可以使现有的代码与JIT兼容。
Torch Script代码可以积极优化,并且在序列化之后可以在新的C++ API中使用,这就完全不依赖Python了。
c10d库
torch.distributed软件包以及torch.nn.parallel.DistributedDataParallel模块,由新的c10d库提供支持。主要亮点包括:
c10d是吸能你驱动的,并且对所有后端完全异步操作分布式数据并行性能显著改进在Gloomy后端增加send和recv支持
C++前端API
这个前端API被明确标记为还不稳定(Unstable)。官方预计将在未来一两个月稳定下来,同时不排除发生其中某些部分发生重大变化。
这个C++前端是一个纯C++接口后端是PyTorch,与此前的Python前后端体系结构一样。这个API只在实现高性能、低延迟和裸机C++应用程序的研究。
以下是两种语言前端的简单比较。
其他
生态系统
Google云、亚马逊AWS、微软Azure Machine Learning等国外的流行云服务,现在与PyTorch更加兼容。
Arm、Nvidia、高通、英特尔、IBM等厂商的,也增加了对PyTorch 1.0的支持。确保PyTorch可以在数据中心、边缘硬件等不同领域得到应用。
根据官方消息,目前Google和Facebook正在合作,为PyTorch用户构建TPU。Google云的Deep Learning VM服务,也将提供PyTorch 1.0映像。
教育培训
Facebook透露正与Udacity合作,为开发者提供免费的深度学习入门课程,这些课程都基于PyTorch。此外,Facebook还将赞助300名开发者,完成Udacity的中级课程,这些课程也已经改为基于PyTorch 1.0。
当然,fast.ai的新课程和深度学习库,也是PyTorch在教育领域的合作成果。
— 完 —
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态