热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

提供基于transformer的pipeline、准确率达SOTA

点上方蓝字计算机视觉联盟获取更多干货在右上方设为星标★,与你不见不散仅作学术分享,不代表本公众号立场,侵权联系删除转载于:机

点上方蓝字计算机视觉联盟获取更多干货

在右上方 ··· 设为星标 ★,与你不见不散

仅作学术分享,不代表本公众号立场,侵权联系删除

转载于:机器之心

AI博士笔记系列推荐

周志华《机器学习》手推笔记正式开源!可打印版本附pdf下载链接

spaCy 3.0 正式版来了。

spaCy 是具有工业级强度的 Python NLP 工具包,被称为最快的工业级自然语言处理工具。它支持多种自然语言处理的基本功能,主要功能包括分词、词性标注、词干化、命名实体识别、名词短语提取等。

近日,spaCy v3.0 正式发布,这是一次重大更新。

spcCy 3.0 更新文档地址:https://github.com/explosion/spaCy/releases/tag/v3.0.0

spaCy v3.0 有以下特点:

  • 具有新的基于 transformer 的 pipeline,这使得 spaCy 的准确率达到了当前的 SOTA 水平;

  • 提供了新的 workflow 系统,帮助用户将原型变为产品;

  • pipeline 配置更加简单,训练 pipeline 也更加轻松;

  • 与 NLP 生态系统的其他部分有许多新的和改进的集成。

spaCy v3.0 旨在优化用户的应用体验。用户可以使用强大的新配置系统来描述所有的设置,从而在 PyTorch 或 TensorFlow 等框架中编写支持 spaCy 组件的模型。新的 workflow 系统更加适用于步骤复杂的现代 NLP 流程。

快速安装启动

为了实现最流畅的更新过程,项目开发者建议用户在一个新的虚拟环境中启动:

pip install -U spacy

在具体操作上,用户可以选择自己的操作系统、包管理器、硬件、配置、训练 pipeline,以及选择 pipeline 时可以选择侧重效率性或者准确性。

新功能与改进之处

本次更新的 spaCy v3.0 增添了一些新功能,也进行了一系列改进,具体如下:

  • 基于 Transformer 的 pipeline,支持多任务学习;

  • 针对 18 + 种语言再训练的模型集合以及 58 个训练的 pipeline(包括 5 个基于 transformer 的pipeline);

  • 针对所有支持语言再训练的 pipeline,以及用于马其顿语和俄语的新的核心 pipeline;

  • 新的训练工作流和配置系统;

  • 使用 PyTorch、TensorFlow 和 MXNet 等任何机器学习框架实现自定义模型;

  • 管理从预处理到模型部署等端到端多步骤工作流的 spaCy 项目;

  • 集成数据版本控制(Data Version Control, DVC)、Streamlit、Weights & Biases、Ray 等;

  • 利用 Ray 的并行训练和分布式计算;

  • 新的内置pipeline组件:SentenceRecognizer、Morphologizer、Lemmatizer、AttributeRuler 和 Transformer;

  • 针对自定义组件的全新改进版 pipeline 组件 API 和装饰器;

  • 从用户训练配置的其他 pipeline 中获取经过训练的组件;

  • 为所有经过训练的 pipeline 包提供预建和更高效的二进制 wheel;

  • 使用 Semgrex 运算符在依赖解析(dependency parse)中提供用于匹配模式的 DependencyMatcher;

  • 在 Matcher 中支持贪婪模式(greedy pattern);

  • 新的数据结构 SpanGroup,可以通过 Doc.spans 有效地存储可能重叠的 span 的集合;

  • 用于自定义注册函数的类型提示和基于类型的数据验证;

  • 各种新方法、属性和命令。

58 个训练的 pipeline

用户在下载训练的 pipeline 时,可以使用 spacy download 命令。58 个训练的 pipeline 如下图所示:

部分截图。

用户在自己的数据上训练 pipeline 时可参考训练文档,地址:https://spacy.io/usage/training

已删除或重命名的 API

下图中弃用的方法、属性和参数已经在 v3.0 中删除,其中的大多数已经弃用了一段时间,并且很多以往会引发错误。如果用户使用的是最新版本的 spaCy v2.x,则代码对它们的依赖性不大。

参考链接:

https://explosion.ai/blog/spacy-v3

https://zhuanlan.zhihu.com/p/51425975

end

我是王博Kings,一名985AI博士,在Github上开源了机器学习、深度学习等一系列手推笔记,获得了不少同学的支持。

这是我的私人微信,还有少量坑位,可与相关学者研究人员交流学习 

目前开设有人工智能、机器学习、计算机视觉、自动驾驶(含SLAM)、Python、求职面经、综合交流群扫描添加CV联盟微信拉你进群,备注:CV联盟

王博Kings 的公众号,欢迎关注,干货多多

王博Kings的系列手推笔记(附高清PDF下载):

博士笔记 | 周志华《机器学习》手推笔记第一章思维导图

博士笔记 | 周志华《机器学习》手推笔记第二章“模型评估与选择”

博士笔记 | 周志华《机器学习》手推笔记第三章“线性模型”

博士笔记 | 周志华《机器学习》手推笔记第四章“决策树”

博士笔记 | 周志华《机器学习》手推笔记第五章“神经网络”

博士笔记 | 周志华《机器学习》手推笔记第六章支持向量机(上)

博士笔记 | 周志华《机器学习》手推笔记第六章支持向量机(下)

博士笔记 | 周志华《机器学习》手推笔记第七章贝叶斯分类(上)

博士笔记 | 周志华《机器学习》手推笔记第七章贝叶斯分类(下)

博士笔记 | 周志华《机器学习》手推笔记第八章集成学习(上)

博士笔记 | 周志华《机器学习》手推笔记第八章集成学习(下)

博士笔记 | 周志华《机器学习》手推笔记第九章聚类

博士笔记 | 周志华《机器学习》手推笔记第十章降维与度量学习

博士笔记 | 周志华《机器学习》手推笔记第十一章特征选择与稀疏学习

博士笔记 | 周志华《机器学习》手推笔记第十二章计算学习理论(上)

博士笔记 | 周志华《机器学习》手推笔记第十二章计算学习理论(下)

博士笔记 | 周志华《机器学习》手推笔记第十三章半监督学习

博士笔记 | 周志华《机器学习》手推笔记第十四章概率图模型

点个在看支持一下吧



推荐阅读
author-avatar
版中凌菱
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有