如何在jieba分词中加自定义词典_常见中文分词包比较

1 jieba

• jieba.cut 方法接受三个输入参数: 需要分词的字符串&＃xff1b;cut_all 参数用来控制是否采用全模式&＃xff1b;HMM 参数用来控制是否使用 HMM 模型
• jieba.cut_for_search 方法接受两个参数&＃xff1a;需要分词的字符串&＃xff1b;是否使用 HMM 模型。该方法适合用于搜索引擎构建倒排索引的分词&＃xff0c;粒度比较细待分词的字符串可以是 unicode 或 UTF-8 字符串、GBK 字符串。注意&＃xff1a;不建议直接输入 GBK 字符串&＃xff0c;可能无法预料地错误解码成 UTF-8
• jieba.cut 以及 jieba.cut_for_search 返回的结构都是一个可迭代的 generator&＃xff0c;可以使用 for 循环来获得分词后得到的每一个词语(unicode)&＃xff0c;或者用
• jieba.lcut 以及 jieba.lcut_for_search 直接返回 list
• jieba.Tokenizer(dictionary&＃61;DEFAULT_DICT) 新建自定义分词器&＃xff0c;可用于同时使用不同词典。jieba.dt 为默认分词器&＃xff0c;所有全局分词相关函数都是该分词器的映射。

2 snownlp

SnowNLP是一个python写的类库&＃xff0c;可以方便的处理中文文本内容&＃xff0c;是受到了TextBlob的启发而写的&＃xff0c;由于现在大部分的自然语言处理库基本都是针对英文的&＃xff0c;于是写了一个方便处理中文的类库&＃xff0c;并且和TextBlob不同的是&＃xff0c;这里没有用NLTK&＃xff0c;所有的算法都是自己实现的&＃xff0c;并且自带了一些训练好的字典。注意本程序都是处理的unicode编码&＃xff0c;所以使用时请自行decode成unicode。

3 pkuseg

pkuseg具有如下几个特点&＃xff1a;

1.多领域分词。不同于以往的通用中文分词工具&＃xff0c;此工具包同时致力于为不同领域的数据提供个性化的预训练模型。根据待分词文本的领域特点&＃xff0c;用户可以自由地选择不同的模型。 我们目前支持了新闻领域&＃xff0c;网络领域&＃xff0c;医药领域&＃xff0c;旅游领域&＃xff0c;以及混合领域的分词预训练模型。在使用中&＃xff0c;如果用户明确待分词的领域&＃xff0c;可加载对应的模型进行分词。如果用户无法确定具体领域&＃xff0c;推荐使用在混合领域上训练的通用模型。各领域分词样例可参考 example.txt。

2.更高的分词准确率。相比于其他的分词工具包&＃xff0c;当使用相同的训练数据和测试数据&＃xff0c;pkuseg可以取得更高的分词准确率。

3.支持用户自训练模型。支持用户使用全新的标注数据进行训练。

4.支持词性标注。

4 THULAC

THULAC&＃xff08;THU Lexical Analyzer for Chinese&＃xff09;由清华大学自然语言处理与社会人文计算实验室研制推出的一套中文词法分析工具包&＃xff0c;具有中文分词和词性标注功能。THULAC具有如下几个特点&＃xff1a;

1.能力强。利用我们集成的目前世界上规模最大的人工分词和词性标注中文语料库&＃xff08;约含5800万字&＃xff09;训练而成&＃xff0c;模型标注能力强大。

2.准确率高。该工具包在标准数据集Chinese Treebank&＃xff08;CTB5&＃xff09;上分词的F1值可达97.3&＃xff05;&＃xff0c;词性标注的F1值可达到92.9&＃xff05;&＃xff0c;与该数据集上最好方法效果相当。

3.速度较快。同时进行分词和词性标注速度为300KB/s&＃xff0c;每秒可处理约15万字。只进行分词速度可达到1.3MB/s。

5 LAC

LAC全称Lexical Analysis of Chinese&＃xff0c;是百度自然语言处理部研发的一款联合的词法分析工具&＃xff0c;实现中文分词、词性标注、专名识别等功能。该工具具有以下特点与优势&＃xff1a;

• 效果好&＃xff1a;通过深度学习模型联合学习分词、词性标注、专名识别任务&＃xff0c;整体效果F1值超过0.91&＃xff0c;词性标注F1值超过0.94&＃xff0c;专名识别F1值超过0.85&＃xff0c;效果业内领先。
• 效率高&＃xff1a;精简模型参数&＃xff0c;结合Paddle预测库的性能优化&＃xff0c;CPU单线程性能达800QPS&＃xff0c;效率业内领先。
• 可定制&＃xff1a;实现简单可控的干预机制&＃xff0c;精准匹配用户词典对模型进行干预。词典支持长片段形式&＃xff0c;使得干预更为精准。
• 调用便捷&＃xff1a;支持一键安装&＃xff0c;同时提供了Python、Java和C&＃43;&＃43;调用接口与调用示例&＃xff0c;实现快速调用和集成。
• 支持移动端: 定制超轻量级模型&＃xff0c;体积仅为2M&＃xff0c;主流千元手机单线程性能达200QPS&＃xff0c;满足大多数移动端应用的需求&＃xff0c;同等体积量级效果业内领先。