tfidf处理代码_零基础入门NLP阿里云tianchi新闻文本分类大赛rank4分享代码+经验/HuggingfaceBerttutorial...

最近本人参加了一场NLP文本分类比赛&＃xff0c;参赛本意是想将自己掌握的理论知识加以实践&＃xff0c;这篇文章就是想对这次参赛经验做一次总结&＃xff0c;分享出来与大家交流&＃xff0c;起到一个利他的作用。

比赛源码由github链接给出&＃xff0c;尽可能给出了源码以及一些讲解-(训练好的模型文件并没有上传, 一些文件直接跑或许会有对应的信息的报错)

最近笔者还更新了huggingface/Transformers的Bert Tutorial哦&＃xff0c;Pytorch和Tensorflow的都有&＃xff5e;

比赛官网:

目录:

1. 比赛描述
2. Tricks和模型介绍
3. 模型融合
4. 总结

1. 比赛描述

该比赛面向零基础小白&＃xff0c;比赛赛题是匿名数据的文本分类比赛&＃xff0c;所谓匿名数据也就是脱敏数据&＃xff0c;文字是用数字来表示的&＃xff0c;所以该比赛一个重点就是如今比较火的预训练模型: Bert系列可能没办法拿来直接使用&＃xff0c;以及Word2Vec和GloVe等词向量也必须选手重新自己训练&＃xff0c;所以如果是对整个流程不是很清楚的选手&＃xff0c;很建议参加该比赛或者复盘比赛来进一步深入地学习。

1.1 简单数据统计

数据包含3个数据文件

1) 线下用的训练数据train_set.csv;

2) A榜的测试数据test_a.csv;

3) B榜的测试数据test_b.csv;

经过统计&＃xff0c;train_set.csv和test_a/b.csv分别包含20w和5w数据&＃xff0c;包含将近7000个不同的word&＃xff0c;以及每篇文本平均长度为900个字&＃xff0c;可以看出文本非常长&＃xff0c;这也是本次比赛数据集最关键的特点。

1.2 数据预处理

这里对于竞赛小白还是很重要的&＃xff0c;我们首先用9:1的比例划分线下训练集和线下验证集。然后对应TextCNN等等预训练模型之前表现很好的模型&＃xff0c;必须将文本进行一个截断&＃xff0c;我直接采用了尾部截断的策略&＃xff0c;对应那几个模型将每句话截断至2400 (这里的策略是要求这个长度起码覆盖90%/95%的数据)-这里直接用的是tf2.0&＃43;的Keras。

对于Bert-small而言&＃xff0c;我则是选择了首尾截断&＃xff0c;对于每个文本都截断/填充到512的文本长度。然后对于预训练所需要的数据我则是结合了train-set与A榜的测试数据&＃xff0c;利用句号 感叹号和问号来对文本进行相应的分割&＃xff0c;获取了多个句子。关于标点符号的统计&＃xff0c;一般来说&＃xff0c;这种统计每个词出现的次数&＃xff0c;逗号出现的一般是最多的&＃xff0c;其次是句号&＃xff0c;剩余的几个出现次数很多的可以先保留记录成字符集合A&＃xff0c;因为也有可能是一些真实的文字&＃xff0c;然后再对文本的最后一个字符进行统计&＃xff0c;基于之前的字符集合A&＃xff0c;出现的最多的可能就是问号和感叹号等等。

1.3 词向量预训练

因为本次比赛的数据经过脱敏&＃xff0c;因此无法使用外部已经实现好的词向量&＃xff0c;需要我们自己训练&＃xff0c;比如Word2Vec, GloVe, Fasttext, Bert等等。

Word2Vec我采用的gensim的word2vec进行了相应的训练&＃xff0c;fasttext用的facebook的开源的包进行了训练&＃xff0c;GloVe我用stanford的开源的脚本修改了sh文件&＃xff0c;提取了对应的GloVe vector。(最后关于meta embedding&＃xff0c;我选择将200dim的word2vec(skip-gram和CBow没什么特别大的区别啦&＃xff0c;我就直接用的CBoW)&＃43;200dim的GloVe进行concat作为最后的表达&＃xff0c;我并没有选择Fasttext&＃xff0c;因为Fasttext和Word2Vec可能相关性会高一些&＃xff0c;会弱化word2vec的表达)

-关于Meta Embedding的介绍可见:

Bert我则是自己利用pytorch-pretrained-bert这个包写了对应的预训练代码&＃xff0c;当然之前也尝试过tianchi的Bert-mini, 不过结果一般&＃xff0c;可能单模型singlefold也只有0.95这里。鉴于本人GPU资源有限&＃xff0c;我就训练了一个Bert-small&＃xff0c;具体的Bert版本(small/medium/base/large)可以见这里。

我个人觉得Bert系列的模型如果采用medium和base预训练了的话&＃xff0c;可能效果就会超过我&＃xff0c;达到比赛的top3。

2. Tricks和模型介绍

首先介绍几个通用且好玩的Trick:

1. 对抗验证&＃xff0c;我们可以从训练数据中抽取一部分以及从测试数据中抽取一部分提取特征然后用一个简单快捷的模型进行训练&＃xff0c;将训练数据对应的label设置为1&＃xff0c;将测试数据对应的label设置为0&＃xff0c;如果模型分类效果很好&＃xff0c;那么可能本次比赛不是很好入手&＃xff0c;因为训练集和测试集的分布都不是那么接近了。-具体的代码实现可以见我的github。
2. 由于本次比赛是一个文本分类任务&＃xff0c;我们还可以通过文本匹配的方式来做&＃xff0c;本人尝试了用fasttext提取的测试集的sentence vector对应训练集的sentence vector做了个相似度计算&＃xff0c;选择了最接近的训练数据的标签作为对应测试数据的标签&＃xff0c;个人觉得这个策略很有意思。

2.1 baseline构建

首先我用tfidf&＃43;lightgbm做了一个baseline&＃xff0c;当时提交的结果就有0.945这儿了。一般来说比赛都要先搭建一个baseline进行迭代优化。

2.2 本次比赛我使用基于深度学习的模型介绍

首先是基于深度学习的文本分类的模型介绍:史博&＃xff1a;基于深度学习的文本分类

我这里就不进行详细的介绍了&＃xff0c;如果有感兴趣的同学可以通过阅读各种专栏以及比赛分享进行查阅和理解。

我这里主要采用了

1. tianchi: Bert-small &＃43; BiLSTM &＃43; Attention
2. Bert-RNN
3. Bert-Multisample Dropout
4. Bert-RCNN
5. Textcapsule
6. TextBiGRU

我首先测试的是TextCNN这个模型&＃xff0c;关于这里我也有一些小经验可以和大家分享&＃xff0c;这里很推荐大家了解DPCNN这个模型 &＃64;夕小瑶 个人在小瑶的分享上学到了很多。

夕小瑶&＃xff1a;从经典文本分类模型TextCNN到深度模型DPCNN

这篇文章很详细地讲解了对于文本分类到底是卷积层重要还是分类层重要&＃xff0c;我通过这个改进了一下自己的TextCNN&＃xff0c;加入了一层全连接层效果有1个点的improvement&＃xff0c;虽然最后我并没有选择这个模型hhh。

然后关于Multi-sample Dropout这个是比赛的一个trick啦&＃xff0c;经过我个人的实验&＃xff0c;总之收敛速度还是很快的&＃xff0c;泛化性能可能有少许提升。具体的介绍可以看这里&＃xff1a;

这些模型大体都是按照这个模式的:

2.3 本次比赛可以尝试的Tricks

1. EasyDA: 可以通过随机删除等等做一个简单的数据增强&＃xff0c;我看到比赛群分享里有人说这个trick可以提分&＃xff0c;但是具体我没有尝试。
2. 伪标签: 这个我个人有进行实验&＃xff0c;具体的伪标签其实有很多种策略&＃xff0c;我只尝试了最最最基础的策略&＃xff0c;就是直接将目前表现最好的模型来对test数据集进行一个预测&＃xff0c;然后将分类概率大于0.95的样本重新加入到训练样本&＃xff0c;进行一个微调的训练&＃xff0c;在TextBiGRU等等上面都是有不错的分数提升的&＃xff0c;bert好像不明显...(我挺后悔没有早点尝试这个trick的&＃xff0c;应该我还可以提分)
3. Bert等预训练词向量的对抗训练: 我看了很多比赛有人介绍了这个策略&＃xff0c;据说这个trick可以让分数提高1个点&＃xff0c;但是鉴于本人才疏学浅&＃xff0c;并没有进行后续的尝试。
4. Embedding层后面可以加上SpatialDropout&＃xff0c;这个我测试过我几个模型的泛化性能都有一定的提升&＃xff0c;而且听说也是一个稳定涨分的策略。具体介绍可以查看:在文本分类任务中&＃xff0c;有哪些论文中很少提及却对性能有重要影响的tricks&＃xff1f;
5. 可以自己尝试一下Test-time Augmentation, 好像也会有一丢丢提升&＃xff0c;比如之前用首尾截断的bert&＃xff0c;可以尝试融合截断首部 尾部 以及各种长度的输出概率进行blending。
6. 我也尝试过要不要Focal Loss, 但是经过我的实验效果不咋地。。。。

2.4 单模型结果

本次比赛Bert效果也没有那么显著超过以前的textbigru等等模型&＃xff0c;我想最主要的原因也在于Bert系列需要更多的数据或者更好的策略进行预训练&＃xff0c;但我想如果用Bert-medium和base等等应该分数还会有提升&＃xff0c;因为我的small我也仅仅预训练了几个epoch&＃xff0c;优化的也没有那么好。

3. 模型融合

关于模型融合&＃xff0c;一般来说结合几个偏差比较接近&＃43;有较大区别的模型集成效果很好&＃xff0c;我这里做了一些尝试&＃xff0c;拿tfidf的预测概率来做stacking也会有一点点的improvement&＃xff0c;当然也可以直接将tfidf feature拿出来用做stacking的feature&＃xff0c;说不定也会有改进。

我里面表现的最好的就是bertbilstm_attn&＃43;textbigru这两个模型&＃xff0c;光是simple average&＃xff0c;结果就有0.969&＃43;。

后面用oof的stacking做了一些工作&＃xff0c;分数最后在B榜有0.9702&＃xff0c;但是我在线下验证集的结果有0.971&＃xff0c;我想这很可能是训练集和测试集类别分布不一致的原因吧。

4. 总结

本次比赛很基础&＃xff0c;很适合对NLP没有什么实践经验的同学入手&＃xff0c;对个人的提升还是有不少的&＃xff01;欢迎各位朋友有机会和我一起参加各种比赛&＃xff0c;提升自己的实践能力&＃xff5e;

本人查看过比赛第一名的方案&＃xff0c;其实他们的工作比我简单&＃xff0c;他们只是单纯使用了bert-base&＃43;对抗训练embedding&＃43;bert版本的模型融合就达到了0.973的f1-performance。在这里给大家做这样的讲解希望大家都可以有更好的成长&＃xff5e;

参考文献&＃xff1a;

1.在文本分类任务中&＃xff0c;有哪些论文中很少提及却对性能有重要影响的tricks&＃xff1f;

2.夕小瑶&＃xff1a;从经典文本分类模型TextCNN到深度模型DPCNN

3.Multi-sample Dropout论文

4.史博&＃xff1a;基于深度学习的文本分类

5.各种Bert版本-mini/small/medium/base/large

6.Meta Embedding论文