中文预训练ALBERT模型来了：小模型登顶GLUE，Base版模型小10倍、速度快1倍

ALBert is based on Bert, but with some improvements. It achieves state of the art performance on main benchmarks with 30% parameters less.

For albert_base_zh it only has ten percentage parameters compare of original bert model, and main accuracy is retained.

Chinese version of ALBERT pre-trained model, including checkpoints both for TensorFlow and PyTorch, will be available.

海量中文语料上预训练ALBERT模型&＃xff1a;参数更少&＃xff0c;效果更好。预训练小模型也能拿下13项NLP任务&＃xff0c;ALBERT三大改造登顶GLUE基准。

***** 2019-10-02: albert_large_zh *****

Relased albert_large_zh with only 16% parameters of bert_base(64M)

***** 2019-10-01: albert_base_zh *****

Relesed albert_base_zh with only 10% parameters of bert_base, a small model(40M) & training can be very fast.

***** 2019-09-28: codes and test functions *****

Add codes and test functions for three main changes of albert from bert

模型下载 Download Pre-trained Models of Chinese

1、albert_large_zh,参数量&＃xff0c;层数24&＃xff0c;大小为64M

参数量和模型大小为bert_base的六分之一&＃xff1b;在口语化描述相似性数据集LCQMC的测试集上相比bert_base上升0.2个点

2、albert_base_zh(小模型体验版)&＃xff0c; 参数量12M&＃xff0c;层数12&＃xff0c;大小为40M

参数量为bert_base的十分之一&＃xff0c;模型大小也十分之一&＃xff1b;在口语化描述相似性数据集LCQMC的测试集上相比bert_base下降约1个点&＃xff1b;
相比未预训练&＃xff0c;albert_base提升14个点

‍

3、albert_xlarge、 albert_xxlarge will coming recently.

if you want use a albert model with best performance among all pre-trained models, just wait a few days.

‍

ALBERT模型是BERT的改进版&＃xff0c;与最近其他State of the art的模型不同的是&＃xff0c;这次是预训练小模型&＃xff0c;效果更好、参数更少。

它对BERT进行了三个改造 Three main changes of ALBert from Bert&＃xff1a;

1&＃xff09;词嵌入向量参数的因式分解 Factorized embedding parameterization

 O(V * H) to O(V * E &＃43; E * H)

 如以ALBert_xxlarge为例&＃xff0c;V&＃61;30000, H&＃61;4096, E&＃61;128

 那么原先参数为V * H&＃61; 30000 * 4096 &＃61; 1.23亿个参数&＃xff0c;现在则为V * E &＃43; E * H &＃61; 30000*128&＃43;128*4096 &＃61; 384万 &＃43; 52万 &＃61; 436万&＃xff0c;

 词嵌入相关的参数变化前是变换后的28倍。

2&＃xff09;跨层参数共享 Cross-Layer Parameter Sharing

 参数共享能显著减少参数。共享可以分为全连接层、注意力层的参数共享&＃xff1b;注意力层的参数对效果的减弱影响小一点。

‍

3&＃xff09;段落连续性任务 Inter-sentence coherence loss.

 使用段落连续性任务。正例&＃xff0c;使用从一个文档中连续的两个文本段落&＃xff1b;负例&＃xff0c;使用从一个文档中连续的两个文本段落&＃xff0c;但位置调换了。

 避免使用原有的NSP任务&＃xff0c;原有的任务包含隐含了预测主题这类过于简单的任务。

  We maintain that inter-sentence modeling is an important aspect of language understanding, but we propose a loss 
  based primarily on coherence. That is, for ALBERT, we use a sentence-order prediction (SOP) loss, which avoids topic 
  prediction and instead focuses on modeling inter-sentence coherence. The SOP loss uses as positive examples the 
  same technique as BERT (two consecutive segments from the same document), and as negative examples the same two 
  consecutive segments but with their order swapped. This forces the model to learn finer-grained distinctions about
  discourse-level coherence properties. 

1&＃xff09;去掉了dropout  Remvoe dropout to enlarge capacity of model.
    最大的模型&＃xff0c;训练了1百万步后&＃xff0c;还是没有过拟合训练数据。说明模型的容量还可以更大&＃xff0c;就移除了dropout
    &＃xff08;dropout可以认为是随机的去掉网络中的一部分&＃xff0c;同时使网络变小一些&＃xff09;
    We also note that, even after training for 1M steps, our largest models still do not overfit to their training data. 
    As a result, we decide to remove dropout to further increase our model capacity.
    其他型号的模型&＃xff0c;在我们的实现中我们还是会保留原始的dropout的比例&＃xff0c;防止模型对训练数据的过拟合。

2&＃xff09;为加快训练速度&＃xff0c;使用LAMB做为优化器 Use lAMB as optimizer, to train with big batch size
  使用了大的batch_size来训练(4096)。LAMB优化器使得我们可以训练&＃xff0c;特别大的批次batch_size&＃xff0c;如高达6万。

3&＃xff09;使用n-gram(uni-gram,bi-gram, tri-gram&＃xff09;来做遮蔽语言模型 Use n-gram as make language model
   即以不同的概率使用n-gram,uni-gram的概率最大&＃xff0c;bi-gram其次&＃xff0c;tri-gram概率最小。
   本项目中目前使用的是在中文上做whole word mask&＃xff0c;稍后会更新一下与n-gram mask的效果对比。n-gram从spanBERT中来。

发布计划 Release Plan

1、albert_base&＃xff0c;参数量12M, 层数12&＃xff0c;10月7号

2、albert_large&＃xff0c;参数量18M, 层数24&＃xff0c;10月13号

3、albert_xlarge&＃xff0c;参数量59M, 层数24&＃xff0c;10月6号

4、albert_xxlarge&＃xff0c;参数量233M, 层数12&＃xff0c;10月7号&＃xff08;效果最佳的模型&＃xff09;

训练语料/训练配置 Training Data & Configuration

30g中文语料&＃xff0c;超过100亿汉字&＃xff0c;包括多个百科、新闻、互动社区。

预训练序列长度sequence_length设置为512&＃xff0c;批次batch_size为4096&＃xff0c;训练产生了3.5亿个训练数据(instance)&＃xff1b;每一个模型默认会训练125k步&＃xff0c;albert_xxlarge将训练更久。

作为比较&＃xff0c;roberta_zh预训练产生了2.5亿个训练数据、序列长度为256。由于albert_zh预训练生成的训练数据更多、使用的序列长度更长&＃xff0c;

我们预计albert_zh会有比roberta_zh更好的性能表现&＃xff0c;并且能更好处理较长的文本。

训练使用TPU v3 Pod&＃xff0c;我们使用的是v3-256&＃xff0c;它包含32个v3-8。每个v3-8机器&＃xff0c;含有128G的显存。

模型性能与对比(英文) Performance and Comparision

中文任务集上效果对比测试 Performance on Chinese datasets

• 自然语言推断&＃xff1a;XNLI of Chinese Version

注&＃xff1a;BERT-wwm-ext来自于这里&＃xff1b;XLNet来自于这里; RoBERTa-zh-base&＃xff0c;指12层RoBERTa中文模型

• 问题匹配语任务&＃xff1a;LCQMC(Sentence Pair Matching) 

• 语言模型、文本段预测准确性、训练时间 Mask Language Model Accuarcy & Training Time

注&＃xff1a;? 将很快替换

模型参数和配置 Configuration of Models

代码实现和测试 Implementation and Code Testing

通过运行以下命令测试主要的改进点&＃xff0c;包括但不限于词嵌入向量参数的因式分解、跨层参数共享、段落连续性任务等。

python test_changes.py

预训练 Pre-training

• 生成特定格式的文件(tfrecords) Generate tfrecords Files

运行以下命令即可。项目自动了一个示例的文本文件(data/news_zh_1.txt)

   bash create_pretrain_data.sh

如果你有很多文本文件&＃xff0c;可以通过传入参数的方式&＃xff0c;生成多个特定格式的文件(tfrecords&＃xff09;

执行预训练 pre-training on GPU/TPU

GPU:
export BERT_BASE_DIR&＃61;albert_config
nohup python3 run_pretraining.py --input_file&＃61;./data/tf*.tfrecord  \
--output_dir&＃61;my_new_model_path --do_train&＃61;True --do_eval&＃61;True --bert_config_file&＃61;$BERT_BASE_DIR/albert_config_xxlarge.json \
--train_batch_size&＃61;4096 --max_seq_length&＃61;512 --max_predictions_per_seq&＃61;76 \
--num_train_steps&＃61;125000 --num_warmup_steps&＃61;12500 --learning_rate&＃61;0.00176    \
--save_checkpoints_steps&＃61;2000   --init_checkpoint&＃61;$BERT_BASE_DIR/bert_model.ckpt &

TPU, add following information:
    --use_tpu&＃61;True  --tpu_name&＃61;grpc://10.240.1.66:8470 --tpu_zone&＃61;us-central1-a

注&＃xff1a;如果你从头开始训练&＃xff0c;可以不指定init_checkpoint&＃xff1b;
如果你从现有的模型基础上训练&＃xff0c;指定一下BERT_BASE_DIR的路径&＃xff0c;并确保bert_config_file和init_checkpoint两个参数的值能对应到相应的文件上&＃xff1b;
领域上的预训练&＃xff0c;根据数据的大小&＃xff0c;可以不用训练特别久。

下游任务 Fine-tuning

以使用albert_base做LCQMC任务为例。LCQMC任务是在口语化描述的数据集上做文本的相似性预测。

下载LCQMC数据集&＃xff0c;包含训练、验证和测试集&＃xff0c;训练集包含24万口语化描述的中文句子对&＃xff0c;标签为1或0。1为句子语义相似&＃xff0c;0为语义不相似。

通过运行下列命令做LCQMC数据集上的fine-tuning:

Reference

1、ALBERT: A Lite BERT For Self-Supervised Learning Of Language Representations

2、BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

3、SpanBERT: Improving Pre-training by Representing and Predicting Spans

4、RoBERTa: A Robustly Optimized BERT Pretraining Approach

5、Large Batch Optimization for Deep Learning: Training BERT in 76 minutes(LAMB)

6、LAMB Optimizer,TensorFlow version

推荐阅读

• 100多次竞赛后&＃xff0c;他研发了一个几乎可以解决所有机器学习问题的框架

• 王霸之路&＃xff1a;从0.1到2.0&＃xff0c;一文看尽TensorFlow“奋斗史”

• 伯克利人工智能研究院开源深度学习数据压缩方法Bit-Swap&＃xff0c;性能创新高
  

• NLP被英语统治&＃xff1f;打破成见&＃xff0c;英语不应是「自然语言」同义词

• TensorFlow2.0正式版发布&＃xff0c;极简安装TF2.0&＃xff08;CPU&GPU&＃xff09;教程

• 肖仰华&＃xff1a;知识图谱构建的三要素、三原则和九大策略 | AI ProCon 2019

• AI落地遭“卡脖子”困境&＃xff1a;为什么说联邦学习是解决良方&＃xff1f;

• 10分钟搭建你的第一个图像识别模型 | 附完整代码

• 限时早鸟票 | 2019 中国大数据技术大会&＃xff08;BDTC&＃xff09;超豪华盛宴抢先看&＃xff01;

你点的每个“在看”&＃xff0c;我都认真当成了喜欢