KerasSeq2seqGeneration:基于seq2seq模型的文本生成任务项目

项目的由来

1、分类、抽取、序列标注、生成任务是自然语言处理的四大经典任务&＃xff0c;其中&＃xff0c;分类、抽取任务&＃xff0c;可以使用规则进行快速实现。而对于生成而言&＃xff0c;则与统计深度学习关系较为密切。
2、当前&＃xff0c;GPT系列&＃xff0c;自动文本生成、文本图像生成&＃xff0c;图像文本生成等魔幻主义大作频频上演。
3、目前开源的seq2seq模型项目晦涩难度&＃xff0c;不利于阅读与入门。
受此三个现实背景&＃xff0c;也正好在接触生成这个任务&＃xff0c;特做此项目。

项目链接&＃xff1a;
https://github.com/liuhuanyong/KerasSeq2seqGeneration

项目的构成

项目场景&＃xff1a;该项目以自动对诗为使用场景&＃xff0c;即用户给定上一句&＃xff0c;要求模型给出下一句&＃xff0c;是个较理想的生成例子。
项目代码结构&＃xff1a;
data.txt:为训练数据&＃xff0c;此处使用的是对联诗句数据
seq2seq_predict.py:使用seq2seq模型进行下一句生成的脚本
seq2seq_train.py:使用seq2seq模型进行生成的脚本
model/:
config.txt:预训练时形成的一些关键参数&＃xff0c;如最大长度等&＃xff0c;字数等。
input_vocab.pkl:输入语句的字符索引
output_vovab.pkl:输出语句的字符索引&＃xff0c;此处将输入和输出进行区分成两个vocab&＃xff0c;可以用于不同语种翻译等场景&＃xff0c;如果不需要也可以合成一个。
s2s_model.h5:模型名称
image:
lstm_seq2seq_model.png:序列生成模型网路结构图

项目的思想&＃xff1a;

采用character字级别&＃xff0c;通过搭建lstm-encoder和lstm-decoder进行seq2seq生成任务。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BufA3fET-1610005013745)(https://github.com/liuhuanyong/KerasSeq2seqGeneration/blob/master/image/lstm_seq2seq_model.png)]

项目的使用&＃xff1a;

1、python seq2seq_train.py,进行模型训练。
2、python seq2seq_predict.py,进行模型测试。

项目的总结&＃xff1a;

1&＃xff0c;本项目完成了一个基于keras实现的自动对诗文本生成功能。
2&＃xff0c;这是一个较为简单的入门级项目&＃xff0c;欢迎补充。

关于作者&＃xff1a;

如有自然语言处理、知识图谱、事理图谱、社会计算、语言资源建设等问题或合作&＃xff0c;可联系我&＃xff1a;
1、我的自然语言处理开源项目&＃xff1a;https://liuhuanyong.github.io
2、我的csdn技术博客&＃xff1a;https://blog.csdn.net/lhy2014
3、我的联系方式: 刘焕勇&＃xff0c;中国科学院软件研究所&＃xff0c;lhy_in_blcu&＃64;126.com.
4、我的共享知识库项目&＃xff1a;刘焕勇&＃xff0c;事理类知识库数据集&＃xff0c;http://www.openkg.cn/organization/datahorizon.
5、我的工业项目&＃xff1a;刘焕勇&＃xff0c;以事理为核心的金融情报探索&＃xff1a;https://datahorizon.cn.