本发明属于自然语言处理技术领域&＃xff0c;具体涉及一种从自然语言自动生成python代码的方法。
背景技术&＃xff1a;
语义分析任务是自然语言处理领域中的一类任务&＃xff0c;主要研究的是如何将给定的自然语言描述文本转换成一种计算机能够理解并且可以执行的一种逻辑表示&＃xff0c;比如sql&＃xff0c;python&＃xff0c;java等形式。传统的方法是根据程序设计语言的特点设计出固定的模板&＃xff0c;然后使用模式匹配的方式将自然语言描述解析成模板中的一个个实例。随着深度学习技术的发展&＃xff0c;encoder-decoder等深度学习框架也被引入到语义分析分析任务中&＃xff0c;比如采用机器翻译的方法将自然描述语言序列直接翻译成编程语言序列&＃xff0c;又或者是在生成代码的时候&＃xff0c;引入编程语言的语法&＃xff0c;先生成程序的抽象语法树&＃xff0c;然后再将抽象语法树转换成程序代码。但是上述encoder-decoder模型在处理从自然语言到编程语言之间的转换的时候&＃xff0c;encoder和decoder分别处理两种不同语言&＃xff0c;由于encoder和decoder使用的神经网络的不同&＃xff0c;以及网络的深度&＃xff0c;自然语言描述的语义在程序代码生成的过程中会逐步丢失&＃xff0c;因此缺少一个强的语义约束的训练模型。
技术实现要素&＃xff1a;
针对于上述问题&＃xff0c;本发明提出来一种从自然语言自动生成python代码的方法。本发明旨在通过判别器提高生成器根据自然语言描述生成程序片段的效果&＃xff0c;学习到自然语言和编程语言的分布之间的联系。
本发明的技术方案是&＃xff1a;
一种从自然语言自动生成python代码的方法&＃xff0c;步骤如下&＃xff1a;
步骤1&＃xff1a;采用gan网络的生成器根据自然语言描述生成程序片段的抽象语法树。
生成器是一个encoder-decoder深度学习框架&＃xff0c;encoder负责对自然语言描述序列进行编码&＃xff0c;decoder则根据encoder的编码结果&＃xff0c;将自然语言描述的语义解码成程序片段的抽象语法树。
步骤1.1&＃xff1a;采用双向lstm网络作为encoder&＃xff0c;对自然语言描述序列进行编码&＃xff1b;
步骤1.1.1&＃xff1a;从左到右以及从右到左两个方向对自然语言描述序列进行编码&＃xff0c;得到每个字符的中间隐藏向量
步骤1.1.2&＃xff1a;将中间隐藏向量进行concat操作即为自然语言描述字符的编码向量&＃xff0c;并把每个字符的编码向量保存下来&＃xff0c;以待后面decoder使用。
步骤1.1.3&＃xff1a;将最后一个字符的中间隐藏向量作为decoder的初始状态hend。
步骤1.2&＃xff1a;采用单向lstm网络作为decoder&＃xff0c;将encoder编码的自然语言语义解码构建为程序的抽象语法树。
这一步骤将编程语言的语法规则引入到生成过程中。以深度优先遍历的方式生成抽象语法树&＃xff0c;每一个生成步骤&＃xff0c;是对上下文无关文法产生式的应用。语法规则为抽象语法树的生成提供先验知识&＃xff0c;缩小搜索空间。
步骤1.2.1&＃xff1a;将1.1.3中的hend作为decoder的初始状态&＃xff0c;并使用注意力机制计算hend的内容向量&＃xff0c;然后将该内容向量作为lstm的输入。
步骤1.2.2&＃xff1a;采用softmax对1.2.1的lstm输出结果进行多分类&＃xff0c;这些类别分别对应生成抽象语法树的动作。
步骤1.2.3&＃xff1a;对于1.2.2生成的抽象语法树的动作&＃xff0c;该动作一类是生成叶子节点&＃xff0c;该动作另一类是生成非叶子节点。
对于生成非叶子节点的动作来说&＃xff0c;是上下文无关文法扩展&＃xff1b;而生成叶子节点的动作&＃xff0c;则是生成具体的字符&＃xff0c;也就是程序片段中的序列字符&＃xff0c;可以采用复制的方式从自然语言描述序列中将字符复制过来&＃xff0c;也可以根据由模型生成相应的字符。
步骤1.2.4&＃xff1a;按照深度优先遍历的方式应用1.2.3的抽象语法树的动作构建抽象语法树。
步骤1.2.5&＃xff1a;将1.2.4的输出结果作为1.2.1的输入&＃xff0c;重复1.2.1到1.2.4操作&＃xff0c;最终得到一棵完整的抽象语法树&＃xff0c;即自然语言描述语义对应的程序片段的抽象法树。
步骤1.2.6&＃xff1a;将抽象语法树解析成程序片段。
步骤2&＃xff1a;采用gan的判别器判断生成器生成的抽象语法树的语义是否与给定的自然语言描述的语义是否一致&＃xff0c;这也是对生成器生成的一种强的语义约束。训练判别器的数据分为三种&＃xff1a;a训练数据中的自然语言描述和与之对应的程序的抽象语法树。b给定自然语言描述和生成器生成的抽象语法树。c自然语言描述序列和与之无关的程序的抽象语法树。对于训练数据a给定标签为一致&＃xff0c;而训练数据b,c给定标签为不一致。
步骤2.1&＃xff1a;采用gan生成器中encoder的方法对自然语言描述序列进行编码&＃xff0c;这一步只要得到最后的语义向量。
步骤2.2&＃xff1a;采用树型lstm网络&＃xff0c;自底向上对抽象语法树进行编码&＃xff0c;一直编码到抽象语法树的根节点&＃xff0c;也就是这个抽象语法树对应的语义向量。
步骤2.3&＃xff1a;将2.1和2.2中的自然语言语义向量和抽象语法树的语义向量进行向量乘法。
步骤2.4&＃xff1a;重复2.1和2.3&＃xff0c;对步骤2中的训练数据b和训练数据c进行同样的操作。
步骤2.5&＃xff1a;对2.4中的训练数据对进行二分类预测&＃xff0c;及判断这三种情况下自然语言和程序抽象语法树的语义是否一致。
步骤3&＃xff1a;训练gancoder&＃xff0c;将gan网络的生成器和判别器一起训练。在优化的时候&＃xff0c;生成器和判别器交替优化。在训练之前&＃xff0c;先分别对生成器和判别器进行预训练&＃xff0c;然后再一起博弈训练。
进一步的&＃xff0c;由一种从自然语言自动生成python代码的方法生成的模型gancoder包含两个部分&＃xff1a;生成器和判别器&＃xff0c;其中生成器负责实现从自然语言到编程语言程序片段的生成&＃xff0c;而判别器则识别出生成器生成的程序片段。训练的时候&＃xff0c;生成器和判别器处于博弈训练的状态&＃xff0c;相互提高&＃xff0c;到最后判别器不能识别出编程语言程序片段是原始训练集的数据还是由生成器生成的数据。
本发明具备的有益效果&＃xff1a;
本发明通过生成对抗网络优化训练&＃xff0c;生成一个代码生成系统&＃xff0c;该系统可以根据用户给定的对于一个功能的自然语言描述&＃xff0c;然后生成一段具有相同功能的程序代码。相较于传统的优化方法&＃xff0c;使用生成对抗网络进行对抗博弈训练&＃xff0c;生成器能够更有效地学习到自然语言和编程语言的语言模型。
附图说明
图1是基于encoder-decoder模型的语义分析器。
图2是一个python程序对应的抽象语法树。
图3是本发明gancoder的总体框架。
图4是gancoder的生成器的框架表示图。
图5是使用树型lstm网络对抽象法树进行编码。
具体实施方式
以下结合技术方案和附图详细叙述本发明的具体实施方式。
一种从自然语言自动生成python代码的方法&＃xff0c;提出的gancoder系统&＃xff0c;总体上是一个生成对抗网络&＃xff0c;包含生成器和判别器两个部分&＃xff0c;如图3所示。其中生成器是一个encoder-decoder模型&＃xff0c;如图4所示&＃xff0c;encoder负责对自然语言描述序列进行编码&＃xff0c;使用双向lstm网络&＃xff0c;而decoder则将encoder编码的语义解码成程序的抽象语法树&＃xff0c;使用单向lstm网络&＃xff1b;而判别器主要负责判断自然语言描述和抽象语法树的语义是否一致&＃xff0c;对于自然语言描述的语义编码使用生成器encoder&＃xff0c;对于抽象语法树的编码则采用树型lstm网络&＃xff0c;树型lstm网络如图5所示&＃xff0c;以自底向上的方式对程序的抽象语法树进行编码&＃xff0c;抽象语法树的根节点的编码向量为抽象语法树的语义向量。
步骤1&＃xff1a;采用gan网络的生成器根据自然语言描述生成程序片段的抽象语法树。
生成器是一个encoder-decoder深度学习模型&＃xff0c;如图4所示&＃xff0c;图中左边是encoder&＃xff0c;是一个双向lstm网络&＃xff0c;负责对自然语言描述序列进行编码&＃xff1b;图中右边是decoder&＃xff0c;是一个单向lstm网络&＃xff0c;它则根据encoder的编码结果&＃xff0c;将自然语言描述的语义解码成程序片段的抽象语法树。
步骤1.1&＃xff1a;采用双向lstm网络作为encoder&＃xff0c;对自然语言描述序列进行编码。图4encoder中左右两个方向表示lstm网络的编码顺序。
步骤1.1.1&＃xff1a;从左到右以及从右到左两个方向对自然语言描述序列进行编码&＃xff0c;得到每个字符的中间隐藏向量如图4encoder中lstm网络的两个编码方向一样。
步骤1.1.2&＃xff1a;将1.1的进行concat操作&＃xff0c;得到即为自然语言描述字符的编码向量&＃xff0c;并把每个字符的编码向量保存下来&＃xff0c;以待后面decoder使用。
步骤1.1.3&＃xff1a;将最后一个字符的中间隐藏向量作为decoder的初始状态hend。
步骤1.2&＃xff1a;采用单向lstm网络作为decoder&＃xff0c;将encoder编码的自然语言语义解码构建为程序的抽象语法树。
这一步骤将编程语言的语法规则引入到代码生成过程中。以深度优先遍历的方式生成抽象语法树&＃xff0c;每一个生成步骤&＃xff0c;是对上下文无关文法产生式的应用。语法规则为抽象语法树的生成提供先验知识&＃xff0c;缩小搜索空间。
步骤1.2.1&＃xff1a;如图4&＃xff0c;decoder将1.1.3中的hend作为始状态&＃xff0c;并使用注意力机制计算hend的内容向量c1&＃xff0c;然后将该内容向量作为lstm的输入。
步骤1.2.2&＃xff1a;采用softmax对lstm输出结果进行多分类&＃xff0c;这些类别分别对应生成抽象语法树的动作&＃xff0c;对应如图2中右图抽象语法树的每个节点。
步骤1.2.3&＃xff1a;对于1.2.2预测的动作&＃xff0c;一类是生成叶子节点&＃xff0c;另一类是生成非叶子节点&＃xff0c;也就是图2中抽象语法树中叶子节点和非叶子节点。对于生成非叶子节点的动作来说&＃xff0c;是上下文无关文法扩展&＃xff0c;每一条为上下文文法规则&＃xff1b;而生成叶子节点的动作&＃xff0c;则是生成具体的字符&＃xff0c;也就是程序片段中的序列字符&＃xff0c;可以采用复制的方式从自然语言描述序列中将字符复制过来&＃xff0c;也可以根据由模型生成相应的字符。
步骤1.2.4&＃xff1a;按照深度优先遍历的方式应用1.2.3预测动作构建抽象语法树。图2中的抽象语法树节点用实线箭头表示的顺序为建立抽象语法树中每个节点构建的顺序。
步骤1.2.5&＃xff1a;将1.2.4的输出结果作为1.2.1的输入&＃xff0c;如图2&＃xff0c;上一个节点的信息传递给下一节点&＃xff0c;其中信息包括上一步骤的状态&＃xff0c;也就是实线箭头表示的&＃xff0c;还有父节点的信息&＃xff0c;虚线箭头传递的信息。然后重复1.2.1到1.2.4操作&＃xff0c;最终得到一棵完整的抽象语法树&＃xff0c;即自然语言描述语义对应的程序片段的抽象语法树。
步骤1.2.6&＃xff1a;将完整的抽象语法树解析成程序片段。
步骤2&＃xff1a;采用gan的判别器判断生成器生成的抽象语法树的语义是否与给定的自然语言描述的语义是否一致&＃xff0c;这也是对生成器生成的一种强的语义约束。训练判别器的数据分为三种&＃xff1a;1.训练数据中的自然语言描述和与之对应的程序的抽象语法树。2.给定自然语言描述和生成器生成的抽象语法树。3.自然语言描述序列和与之无关的程序的抽象语法树。对于1来说&＃xff0c;给定标签为一致&＃xff0c;而2,3两种数据&＃xff0c;给定标签为不一致。
步骤2.1&＃xff1a;采用gan生成器中encoder的方法对自然语言描述序列进行编码&＃xff0c;这一步只要得到最后的语义向量&＃xff0c;encoder的结构如图4所示。
步骤2.2&＃xff1a;采用树型lstm网络&＃xff0c;如图5所示&＃xff0c;自底向上地对抽象语法树进行编码&＃xff0c;抽象语法树的孩子节点是父节点编码的输入&＃xff0c;一直编码到抽象语法树的根节点&＃xff0c;也就是这个抽象语法树对应的语义向量。
步骤2.3&＃xff1a;将2.1和2.2中的自然语言语义向量和抽象语法树的语义向量进行向量乘法。
步骤2.4&＃xff1a;重复2.1和2.3&＃xff0c;对步骤2中的训练数据2和训练数据3进行同样的操作。
步骤2.5&＃xff1a;对2.4中的训练数据对进行二分类预测&＃xff0c;及判断这三种情况下自然语言和程序抽象语法树的语义是否一致。
步骤3&＃xff1a;训练gancoder&＃xff0c;将gan网络的生成器和判别器一起训练。在优化的时候&＃xff0c;生成器和判别器交替优化。在训练之前&＃xff0c;先对生成器和判别器进行预训练&＃xff0c;然后再一起博弈训练&＃xff0c;如图3所示&＃xff0c;判别器的信息会反馈到生成器。
京公网安备 11010802041100号