论文阅读（二）：3篇对话系统综述阅读

这周看了3篇对话系统的综述，主要是为了对对话系统有一个更深的了解，所以就把看的所有综述都放在一起了~~但是看完之后发现里面提到的一些具体的解决方法或者模型只看综述并不能很好的理解，所以还需要具体的看一下里面提出的论文！加油呀！！

• 《智能对话系统研究综述》
• 《A Survey on Dialogue Systems:Recent Advances and New Frontiers》
• 《对话系统评价方法综述》

智能对话系统研究综述_贾熹滨

论文主要内容（包含创新点以及不足）

• 首先根据应用场景，将对话系统分为开放域和封闭域。

  • 开放域需要不同领域的不同知识，需要系统具备丰富的知识，能完成多任务，感觉有点类似于横向，比如虚拟偶像和聊天机器人。这种任务用户群体较广，但用户粘性不高。
  • 封闭域需要针对具体的任务，有明确的目标和限定的知识范围，主要是解决垂直领域的任务。他的实现相对简单，但是因为某任务的语料难以搜集，因此难以用数据驱动的方法。也难以从平行任务领域迁移。

• 对话的基本流程主要包括：语音识别-》自然语言理解-》对话状态追踪-》自然语言生成-》语音合成。本论文的重点在自然语言生成。

  • 语音识别：将用户讲的自然语言识别为连续的音节单元或者单词，但是因为环境中一般都有噪音。

  • 自然语言理解：利用语义和语法分析，将语音识别的结果转化为计算机能理解的结果。主要是文本分类和序列标注。

    • 文本分类：判断用户的意图。可以用规则，机器学习，深度学习等方法
    • 序列标注：分词，词性标注，命名实体识别等。可以用HMM,MEMM,CRF,LSTM等方法，目前主流的方法是LSTM+CRF

  • 对话状态跟踪：有点类似于填表，通过不断的发问和捕捉用户信息，将所需要的信息收集起来填入表中，主要方法有：有限状态机，填槽法，基于实例的方法，基于规则的方法，贝叶斯网络等

  • 自然语言生成：组织适当的应答语句。主要有三种方法，基于人工规则的方法，基于知识库检索的方法，基于深度学习的序列到序列方法

    • 基于人工规则的方法：在具体领域内回答比较准确，但是可移植性和可拓展性比较差，比如siri

    • 基于知识库检索的方法：知识库易扩充，对话连续性差，比如IBM推出的问答系统

    • 基于序列到序列生成模型：数据驱动，需要大量语料支持

      1. 基础的seq2seq：encoder和decoder都由深层LSTM组成（最开始提出时，具体结构自设计），将输入的自然语言经过编码变成词向量后，输入encoder，得到中间序列（即encoder最后一个时刻隐藏层的输出），如果不用attention机制，则直接将隐藏层当作decoder的初始隐层参数，和decoder的输入一起，最终得到生成的回复。

      2. seq2seq+context：基础的seq2seq不能考虑到上下文的信息，不能进行多轮对话，为了得到更好更人性化的回答，因此用额外的信息去帮助decoder生成更好的回复。直接将input和context拼接起来会导致输入太长，而RNN对长序列的效果不好，计算是使用LSTM，序列太长时效果也不是很好。

         • 文献[36]提出在encoder中使用多层向前神经网络代替RNN，有两种融合方法，其中第二种方法更能考虑到各自的信息，效果更好。

         • 文献[37]提出了层级网络结构，将context中的每一句都用rnn进行编码，在第二级将context编码之后的向量按照顺序输入，最后一个输入是input。

         • 总结：直接将所有context与输入融合进行回复的生成会考虑到很多远距离的信息，效果不是很好。

      3. 动态记忆网络模型

         文献[38]提出了DMN，将背景知识编码融入情感记忆模块，输入input之后，通过对情感记忆模块的推理，检索，得到需要的信息，加权求和后输入Decoder

      4. 最大化互信息模型

         之前产生回答时经常会产生“安全回答”，如“我不知道”等。因为回答是通过极大似然估计的方法来进行计算的，为了减少这种安全回答，文献[39]提出了最大化互信息模型，加入了反向优化目标。

      5. Speaker Embedding模型

         文献[40]提出要考虑个性化信息，如年龄，背景信息，用户画像等。根据用户的使用习惯将个性化信息在Decoder中体现出来，以维护个性一致。（比如同一个问题换种问法，普通的seq2seq答案会不一致，这种方法主要是为了保持背景信息的一致性，增加用户的使用体验）

  • 语言合成：将生成的自然语言合成语音

  • 开放域的对话系统不太可能实现真正的图灵测试，面向具体任务的对话系统更加的具体和实用，可以解决垂直领域的问题

  • 人工模板或知识库的方法效果比较好，但是迁移能力差；深度学习的方法是未来的发展方向，但是要有语料，是一种数据驱动的方法

  • 不足/未来发展：让系统主动引导话题；通过自学习，学会举一反三

  • 目前的对话系统评判指标主要有：机器翻译的BLUE分数，语言模型的标准困惑度等，在实际应用中主要是通过人工打分的方法，没有一个适用于聊天机器人的评价标准。

学到的点

• 主要是了解了对话的类别、流程和自然语言生成的一些方法。具体还要继续看论文才能继续了解。

A Survey on Dialogue Systems:Recent Advances and New Frontiers

论文主要内容（包含创新点以及不足）

• 现有对话系统大致可以分为面向任务型对话和非面向任务型对话
  • 面向任务型对话主要是针对某些特定的任务，比如订票订餐。
  • 非面向任务型对话主要应用在娱乐等方面，例如聊天机器人。
• 任务导向型对话主要介绍了两种方法，分别是pipeline和end2end

  • pipeline方法主要包含四个主要步骤，分别是：自然语言理解，对话状态追踪，策略学习和自然语言生成

    • NLU：将输入映射到语义槽中，主要包括句子级别的分类（如意图的识别）和次级别的信息提取（如地点，时间）

    • 对话状态跟踪：估计用户每个回合的目标是什么。大多数商业系统实现都是用手工编写规则的方法，这种方法很容易出现错误，而且可移植性差。（这里补充一下对话的状态，对话状态主要包含四个部分，分别是对话历史，用户目的，槽值对和意图）

    • 策略学习：将状态追踪得到的状态表示作为条件，策略学习将产生下一个可用的系统动作（比如状态可以是比较，推荐等，这个是根据不同的任务场景来设定的）

    • NLG：将抽象的对话动作转化为自然语言的浅层表达。

  • end2end方法可以解决pipeline方法的两个缺点：分数分配问题和处理相互依赖（对于流水线，其中一个发生变化，为了保持整体的效果都需要对别的步骤做相应的变化）

• 非任务导向型对话主要介绍了两种方法，分别是神经生成模型和基于检索的方法。
  • 神经生成模型的基础是seq2seq，基于此，本论文还探索了当前的一些研究热点，如：结合背景信息，提高回复的多样性，主题和个性建模，利用外部知识库，互动学习与评估，每一部分都介绍了很多种方法，但是因为我还没有开始看里面的论文所以有很多方法我只能知道个大概，没有一个确切的了解。要好好读一下里面提到的论文！
    • 结合背景信息，个人感觉有点类似于《智能对话系统研究综述》里的seq2seq+context部分，但是本论文介绍的方法更多。
    • 提高回复多样性，有点类似于上篇论文里的最大化互信息，但是又介绍了decoder解码过程中产生的冗余候选回复以及引入随即隐变量去提高回复多样性
    • 主题与个性，有点类似于所有的对话要围绕一个主题，同时为了更好的用户体验，可以考虑给系统设定背景信息（这在上篇综述里也提到过）
    • 利用外部知识库，用于弥补对话系统与人类之间背景知识差距
    • 交互式学习，显然只让用户发问系统回答是不合理的，好的对话应该更有前瞻性和交互性
    • 评价，目前的评价方法只有BLUE METEOR ROUGE，但是这个打分并不能完全代表回复的好坏
  • 基于检索的方法主要是从若干个候选回复中选择一个回复，因此匹配模型一定要能够克服输入和回复之间的语义差异
    • 单轮回复匹配，将当前消息和候选回复分别编码为向量，计算两个向量之间的匹配分数
    • 多轮回复匹配，将当前消息与之前的对话作为输入，模型会选择与整个文本最相关且自然的回复。
  • 混合方法。基于检索的方法回复准确但不流利，基于生成的方法回复更流利但有可能会生成无意义的回复，因此将两种方法结合。先通过检索的方法得到候选回复，再将其与原始信息一起送入基于RNN的回复生成器
• 结论，深度学习给对话系统带来了更好的可能性，也将任务导向型对话和非任务导向型对话的界限模糊了。未来研究方向主要有迅速热身，深度理解，隐私保护。但是除了隐私保护，我都不是很了解，后续会一直关注这篇论文！争取早日把它完全弄懂。

学到的点（感想）

这篇综述讲了很多方法和模型，但是因为我目前只是看了综述，所以很多方法和模型都还没有去了解，所以会一直看这篇论文，希望在阅读了别的论文之后能对这篇综述有更深的了解。

对话系统评价方法综述

论文主要内容（包含创新点以及不足）

• 主要是针对两种不同场景下的对话类型介绍了评价方法

• 任务导向型对话系统最终目标是测评用户的满意度，因此提出了三个策略，分别是通过构建某种特定形式的用户模拟系统进行评价；人工评价；在动态部署的系统中进行评价。

  • 用户模拟：有效简单，最有可能覆盖最大空间，但是真实用户反映与模拟器的反应存在差距，差距的大小决定着模拟器的好坏，但这种方法仍然是任务型对话系统评价中最常用的评价方法。
  • 人工评价：开销比较大，但是结果最真实。但是也有事实证明人工评价并没有非常完整的表现出对话的效果和特点。
  • 部署动态系统评价：在真实用户群体中检测用户满意度

• 开放域对话系统评价方法主要有两种主流的方法，分别是客观评价指标和模拟人工评分。

  • 客观评价指标主要有两种，一种是基于词重叠率的评价矩阵，另一种是基于词向量的评价矩阵。

    • 在基于词重叠率的评价矩阵中，主要包含BLEU NMETEOR ROUGE三种方法，其中前两种主要是用于机器翻译，第三种主要用于评价自动摘要生成。

      BLEU对模型输出r_hat和参考答案r的n-gram进行比较并计算匹配片段的个数，与匹配片段位置无关，仅认为匹配片段越多，模型质量越好。

      NMETEOR在候选答案与目标回复之间产生一个明确的分界线，然后将参考答案与模型输出的P和R的调和平均值结果进行评估

      ROUGE 对候选句与目标句之间的最长相同子序列计算F值

    • 在基于词向量的评估矩阵中，主要是通过word2vec等方法得到句子中每个词的词向量，然后得到句子的句向量，再通过余弦距离进行比较，得到二者的相似度。

      贪婪匹配：基于词级别，对于r_hat和r，计算两个句子任意两个词（一个来自r_hat，一个来自r）之间的余弦相似度，取均值。

      向量均值：通过句子中的词向量计算句子的特征向量。

      向量极值：筛选词向量的每一维来选择整句话极值最大的一维作为句子的向量表示。

  • 基于评分模拟的评价方法（不懂）

    • GAN结构（生成对抗网络）
    • RNN结构：ADEM，通过半监督训练
    • 基于神经网络结构的其他评分模型，如用下文回复分类，等。

• 未来趋势，对任务型对话，主要是根据任务完成程度来评价，对开放域对话系统，主要是对客观指标进行评分。

不懂的点

• 许多具体的解决问题的方法并不是很了解，只懂个大概，还需要继续阅读相关的文献。