2、自然语言的理解

自然语言的理解可以有两种不同的方式&＃xff1a;

第一种&＃xff1a;基于表示&＃xff0c;我们在接收别人的自然语言之后&＃xff0c;如果可以在自己的脑海中生成一些对应的概念&＃xff0c;说明我们理解了&＃xff0c;同样地&＃xff0c;如果机器对于人类的指令&＃xff0c;生成了对应的内部表示&＃xff0c;我们就说机器理解了自然语言&＃xff1b;

第二种&＃xff1a;基于行为&＃xff0c;人类接收到外部的自然语言&＃xff0c;判定理解与否的直观表现就是看对方是否发起正确的行为&＃xff0c;同样地&＃xff0c;如果机器可以按照人类的指令&＃xff0c;顺利达成相应的任务&＃xff0c;比如人类发出拿茶的命令&＃xff0c;机器顺利完成&＃xff0c;我们也认为机器理解了自然语言。

3、自然语言理解的过程及涉及的基本技术原理

自然语言处理的过程中&＃xff0c;主要的步骤包括&＃xff1a;词汇处理、句法处理、语义处理、语用处理&＃xff0c;这些环节综合起来就形成了系统化的自然语言处理&＃xff0c;达到自然语言理解的目的&＃xff0c;并帮助机器合理地行动。

&＃xff08;1&＃xff09;词汇处理&＃xff1a;词汇的处理基于字典&＃xff0c;需要了解词意和用法。这也是自然语言处理的基础&＃xff0c;通常要达成对一种语言的理解&＃xff0c;我们需要积累大量的词汇&＃xff0c;并且能在不同的语言环境下正确判断该词的用法和意思&＃xff0c;才能保障接下类的后续理解和操作的正确性。现在自然语言处理中文的语料构建、分词处理效果已经相对还可以。

&＃xff08;2&＃xff09;句法处理&＃xff1a;句法的处理就要依据既定的句法规则进行处理&＃xff0c;但句法本身是个相对复杂的东西&＃xff0c;因为句法既有规律也有例外&＃xff0c;没有通用的、固定的标准&＃xff0c;而且通常是处于动态发展中的&＃xff0c;也没有办法由某一个人决定&＃xff0c;需要很多人共同参与制定&＃xff1b;

&＃xff08;3&＃xff09;语义处理&＃xff1a;语义处理是把语言符号映射到内部的表示上&＃xff0c;需要对应到一些已知的概念&＃xff0c;并且结合已有的对于世界的先验认知&＃xff0c;达成句子的最后理解&＃xff0c;语义理解需要考虑的因素比较多&＃xff0c;容易出现歧义&＃xff0c;而且往往表述在不同的环境下表达的意思也有所出入&＃xff0c;所以具有一定的难度。

&＃xff08;4&＃xff09;语用处理&＃xff1a;不同的句子有不同的语用&＃xff0c;而同样的句子也有可能有不同的语用&＃xff0c;比如我饿了&＃xff0c;很有可能只是单纯地陈述&＃xff0c;但也有可能言外之意是希望听话者给说话者买东西吃&＃xff0c;所以语用一定是基于一定的对胡情景和上下文做出的最合理的判断&＃xff0c;这个也是很灵活的。

所以可见&＃xff0c;当前我们在处理自然语言的时候&＃xff0c;除去既定的词表、语法规则之外&＃xff0c;更多的是一些语义、语用的处理&＃xff0c;是相当灵活的额&＃xff0c;而这恰恰是当前智能机器或系统的弱势。

除了这些基本的处理过程&＃xff0c;李航老师还结合人类真是的大脑结构及管理&＃xff0c;对自然语言的处理作出了新的分析。

• 语言处理是整个大脑共同参与的复杂活动&＃xff1a;Broca区负责句法&＃xff0c;而wernicke负责词汇。语言理解是对大脑表层联想的模拟和描述&＃xff0c;它会和每个人的经历有关&＃xff0c;因为人处于不同的成长环境&＃xff0c;对于语言的理解其实是有很大出入的&＃xff0c;但是也会存在很多的共性&＃xff0c;因为人和人之间是不断地沟通的&＃xff0c;所以需要基于一定的共性。
• 最核心的挑战在于语言的多样性和多义性&＃xff1a;因为自然环境的复杂性&＃xff0c;语言的表达可以千变万化&＃xff0c;人类总是可以灵活地应对&＃xff0c;但是机器要想有效地克服这种灵活性&＃xff0c;其实需要面临的挑战还很多&＃xff0c;为如何更好地处理语言的多样性和歧义就是首要。
• 对话&＃xff1a;对话是当前语言类应用的重要构成&＃xff0c;分为单轮对话和多轮对话。首先&＃xff0c;对话都是有目的的&＃xff0c;存在一定的动机或者是情感交流的需求&＃xff0c;而且目标可能是会动态变化的。其次&＃xff0c;在单轮对话中&＃xff0c;一种是基于语义表示&＃xff0c;把对话的内容生成内部的语句&＃xff0c;一种是基于检索&＃xff0c;比如聊天机器人、问答系统等&＃xff0c;还有一种是基于生成式&＃xff0c;比如分析器及答案生成器。目前单轮对话的应用已经相对普遍&＃xff0c;效果也还可以接受。但是多轮对话可能就会比较困难&＃xff0c;主要应用状态机和马尔科夫链等技术&＃xff0c;但是并没有获得很好的发展和进步。

4、NLP的进步

&＃xff08;1&＃xff09;机器翻译&＃xff1a;深度学习、深度强化学习等方法逐渐用于多轮对话处理中&＃xff0c;可以提高多轮对话的准确性和对语义环境的判断&＃xff0c;已经逐步地成为自然语言处理的主流技术。

&＃xff08;2&＃xff09;具体的几个例子&＃xff1a;

第一&＃xff0c;google提出的 Neural Symbolic Machines以及华为诺亚方舟提出的Neural Responding Machine&＃xff0c;基于分析的原理&＃xff0c;结合符号处理和神经处理&＃xff0c;对自然语言进行更精准的处理&＃xff1b;

第二&＃xff0c;微软提出的Hierarchical Deep Reinforcement Learning&＃xff0c;利用层次化的深度强化学习原理&＃xff0c;将对话目标进行分层次处理&＃xff0c;比如可以把对话的目标进行分层&＃xff0c;之后展开&＃xff0c;最后进行复述&＃xff0c;将有限的状态机层次化&＃xff0c;这样学习的目标就可以被拆解&＃xff0c;然后利用层次化的神经结构来进行强化的迭代学习&＃xff0c;或许是解决多轮对话困境的一个有效方法。

5、趋势及结论

&＃xff08;1&＃xff09;自然语言处理的趋势

在李航老师看来&＃xff0c;自然语言处理接下来的主要技术研究方向在于&＃xff1a;

semantic grounding 自然语义映射到语言的内部进行表示&＃xff0c;不涉及外部的一些表示&＃xff0c;主要用于解决语言的多样性及歧义问题&＃xff0c;

neural symbolic processing :结合符号学和神经学的优势&＃xff0c;协同完成自然语言的处理和理解&＃xff1b;

deep reinforcement learning &＃xff1a;深度学习&＃43;强化学习&＃xff0c;结合更大语料库&＃xff0c;提高自然语言理解的准确率&＃xff1b;

modular and hierarchical processing :模块化、分层次地进行学习&＃xff0c;将语言目标分解&＃xff0c;层次化地完成学习和训练&＃xff1b;

meta learning :基元学习&＃xff0c;无论是对于图像还是自然语言&＃xff0c;最本质的学习往往也可能是最高效的&＃xff0c;所以也是无数学者愿意一直坚持下去的。

&＃xff08;2&＃xff09;结论&＃xff1a;

立足于制作合理思考和行动的智能机器&＃xff0c;当前已经有了一些可用的产品&＃xff0c;尤其是一些基于单轮对话的。但是要处理的主要的挑战在于&＃xff0c;自然语言的多样性和多义性&＃xff0c;人类语言的灵活度也未被机器真正习得。但是深度学习已经强度学习、层次学习等一些新的概念的到来&＃xff0c;为人类自然语言的处理带来了新的可能&＃xff0c;所以或许&＃xff0c;这些问题会有新的解决思路。

后话&＃xff1a;

李航老师的分享是比较学术和技术的&＃xff0c;可能一些内容在理解上有困难&＃xff0c;但是不管是做技术还是做产品&＃xff0c;我们都应当明确&＃xff0c;要想真正地懂得一些知识的内核&＃xff0c;并且能够基于这个知识圈有一些自己的思考和设计&＃xff0c;必要的、深入地学习、理解技术还是很有必要的&＃xff0c;也会帮助我们在设计的过程中降低犯错的风险&＃xff0c;加油&＃xff01;