热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

【模式匹配】之——多模匹配下篇(AC算法之前缀树实现)

前言本文章对应代码下载地址:http:download.csdn.netdetailsun20434305286986AC算法之前缀树实现步骤步骤一构造前缀树步骤二设置每一个节点的Fai

前言

本文章对应代码下载地址:

http://download.csdn.net/detail/sun2043430/5286986


AC算法之前缀树实现步骤

  1. 步骤一 构造前缀树
  2. 步骤二 设置每一个节点的Failure Node
  3. 步骤三 收集每个节点的所有匹配模式串信息
  4. 步骤四 对目标串进行搜索匹配

AC自动机进行字符串匹配的过程,可以参考维基百科的说明:

http://en.wikipedia.org/wiki/Aho%E2%80%93Corasick_string_matching_algorithm


具体的实现方法就是创建一颗前缀树,根据被查找目标字符串,逐字符匹配目标字符串,从树的根节点往叶子节点一步步查找下去。在这个过程当中,如果失配了,要根据失配跳转点来进行跳转,如果找到匹配的模式串则进行打印输出。这样说还是只有一个模糊的大概印象,我们先看一个简单的例子,然后一步步说明具体的操作步骤。


步骤一:构造前缀树

比如我们现在有5个待搜索模式串:
"uuidi"

"ui"

"idi"

"idk"

"di"

建立如下所示的前缀树:


(图1)

其中,根节点Root为空,不表示任何字符,其ID为0。依次读取每一个模式串,将模式串的每一个字符添加到树上,并依次顺序编号,编号用红色数字显示在节点的右边,每一个叶子节点用黄色背景表示(5,6,9,10,12号节点),表示这里到达一个模式串的结尾(下文称之为尾节点)。如果2个模式串有相同的前缀,则相同的前缀共用相同的节点。例如"uuidi"、"ui"有共同前缀"u","idi"、"idk"有共同前缀"id"。

从根节点Root开始,每一个节点的孩子节点表示在此节点可以匹配哪些字符,例如根节点有三个孩子节点1,7,11,则根节点处可以匹配u,i,d三个字符,如果目标字符串相应位置上是这3个字符中的一个,则匹配上某一个孩子节点,接下来的匹配将从该孩子节点继续下去。这是可以匹配上的情况,还有不匹配的情况,对于不匹配的情况我们不是跳回到根节点处重新进行匹配(这样会造成目标字符串的回溯),而是模仿KMP算法中失配时,跳转到Failure Node(失配跳转节点)。例如目标字符串是"uuidk",我们按照上面构造出的树,会依次经过1,2,3,4节点(匹配上uuid),4的孩子节点5是i,不能匹配上目标串中的k,这个时候我们应该从4跳转到节点8,我们称8是4的Failure Node。

对于每一个树上的节点都应该有对应的Failure Node,以指示在不匹配的情况应该跳转到哪个节点继续进行匹配。


步骤二:设置每一个节点的Failure Node

上面我们举了一个例子,在节点4失配时,应该跳转到节点8去继续进行匹配,这和KMP算法中在失配时根据失配跳转next数组中记录的位置来进行跳转的原理是一样的,目的是避免对目标串进行回溯匹配。在KMP算法中求next数组值可以用迭代的方法计算出来,但多个模式串的情况下,我们计算Failure Node只能从树的根节点处开始遍历。但是Failure Node的作用和KMP中的next数组值是一样的,查找的原则也是一样的,就是在模式串中查找最长前缀能够匹配上当前失配位置处的最长后缀

仍以上面图中的节点4来举例,到达节点4的模式串为uuid,对应的后缀为"uid","id","d"(在程喆师弟的指正下修改此处笔误),我们要找树的前缀中,能匹配上这三个后缀且长度最长的那个位置,首先看"uid",从树的根节点开始(因为要找前缀)没有能匹配上的,在找"id",找到能匹配上的节点7,8。所以我们设置4的Failure Node为8。如果没有找到能匹配的前缀,则设置Failure Node为根节点Root。

:可能有看过KMP算法的同学会注意到,我们在找到最长后缀的同时还要看后面的孩子节点是否一样,如果找到的位置后面的孩子节点和本节点的孩子节点一样,那么跳转过去,也必然导致失配。实际上确实如此,但我们仍然简单处理,只看前缀和后缀是否匹配,而不管后面的孩子节点是否一样,其原因我们在后面说明。

针对上图的12个节点,每个节点对应的Failure Node如下表:


(图2)

将每个Failure Node不为0的节点,和其对应的Failure Node节点,用绿色虚线连接起来(绿色通道快捷跳转、虚线表示比较隐蔽不容易发现^_^),形成上图。

每个节点K的Failure Node节点的深度不会超过该节点K的深度,因为从跟节点到Failure Node节点是一个前缀。

另外每个节点K的Failure Node节点只有一个,不会有多个。因为Failure Node节点的定义是长度最长的前缀匹配失配位置的后缀,长度最长的只可能找到一处,不可能找到两处,如果有两处长度一样,且都是能够匹配的前缀,那么这两个分支按照前缀树的构造方法应该是重合在一起的。


构造完前缀树,设置好每一个节点的Failure Node之后,我们还有一件重要的事情没有做,观察上面的前缀树,当我们来到节点3时,节点2,3组成的字串"ui"其实已经匹配上一个模式串了,但节点3不是一个模式串的尾字符,所以我们无法报告给查询者,我们其实已经匹配上一个模式串了;另外看节点5,当到达节点5时,我们除了匹配上了"uuidi"字串之外,其实我们也匹配上了"idi","di"字符串。为了解决这个问题,我们需要收集每一个节点的模式串匹配情况。


步骤三:收集每个节点的所有匹配模式串信息

其实要收集每个节点的所有匹配模式串也很简单,观察图2,在节点3位置,应该报告匹配上了模式串"ui",我们可以看到节点3的Failure Node指向的是节点6。所以获取每个节点的所有匹配模式串的信息可以从该节点的Failure Node入口,如果节点K的Failure Node是一个尾节点,那么到达节点K相当于匹配上了一个模式串。另外,我们再观察节点5,节点5本身就是一个尾节点,所以它有自己的匹配模式串,再看5的Failure Node,指向9,节点9也是尾节点,所以5的匹配模式串除了自身的一个模式串(uuidi)之外还包括9所代表的模式串(idi),而9的Failure Node指向12,12也是一个尾节点,所以节点5也也应该包含节点12的匹配模式串(di)……这样进行下去,一直到Failure Node指向了根节点,遍历结束,遍历过程中遇到的所有尾节点都是可匹配的模式串。

在具体的代码实现中,我用一个std::verctor容器来保存一个节点所有的可匹配模式串信息。另外现在我们可以回答一下上面提到的问题。为什么我们没有去检查节点和其Failure Node节点是否有相同的孩子,比如图2中的节点8,我们上面计算出来8的Failure Node是11,但其实因为8有2个孩子9,10,如果8接下来的匹配失配,也就说明目标串中现在出现的字符不是i(9),k(10),而11的孩子节点12表示(i),则通过Failure Node到达11也必然是会匹配失败的。但是我们仍然设置8的Failure Node为11,是因为如果漏掉过了节点11,我们有可能会漏掉匹配的模式串。例如,5的Failure Node是9,9的Failure Node是12,12的Failure Node是7,如果我们因为5,9,12都没有孩子节点,而直接设置节点5的Failure Node为节点7,那么我们在收集所有的匹配模式串信息时,会漏掉尾节点9,12。

可以考虑一个更极端的情况,比如这样的模式串集:"aaaa","aaa","aa","a",如果我们考虑到节点K的Failure Node的孩子结点不应该全都包含在节点K的孩子节点中(和KMP求NEXT数组前缀和后缀的后一个字符不应该一样同理),那么我们在目标串"aaaaaaaaaaa"查找模式串集时会漏掉一些匹配的模式串信息报告。

下图显示了构造树的情况,depth是树的高度,ID=0的节点是Root。Children后面显示的是当前节点的孩子节点,Match pattern后面列出了在该节点位置能匹配上的模式串。

其中:

节点3  Match pattern: "ui"

节点5  Match pattern: "uuidi" "idi" "di"

节点6  Match pattern: "ui"

节点9  Match pattern: "idi" "di"

节点10 Match pattern: "idk"

节点12 Match pattern: "di"


步骤四:对目标串进行搜索匹配

上面3个步骤都完成了之后就可以开始对目标串进行搜索了,很简单的从头到尾线性扫描过程,且目标字符串没有回溯。

搜索之前先记录一个树的当前节点CurNode,初始时,树的当前节点CurNode为根节点Root

从目标串的第一个字符开始,和Root的孩子节点进行匹配,如果不匹配,则目标字符串往后挪一个字符,继续在Root的孩子节点中查找匹配。

如果找到匹配的孩子,则目标字符串往后挪一个字符,CurNode变为匹配上的孩子节点。在接下来的匹配过程中,如果失配将跳转到CurNode节点的Failure Node处继续进行匹配。

在树上每次往孩子节点方向走一步都要检查该孩子节点的匹配模式串信息,如果有匹配的模式串信息,则应该报告搜索者找到了哪些能够匹配的模式串。


对代码的一些说明

代码有两个,1个是在维基百科“Aho–Corasick string matching algorithm”词条给出的链接,地址为:

http://sourceforge.net/projects/multifast/

使用C语言编写,函数式实现,里面含有大量英文注释,理解原理在看代码应该很不难看懂。


另外一个我写的C++代码,使用类的方式,调用起来比较方便,当然我没有加很多的注释,一些细节可能需要阅读者自己琢磨一下。本文中的例子、图片,均来自我实现的代码。

构造树的过程调用

bool CTrie::Create(const MY_PATTERN pattern[], int nCount)
在该函数内部调用了CTrie::SetFailure()设置每个节点 Failure Node,调用CTrie::SetMatchPattern(NODE *pNode)设置每一个节点的所有匹配模式串信息。

因为是多叉树结构,所以上面两个函数都是从根节点向叶子节点的深度优先递归调用。

前缀树构造完毕之后就可以开始在目标字符串中查找匹配的模式串了,例如在目标字符串"hello uuididkidid"中查找图1所示的5个模式串,显示的结果如下:

下标数:0         1         2         3
下标数:0123456789012345678901234567890123456789
目标串:hello uuididkidid
Match pattern at 8:
    "ui"
Match pattern at 10:
    "uuidi"
    "idi"
    "di"
Match pattern at 12:
    "idk"
Match pattern at 15:
    "idi"
    "di"


本文章对应代码下载地址:

http://download.csdn.net/detail/sun2043430/5286986



推荐阅读
  • 本文提供了一种有效的方法来解决当Android Studio因电脑意外重启而导致的所有import语句出现错误的问题。通过清除缓存和重建项目结构,可以快速恢复开发环境。 ... [详细]
  • JavaScript 跨域解决方案详解
    本文详细介绍了JavaScript在不同域之间进行数据传输或通信的技术,包括使用JSONP、修改document.domain、利用window.name以及HTML5的postMessage方法等跨域解决方案。 ... [详细]
  • 本文探讨了异步编程的发展历程,从最初的AJAX异步回调到现代的Promise、Generator+Co以及Async/Await等技术。文章详细分析了Promise的工作原理及其源码实现,帮助开发者更好地理解和使用这一重要工具。 ... [详细]
  • 尽管在WPF中工作了一段时间,但在菜单控件的样式设置上遇到了一些基础问题,特别是关于如何正确配置前景色和背景色。 ... [详细]
  • 本文详细介绍如何在 Apache 中设置虚拟主机,包括基本配置和高级设置,帮助用户更好地理解和使用虚拟主机功能。 ... [详细]
  • ASP.NET 进度条实现详解
    本文介绍了如何在ASP.NET中使用HTML和JavaScript创建一个动态更新的进度条,并通过Default.aspx页面进行展示。 ... [详细]
  • 本文探讨了如何在 Spring MVC 框架下,通过自定义注解和拦截器机制来实现细粒度的权限管理功能。 ... [详细]
  • 吴石访谈:腾讯安全科恩实验室如何引领物联网安全研究
    腾讯安全科恩实验室曾两次成功破解特斯拉自动驾驶系统,并远程控制汽车,展示了其在汽车安全领域的强大实力。近日,该实验室负责人吴石接受了InfoQ的专访,详细介绍了团队未来的重点方向——物联网安全。 ... [详细]
  • 利用Node.js实现PSD文件的高效切图
    本文介绍了如何通过Node.js及其psd2json模块,快速实现PSD文件的自动化切图过程,以适应项目中频繁的界面更新需求。此方法不仅提高了工作效率,还简化了从设计稿到实际应用的转换流程。 ... [详细]
  • 本文详细介绍了如何在最新版本的Xcode中重命名iOS项目,包括项目名称、应用名称及相关的文件夹和配置文件。通过本文,开发者可以轻松完成项目的重命名工作。 ... [详细]
  • MITM(中间人攻击)原理及防范初探(二)
    上一篇文章MITM(中间人攻击)原理及防范初探(一)给大家介绍了利用ettercap进行arp欺骗及劫持明文口令,后来我发现好友rootoorotor的文章介绍比我写的更透彻,所以基础利用大家可以参看 ... [详细]
  • 本文探讨了使用lightopenid库实现网站登录,并在用户成功登录后,如何获取其姓名、电子邮件及出生日期等详细信息的方法。特别针对Google OpenID进行了说明。 ... [详细]
  • 如何在Win10系统下通过VMware 14 Pro安装CentOS 7
    本文详细介绍了在Windows 10操作系统中使用VMware Workstation 14 Pro搭建CentOS 7虚拟环境的步骤,包括所需工具、安装过程及系统配置等。 ... [详细]
  • 本文探讨了如何利用RxJS库在AngularJS应用中实现对用户单击和拖动操作的精确区分,特别是在调整区域大小的场景下。 ... [详细]
  • 探讨如何在映射文件中处理重复的属性字段,以避免数据操作时出现错误。 ... [详细]
author-avatar
soseast9975
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有