热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

深度解析MySQL5.7之中文全文检索

前言其实全文检索在MySQL里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从

前言

其实全文检索在MySQL里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从MySQL 5.7开始,MySQL内置了ngram全文检索插件,用来支持中文分词,并且对MyISAM和InnoDB引擎有效。

在使用中文检索分词插件ngram之前,先得在MySQL配置文件里面设置他的分词大小,比如,

?
1
2
[mysqld]
ngram_token_size=2

这里把分词大小设置为2。要记住,分词的SIZE越大,索引的体积就越大,所以要根据自身情况来设置合适的大小。

示例表结构:

?
1
2
3
4
5
6
CREATE TABLE articles (
    id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY ,
    titleVARCHAR(200),
    body TEXT,
    FULLTEXT (title,body) WITH PARSER ngram
   ) ENGINE=InnoDBCHARACTER SET utf8mb4;

示例数据,有6行记录。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
mysql> select * from articles\G
***************************1. row ***************************
   id: 1
title: 数据库管理
  body: 在本教程中我将向你展示如何管理数据库
***************************2. row ***************************
   id: 2
title: 数据库应用开发
  body: 学习开发数据库应用程序
***************************3. row ***************************
   id: 3
title: MySQL完全手册
  body: 学习MySQL的一切
***************************4. row ***************************
   id: 4
title: 数据库与事务处理
  body: 系统的学习数据库的事务概论
***************************5. row ***************************
   id: 5
title: NoSQL精髓
  body: 学习了解各种非结构化数据库
***************************6. row ***************************
   id: 6
title: SQL 语言详解
  body: 详细了解如果使用各种SQL
6 rows inset (0.00 sec)

显式指定全文检索表源

?
1
2
mysql> SETGLOBAL innodb_ft_aux_table= "new_feature/articles" ;
Query OK, 0 rows affected (0.00 sec)

通过系统表,就可以查看到底是怎么划分articles里的数据。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
mysql> SELECT * FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;
+ ------+--------------+-------------+-----------+--------+----------+
| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |
+ ------+--------------+-------------+-----------+--------+----------+
| 中我 |   2 |   2 |   1 |  2 |  28 |
| 习m |   4 |   4 |   1 |  4 |  21 |
| 习了 |   6 |   6 |   1 |  6 |  16 |
| 习开 |   3 |   3 |   1 |  3 |  25 |
| 习数 |   5 |   5 |   1 |  5 |  37 |
| 了解 |   6 |   7 |   2 |  6 |  19 |
| 了解 |   6 |   7 |   2 |  7 |  23 |
| 事务 |   5 |   5 |   1 |  5 |  12 |
| 事务 |   5 |   5 |   1 |  5 |  40 |
| 何管 |   2 |   2 |   1 |  2 |  52 |
+ ------+--------------+-------------+-----------+--------+----------+
10 rows in set (0.00 sec)

这里可以看到,把分词长度设置为2,所有的数据都只有两个一组。上面数据还包含了行的位置,ID等等信息。

接下来,我来进行一系列检索示范,使用方法和原来英文检索一致。

一、自然语言模式下检索:

1、得到符合条件的个数,

?
1
2
3
4
5
6
7
8
mysql> SELECT COUNT (*) FROM articles
-> WHERE MATCH (title,body) AGAINST ( '数据库' IN NATURALLANGUAGE MODE);
+ ----------+
| COUNT (*) |
+ ----------+
|  4 |
+ ----------+
1 row in set (0.05 sec)

2、得到匹配的比率,

?
1
2
3
4
5
6
7
8
9
10
11
12
13
mysql> SELECT id, MATCH (title,body) AGAINST ( '数据库' IN NATURAL LANGUAGE MODE)
  AS score FROM articles;
+ ----+----------------------+
| id| score    |
+ ----+----------------------+
| 1 | 0.12403252720832825 |
| 2 | 0.12403252720832825 |
| 3 |     0 |
| 4 | 0.12403252720832825 |
| 5 | 0.062016263604164124|
| 6 |     0 |
+ ----+----------------------+
6rows in set (0.00 sec)

二、布尔模式下搜索,这个就相对于自然模式搜索来的复杂些:

1、匹配既有管理又有数据库的记录,

?
1
2
3
4
5
6
7
8
mysql> SELECT * FROM articles WHERE MATCH (title,body)
   ->  AGAINST ( '+数据库 +管理' IN BOOLEAN MODE);
+ ----+------------+--------------------------------------+
| id| title  | body         |
+ ----+------------+--------------------------------------+
| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库  |
+ ----+------------+--------------------------------------+
1 rowin set (0.00 sec)

2、匹配有数据库,但是没有管理的记录,

?
1
2
3
4
5
6
7
8
9
10
mysql> SELECT * FROM articles WHERE MATCH (title,body)
   ->  AGAINST ( '+数据库 -管理' IN BOOLEAN MODE);
+ ----+------------------+----------------------------+
| id| title    | body      |
+ ----+------------------+----------------------------+
| 2 | 数据库应用开发  | 学习开发数据库应用程序   |
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论  |
| 5 | NoSQL 精髓  | 学习了解各种非结构化数据库  |
+ ----+------------------+----------------------------+
3 rows in set (0.00 sec)

3、匹配MySQL,但是把数据库的相关性降低,

?
1
2
3
4
5
6
7
8
mysql> SELECT * FROM articles WHERE MATCH (title,body)
   ->  AGAINST ( '>数据库 +MySQL' INBOOLEAN MODE);
+ ----+---------------+-----------------+
| id| title   | body   |
+ ----+---------------+-----------------+
| 3 | MySQL完全手册 |学习MySQL的一切 |
+ ----+---------------+-----------------+
1 rowin set (0.00 sec)

三、查询扩展模式,比如要搜索数据库,那么MySQL,oracle,DB2也都将会被搜索到,

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
mysql> SELECT * FROM articles
   ->  WHERE MATCH (title,body)
   ->  AGAINST ( '数据库' WITH QUERY EXPANSION);
+ ----+------------------+--------------------------------------+
| id| title   | body         |
+ ----+------------------+--------------------------------------+
| 1 | 数据库管理  | 在本教程中我将向你展示如何管理数据库  |
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论    |
| 2 | 数据库应用开发  | 学习开发数据库应用程序     |
| 5 | NoSQL 精髓  | 学习了解各种非结构化数据库    |
| 6 | SQL 语言详解  | 详细了解如果使用各种SQL     |
| 3 | MySQL完全手册  | 学习MySQL的一切      |
+ ----+------------------+--------------------------------------+
6 rows in set (0.01 sec)

当然,我这里只是功能演示,更多的性能测试,大家有兴趣可以进行详细测试。由于N-grm是中文检索常用的分词算法,已经在互联网大量使用,这次集成到MySQL中,想必效果上不会有太大的问题。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

原文链接:http://www.actionsky.com/docs/archives/163


推荐阅读
  • 技术分享:从动态网站提取站点密钥的解决方案
    本文探讨了如何从动态网站中提取站点密钥,特别是针对验证码(reCAPTCHA)的处理方法。通过结合Selenium和requests库,提供了详细的代码示例和优化建议。 ... [详细]
  • 本文将介绍如何编写一些有趣的VBScript脚本,这些脚本可以在朋友之间进行无害的恶作剧。通过简单的代码示例,帮助您了解VBScript的基本语法和功能。 ... [详细]
  • 1.如何在运行状态查看源代码?查看函数的源代码,我们通常会使用IDE来完成。比如在PyCharm中,你可以Ctrl+鼠标点击进入函数的源代码。那如果没有IDE呢?当我们想使用一个函 ... [详细]
  • 本文详细介绍了Java中org.neo4j.helpers.collection.Iterators.single()方法的功能、使用场景及代码示例,帮助开发者更好地理解和应用该方法。 ... [详细]
  • 优化ListView性能
    本文深入探讨了如何通过多种技术手段优化ListView的性能,包括视图复用、ViewHolder模式、分批加载数据、图片优化及内存管理等。这些方法能够显著提升应用的响应速度和用户体验。 ... [详细]
  • CentOS7源码编译安装MySQL5.6
    2019独角兽企业重金招聘Python工程师标准一、先在cmake官网下个最新的cmake源码包cmake官网:https:www.cmake.org如此时最新 ... [详细]
  • 深入理解 SQL 视图、存储过程与事务
    本文详细介绍了SQL中的视图、存储过程和事务的概念及应用。视图为用户提供了一种灵活的数据查询方式,存储过程则封装了复杂的SQL逻辑,而事务确保了数据库操作的完整性和一致性。 ... [详细]
  • IneedtofocusTextCellsonebyoneviaabuttonclick.ItriedlistView.ScrollTo.我需要通过点击按钮逐个关注Tex ... [详细]
  • 在前两篇文章中,我们探讨了 ControllerDescriptor 和 ActionDescriptor 这两个描述对象,分别对应控制器和操作方法。本文将基于 MVC3 源码进一步分析 ParameterDescriptor,即用于描述 Action 方法参数的对象,并详细介绍其工作原理。 ... [详细]
  • 本文详细介绍了Akka中的BackoffSupervisor机制,探讨其在处理持久化失败和Actor重启时的应用。通过具体示例,展示了如何配置和使用BackoffSupervisor以实现更细粒度的异常处理。 ... [详细]
  • DNN Community 和 Professional 版本的主要差异
    本文详细解析了 DotNetNuke (DNN) 的两种主要版本:Community 和 Professional。通过对比两者的功能和附加组件,帮助用户选择最适合其需求的版本。 ... [详细]
  • RecyclerView初步学习(一)
    RecyclerView初步学习(一)ReCyclerView提供了一种插件式的编程模式,除了提供ViewHolder缓存模式,还可以自定义动画,分割符,布局样式,相比于传统的ListVi ... [详细]
  • 解读MySQL查询执行计划的详细指南
    本文旨在帮助开发者和数据库管理员深入了解如何解读MySQL查询执行计划。通过详细的解析,您将掌握优化查询性能的关键技巧,了解各种访问类型和额外信息的含义。 ... [详细]
  • 本文介绍如何通过创建替代插入触发器,使对视图的插入操作能够正确更新相关的基本表。涉及的表包括:飞机(Aircraft)、员工(Employee)和认证(Certification)。 ... [详细]
  • Hadoop入门与核心组件详解
    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
author-avatar
李大乔vivi
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有