MySQL底层实现机制

作者：safecaps | 来源：互联网 | 2023-08-22 10:39

摘要本文以MySQL数据库为研究对象，讨论与数据库索引相关的一些话题。特别需要说明的是，MySQL支持诸多存储引擎，而各种存储引擎对索引

摘要

本文以MySQL数据库为研究对象&＃xff0c;讨论与数据库索引相关的一些话题。特别需要说明的是&＃xff0c;MySQL支持诸多存储引擎&＃xff0c;而各种存储引擎对索引的支持也各不相同&＃xff0c;因此MySQL数据库支持多种索引类型&＃xff0c;如BTree索引&＃xff0c;哈希索引&＃xff0c;全文索引等等。为了避免混乱&＃xff0c;本文将只关注于BTree索引&＃xff0c;因为这是平常使用MySQL时主要打交道的索引&＃xff0c;至于哈希索引和全文索引本文暂不讨论。

文章主要内容分为三个部分。

第一部分主要从数据结构及算法理论层面讨论MySQL数据库索引的数理基础。

第二部分结合MySQL数据库中MyISAM和InnoDB数据存储引擎中索引的架构实现讨论聚集索引、非聚集索引及覆盖索引等话题。

第三部分根据上面的理论基础&＃xff0c;讨论MySQL中高性能使用索引的策略。

数据结构及算法基础

索引的本质

MySQL官方对索引的定义为&＃xff1a;索引&＃xff08;Index&＃xff09;是帮助MySQL高效获取数据的数据结构。提取句子主干&＃xff0c;就可以得到索引的本质&＃xff1a;索引是数据结构。

我们知道&＃xff0c;数据库查询是数据库的最主要功能之一。我们都希望查询数据的速度能尽可能的快&＃xff0c;因此数据库系统的设计者会从查询算法的角度进行优化。最基本的查询算法当然是顺序查找&＃xff08;linear search&＃xff09;&＃xff0c;这种复杂度为O(n)的算法在数据量很大时显然是糟糕的&＃xff0c;好在计算机科学的发展提供了很多更优秀的查找算法&＃xff0c;例如二分查找&＃xff08;binary search&＃xff09;、二叉树查找&＃xff08;binary tree search&＃xff09;等。如果稍微分析一下会发现&＃xff0c;每种查找算法都只能应用于特定的数据结构之上&＃xff0c;例如二分查找要求被检索数据有序&＃xff0c;而二叉树查找只能应用于二叉查找树上&＃xff0c;但是数据本身的组织结构不可能完全满足各种数据结构&＃xff08;例如&＃xff0c;理论上不可能同时将两列都按顺序进行组织&＃xff09;&＃xff0c;所以&＃xff0c;在数据之外&＃xff0c;数据库系统还维护着满足特定查找算法的数据结构&＃xff0c;这些数据结构以某种方式引用&＃xff08;指向&＃xff09;数据&＃xff0c;这样就可以在这些数据结构上实现高级查找算法。这种数据结构&＃xff0c;就是索引。

看一个例子&＃xff1a;

图1

图1展示了一种可能的索引方式。左边是数据表&＃xff0c;一共有两列七条记录&＃xff0c;最左边的是数据记录的物理地址&＃xff08;注意逻辑上相邻的记录在磁盘上也并不是一定物理相邻的&＃xff09;。为了加快Col2的查找&＃xff0c;可以维护一个右边所示的二叉查找树&＃xff0c;每个节点分别包含索引键值和一个指向对应数据记录物理地址的指针&＃xff0c;这样就可以运用二叉查找在的复杂度内获取到相应数据。

虽然这是一个货真价实的索引&＃xff0c;但是实际的数据库系统几乎没有使用二叉查找树或其进化品种红黑树&＃xff08;red-black tree&＃xff09;实现的&＃xff0c;原因会在下文介绍。

B-Tree和B&＃43;Tree

目前大部分数据库系统及文件系统都采用B-Tree或其变种B&＃43;Tree作为索引结构&＃xff0c;在本文的下一节会结合存储器原理及计算机存取原理讨论为什么B-Tree和B&＃43;Tree在被如此广泛用于索引&＃xff0c;这一节先单纯从数据结构角度描述它们。

B-Tree

为了描述B-Tree&＃xff0c;首先定义一条数据记录为一个二元组[key, data]&＃xff0c;key为记录的键值&＃xff0c;对于不同数据记录&＃xff0c;key是互不相同的&＃xff1b;data为数据记录除key外的数据。那么B-Tree是满足下列条件的数据结构&＃xff1a;

d为大于1的一个正整数&＃xff0c;称为B-Tree的度。

h为一个正整数&＃xff0c;称为B-Tree的高度。

每个非叶子节点由n-1个key和n个指针组成&＃xff0c;其中d<&＃61;n<&＃61;2d。

每个叶子节点最少包含一个key和两个指针&＃xff0c;最多包含2d-1个key和2d个指针&＃xff0c;叶节点的指针均为null 。

所有叶节点具有相同的深度&＃xff0c;等于树高h。

key和指针互相间隔&＃xff0c;节点两端是指针。

一个节点中的key从左到右非递减排列。

所有节点组成树结构。

每个指针要么为null&＃xff0c;要么指向另外一个节点。

如果某个指针在节点node最左边且不为null&＃xff0c;则其指向节点的所有key小于&＃xff0c;其中为node的第一个key的值。

如果某个指针在节点node最右边且不为null&＃xff0c;则其指向节点的所有key大于&＃xff0c;其中为node的最后一个key的值。

如果某个指针在节点node的左右相邻key分别是和且不为null&＃xff0c;则其指向节点的所有key小于且大于。

图2是一个d&＃61;2的B-Tree示意图。

图2

由于B-Tree的特性&＃xff0c;在B-Tree中按key检索数据的算法非常直观&＃xff1a;首先从根节点进行二分查找&＃xff0c;如果找到则返回对应节点的data&＃xff0c;否则对相应区间的指针指向的节点递归进行查找&＃xff0c;直到找到节点或找到null指针&＃xff0c;前者查找成功&＃xff0c;后者查找失败。B-Tree上查找算法的伪代码如下&＃xff1a;

BTree_Search(node, key) { if(node &＃61;&＃61; null) return null; foreach(node.key) { if(node.key[i] &＃61;&＃61; key) return node.data[i]; if(node.key[i] > key) return BTree_Search(point[i]->node); } return BTree_Search(point[i&＃43;1]->node); } data &＃61; BTree_Search(root, my_key);

关于B-Tree有一系列有趣的性质&＃xff0c;例如一个度为d的B-Tree&＃xff0c;设其索引N个key&＃xff0c;则其树高h的上限为&＃xff0c;检索一个key&＃xff0c;其查找节点个数的渐进复杂度为。从这点可以看出&＃xff0c;B-Tree是一个非常有效率的索引数据结构。

另外&＃xff0c;由于插入删除新的数据记录会破坏B-Tree的性质&＃xff0c;因此在插入删除时&＃xff0c;需要对树进行一个分裂、合并、转移等操作以保持B-Tree性质&＃xff0c;本文不打算完整讨论B-Tree这些内容&＃xff0c;因为已经有许多资料详细说明了B-Tree的数学性质及插入删除算法&＃xff0c;有兴趣的朋友可以在本文末的参考文献一栏找到相应的资料进行阅读。

B&＃43;Tree

B-Tree有许多变种&＃xff0c;其中最常见的是B&＃43;Tree&＃xff0c;例如MySQL就普遍使用B&＃43;Tree实现其索引结构。

与B-Tree相比&＃xff0c;B&＃43;Tree有以下不同点&＃xff1a;

每个节点的指针上限为2d而不是2d&＃43;1。

内节点不存储data&＃xff0c;只存储key&＃xff1b;叶子节点不存储指针。

图3是一个简单的B&＃43;Tree示意。

图3

由于并不是所有节点都具有相同的域&＃xff0c;因此B&＃43;Tree中叶节点和内节点一般大小不同。这点与B-Tree不同&＃xff0c;虽然B-Tree中不同节点存放的key和指针可能数量不一致&＃xff0c;但是每个节点的域和上限是一致的&＃xff0c;所以在实现中B-Tree往往对每个节点申请同等大小的空间。

一般来说&＃xff0c;B&＃43;Tree比B-Tree更适合实现外存储索引结构&＃xff0c;具体原因与外存储器原理及计算机存取原理有关&＃xff0c;将在下面讨论。

带有顺序访问指针的B&＃43;Tree

一般在数据库系统或文件系统中使用的B&＃43;Tree结构都在经典B&＃43;Tree的基础上进行了优化&＃xff0c;增加了顺序访问指针。

图4

如图4所示&＃xff0c;在B&＃43;Tree的每个叶子节点增加一个指向相邻叶子节点的指针&＃xff0c;就形成了带有顺序访问指针的B&＃43;Tree。做这个优化的目的是为了提高区间访问的性能&＃xff0c;例如图4中如果要查询key为从18到49的所有数据记录&＃xff0c;当找到18后&＃xff0c;只需顺着节点和指针顺序遍历就可以一次性访问到所有数据节点&＃xff0c;极大提到了区间查询效率。

这一节对B-Tree和B&＃43;Tree进行了一个简单的介绍&＃xff0c;下一节结合存储器存取原理介绍为什么目前B&＃43;Tree是数据库系统实现索引的首选数据结构。

为什么使用B-Tree&＃xff08;B&＃43;Tree&＃xff09;

上文说过&＃xff0c;红黑树等数据结构也可以用来实现索引&＃xff0c;但是文件系统及数据库系统普遍采用B-/&＃43;Tree作为索引结构&＃xff0c;这一节将结合计算机组成原理相关知识讨论B-/&＃43;Tree作为索引的理论基础。

一般来说&＃xff0c;索引本身也很大&＃xff0c;不可能全部存储在内存中&＃xff0c;因此索引往往以索引文件的形式存储的磁盘上。这样的话&＃xff0c;索引查找过程中就要产生磁盘I/O消耗&＃xff0c;相对于内存存取&＃xff0c;I/O存取的消耗要高几个数量级&＃xff0c;所以评价一个数据结构作为索引的优劣最重要的指标就是在查找过程中磁盘I/O操作次数的渐进复杂度。换句话说&＃xff0c;索引的结构组织要尽量减少查找过程中磁盘I/O的存取次数。下面先介绍内存和磁盘存取原理&＃xff0c;然后再结合这些原理分析B-/&＃43;Tree作为索引的效率。

主存存取原理

目前计算机使用的主存基本都是随机读写存储器&＃xff08;RAM&＃xff09;&＃xff0c;现代RAM的结构和存取原理比较复杂&＃xff0c;这里本文抛却具体差别&＃xff0c;抽象出一个十分简单的存取模型来说明RAM的工作原理。

图5

从抽象角度看&＃xff0c;主存是一系列的存储单元组成的矩阵&＃xff0c;每个存储单元存储固定大小的数据。每个存储单元有唯一的地址&＃xff0c;现代主存的编址规则比较复杂&＃xff0c;这里将其简化成一个二维地址&＃xff1a;通过一个行地址和一个列地址可以唯一定位到一个存储单元。图5展示了一个4 x 4的主存模型。

主存的存取过程如下&＃xff1a;

当系统需要读取主存时&＃xff0c;则将地址信号放到地址总线上传给主存&＃xff0c;主存读到地址信号后&＃xff0c;解析信号并定位到指定存储单元&＃xff0c;然后将此存储单元数据放到数据总线上&＃xff0c;供其它部件读取。

写主存的过程类似&＃xff0c;系统将要写入单元地址和数据分别放在地址总线和数据总线上&＃xff0c;主存读取两个总线的内容&＃xff0c;做相应的写操作。

这里可以看出&＃xff0c;主存存取的时间仅与存取次数呈线性关系&＃xff0c;因为不存在机械操作&＃xff0c;两次存取的数据的“距离”不会对时间有任何影响&＃xff0c;例如&＃xff0c;先取A0再取A1和先取A0再取D3的时间消耗是一样的。

磁盘存取原理

上文说过&＃xff0c;索引一般以文件形式存储在磁盘上&＃xff0c;索引检索需要磁盘I/O操作。与主存不同&＃xff0c;磁盘I/O存在机械运动耗费&＃xff0c;因此磁盘I/O的时间消耗是巨大的。

图6是磁盘的整体结构示意图。

图6

一个磁盘由大小相同且同轴的圆形盘片组成&＃xff0c;磁盘可以转动&＃xff08;各个磁盘必须同步转动&＃xff09;。在磁盘的一侧有磁头支架&＃xff0c;磁头支架固定了一组磁头&＃xff0c;每个磁头负责存取一个磁盘的内容。磁头不能转动&＃xff0c;但是可以沿磁盘半径方向运动&＃xff08;实际是斜切向运动&＃xff09;&＃xff0c;每个磁头同一时刻也必须是同轴的&＃xff0c;即从正上方向下看&＃xff0c;所有磁头任何时候都是重叠的&＃xff08;不过目前已经有多磁头独立技术&＃xff0c;可不受此限制&＃xff09;。

图7是磁盘结构的示意图。

图7

盘片被划分成一系列同心环&＃xff0c;圆心是盘片中心&＃xff0c;每个同心环叫做一个磁道&＃xff0c;所有半径相同的磁道组成一个柱面。磁道被沿半径线划分成一个个小的段&＃xff0c;每个段叫做一个扇区&＃xff0c;每个扇区是磁盘的最小存储单元。为了简单起见&＃xff0c;我们下面假设磁盘只有一个盘片和一个磁头。

当需要从磁盘读取数据时&＃xff0c;系统会将数据逻辑地址传给磁盘&＃xff0c;磁盘的控制电路按照寻址逻辑将逻辑地址翻译成物理地址&＃xff0c;即确定要读的数据在哪个磁道&＃xff0c;哪个扇区。为了读取这个扇区的数据&＃xff0c;需要将磁头放到这个扇区上方&＃xff0c;为了实现这一点&＃xff0c;磁头需要移动对准相应磁道&＃xff0c;这个过程叫做寻道&＃xff0c;所耗费时间叫做寻道时间&＃xff0c;然后磁盘旋转将目标扇区旋转到磁头下&＃xff0c;这个过程耗费的时间叫做旋转时间。

局部性原理与磁盘预读

由于存储介质的特性&＃xff0c;磁盘本身存取就比主存慢很多&＃xff0c;再加上机械运动耗费&＃xff0c;磁盘的存取速度往往是主存的几百分分之一&＃xff0c;因此为了提高效率&＃xff0c;要尽量减少磁盘I/O。为了达到这个目的&＃xff0c;磁盘往往不是严格按需读取&＃xff0c;而是每次都会预读&＃xff0c;即使只需要一个字节&＃xff0c;磁盘也会从这个位置开始&＃xff0c;顺序向后读取一定长度的数据放入内存。这样做的理论依据是计算机科学中著名的局部性原理&＃xff1a;

当一个数据被用到时&＃xff0c;其附近的数据也通常会马上被使用。

程序运行期间所需要的数据通常比较集中。

由于磁盘顺序读取的效率很高&＃xff08;不需要寻道时间&＃xff0c;只需很少的旋转时间&＃xff09;&＃xff0c;因此对于具有局部性的程序来说&＃xff0c;预读可以提高I/O效率。

预读的长度一般为页&＃xff08;page&＃xff09;的整倍数。页是计算机管理存储器的逻辑块&＃xff0c;硬件及操作系统往往将主存和磁盘存储区分割为连续的大小相等的块&＃xff0c;每个存储块称为一页&＃xff08;在许多操作系统中&＃xff0c;页得大小通常为4k&＃xff09;&＃xff0c;主存和磁盘以页为单位交换数据。当程序要读取的数据不在主存中时&＃xff0c;会触发一个缺页异常&＃xff0c;此时系统会向磁盘发出读盘信号&＃xff0c;磁盘会找到数据的起始位置并向后连续读取一页或几页载入内存中&＃xff0c;然后异常返回&＃xff0c;程序继续运行。

B-/&＃43;Tree索引的性能分析

到这里终于可以分析B-/&＃43;Tree索引的性能了。

上文说过一般使用磁盘I/O次数评价索引结构的优劣。先从B-Tree分析&＃xff0c;根据B-Tree的定义&＃xff0c;可知检索一次最多需要访问h个节点。数据库系统的设计者巧妙利用了磁盘预读原理&＃xff0c;将一个节点的大小设为等于一个页&＃xff0c;这样每个节点只需要一次I/O就可以完全载入。为了达到这个目的&＃xff0c;在实际实现B-Tree还需要使用如下技巧&＃xff1a;

每次新建节点时&＃xff0c;直接申请一个页的空间&＃xff0c;这样就保证一个节点物理上也存储在一个页里&＃xff0c;加之计算机存储分配都是按页对齐的&＃xff0c;就实现了一个node只需一次I/O。

B-Tree中一次检索最多需要h-1次I/O&＃xff08;根节点常驻内存&＃xff09;&＃xff0c;渐进复杂度为。一般实际应用中&＃xff0c;出度d是非常大的数字&＃xff0c;通常超过100&＃xff0c;因此h非常小&＃xff08;通常不超过3&＃xff09;。

综上所述&＃xff0c;用B-Tree作为索引结构效率是非常高的。

而红黑树这种结构&＃xff0c;h明显要深的多。由于逻辑上很近的节点&＃xff08;父子&＃xff09;物理上可能很远&＃xff0c;无法利用局部性&＃xff0c;所以红黑树的I/O渐进复杂度也为O(h)&＃xff0c;效率明显比B-Tree差很多。

上文还说过&＃xff0c;B&＃43;Tree更适合外存索引&＃xff0c;原因和内节点出度d有关。从上面分析可以看到&＃xff0c;d越大索引的性能越好&＃xff0c;而出度的上限取决于节点内key和data的大小&＃xff1a;

floor表示向下取整。由于B&＃43;Tree内节点去掉了data域&＃xff0c;因此可以拥有更大的出度&＃xff0c;拥有更好的性能。

这一章从理论角度讨论了与索引相关的数据结构与算法问题&＃xff0c;下一章将讨论B&＃43;Tree是如何具体实现为MySQL中索引&＃xff0c;同时将结合MyISAM和InnDB存储引擎介绍非聚集索引和聚集索引两种不同的索引实现形式。

MySQL索引实现

在MySQL中&＃xff0c;索引属于存储引擎级别的概念&＃xff0c;不同存储引擎对索引的实现方式是不同的&＃xff0c;本文主要讨论MyISAM和InnoDB两个存储引擎的索引实现方式。

MyISAM索引实现

MyISAM引擎使用B&＃43;Tree作为索引结构&＃xff0c;叶节点的data域存放的是数据记录的地址。下图是MyISAM索引的原理图&＃xff1a;

图8

这里设表一共有三列&＃xff0c;假设我们以Col1为主键&＃xff0c;则图8是一个MyISAM表的主索引&＃xff08;Primary key&＃xff09;示意。可以看出MyISAM的索引文件仅仅保存数据记录的地址。在MyISAM中&＃xff0c;主索引和辅助索引&＃xff08;Secondary key&＃xff09;在结构上没有任何区别&＃xff0c;只是主索引要求key是唯一的&＃xff0c;而辅助索引的key可以重复。如果我们在Col2上建立一个辅助索引&＃xff0c;则此索引的结构如下图所示&＃xff1a;

图9

同样也是一颗B&＃43;Tree&＃xff0c;data域保存数据记录的地址。因此&＃xff0c;MyISAM中索引检索的算法为首先按照B&＃43;Tree搜索算法搜索索引&＃xff0c;如果指定的Key存在&＃xff0c;则取出其data域的值&＃xff0c;然后以data域的值为地址&＃xff0c;读取相应数据记录。

MyISAM的索引方式也叫做“非聚集”的&＃xff0c;之所以这么称呼是为了与InnoDB的聚集索引区分。

InnoDB索引实现

虽然InnoDB也使用B&＃43;Tree作为索引结构&＃xff0c;但具体实现方式却与MyISAM截然不同。

第一个重大区别是InnoDB的数据文件本身就是索引文件。从上文知道&＃xff0c;MyISAM索引文件和数据文件是分离的&＃xff0c;索引文件仅保存数据记录的地址。而在InnoDB中&＃xff0c;表数据文件本身就是按B&＃43;Tree组织的一个索引结构&＃xff0c;这棵树的叶节点data域保存了完整的数据记录。这个索引的key是数据表的主键&＃xff0c;因此InnoDB表数据文件本身就是主索引。

图10

图10是InnoDB主索引&＃xff08;同时也是数据文件&＃xff09;的示意图&＃xff0c;可以看到叶节点包含了完整的数据记录。这种索引叫做聚集索引。因为InnoDB的数据文件本身要按主键聚集&＃xff0c;所以InnoDB要求表必须有主键&＃xff08;MyISAM可以没有&＃xff09;&＃xff0c;如果没有显式指定&＃xff0c;则MySQL系统会自动选择一个可以唯一标识数据记录的列作为主键&＃xff0c;如果不存在这种列&＃xff0c;则MySQL自动为InnoDB表生成一个隐含字段作为主键&＃xff0c;这个字段长度为6个字节&＃xff0c;类型为长整形。

第二个与MyISAM索引的不同是InnoDB的辅助索引data域存储相应记录主键的值而不是地址。换句话说&＃xff0c;InnoDB的所有辅助索引都引用主键作为data域。例如&＃xff0c;图11为定义在Col3上的一个辅助索引&＃xff1a;

图11

这里以英文字符的ASCII码作为比较准则。聚集索引这种实现方式使得按主键的搜索十分高效&＃xff0c;但是辅助索引搜索需要检索两遍索引&＃xff1a;首先检索辅助索引获得主键&＃xff0c;然后用主键到主索引中检索获得记录。

了解不同存储引擎的索引实现方式对于正确使用和优化索引都非常有帮助&＃xff0c;例如知道了InnoDB的索引实现后&＃xff0c;就很容易明白为什么不建议使用过长的字段作为主键&＃xff0c;因为所有辅助索引都引用主索引&＃xff0c;过长的主索引会令辅助索引变得过大。再例如&＃xff0c;用非单调的字段作为主键在InnoDB中不是个好主意&＃xff0c;因为InnoDB数据文件本身是一颗B&＃43;Tree&＃xff0c;非单调的主键会造成在插入新记录时数据文件为了维持B&＃43;Tree的特性而频繁的分裂调整&＃xff0c;十分低效&＃xff0c;而使用自增字段作为主键则是一个很好的选择。

下一章将具体讨论这些与索引有关的优化策略。

索引使用策略及优化

MySQL的优化主要分为结构优化&＃xff08;Scheme optimization&＃xff09;和查询优化&＃xff08;Query optimization&＃xff09;。本章讨论的高性能索引策略主要属于结构优化范畴。本章的内容完全基于上文的理论基础&＃xff0c;实际上一旦理解了索引背后的机制&＃xff0c;那么选择高性能的策略就变成了纯粹的推理&＃xff0c;并且可以理解这些策略背后的逻辑。

示例数据库

为了讨论索引策略&＃xff0c;需要一个数据量不算小的数据库作为示例。本文选用MySQL官方文档中提供的示例数据库之一&＃xff1a;employees。这个数据库关系复杂度适中&＃xff0c;且数据量较大。下图是这个数据库的E-R关系图&＃xff08;引用自MySQL官方手册&＃xff09;&＃xff1a;

图12

MySQL官方文档中关于此数据库的页面为http://dev.mysql.com/doc/employee/en/employee.html。里面详细介绍了此数据库&＃xff0c;并提供了下载地址和导入方法&＃xff0c;如果有兴趣导入此数据库到自己的MySQL可以参考文中内容。

最左前缀原理与相关优化

高效使用索引的首要条件是知道什么样的查询会使用到索引&＃xff0c;这个问题和B&＃43;Tree中的“最左前缀原理”有关&＃xff0c;下面通过例子说明最左前缀原理。

这里先说一下联合索引的概念。在上文中&＃xff0c;我们都是假设索引只引用了单个的列&＃xff0c;实际上&＃xff0c;MySQL中的索引可以以一定顺序引用多个列&＃xff0c;这种索引叫做联合索引&＃xff0c;一般的&＃xff0c;一个联合索引是一个有序元组&＃xff0c;其中各个元素均为数据表的一列&＃xff0c;实际上要严格定义索引需要用到关系代数&＃xff0c;但是这里我不想讨论太多关系代数的话题&＃xff0c;因为那样会显得很枯燥&＃xff0c;所以这里就不再做严格定义。另外&＃xff0c;单列索引可以看成联合索引元素数为1的特例。

以employees.titles表为例&＃xff0c;下面先查看其上都有哪些索引&＃xff1a;

从结果中可以到titles表的主索引为&＃xff0c;还有一个辅助索引。为了避免多个索引使事情变复杂&＃xff08;MySQL的SQL优化器在多索引时行为比较复杂&＃xff09;&＃xff0c;这里我们将辅助索引drop掉&＃xff1a;

ALTER TABLE employees.titles DROP INDEX emp_no;

这样就可以专心分析索引PRIMARY的行为了。

情况一&＃xff1a;全列匹配。

很明显&＃xff0c;当按照索引中所有列进行精确匹配&＃xff08;这里精确匹配指“&＃61;”或“IN”匹配&＃xff09;时&＃xff0c;索引可以被用到。这里有一点需要注意&＃xff0c;理论上索引对顺序是敏感的&＃xff0c;但是由于MySQL的查询优化器会自动调整where子句的条件顺序以使用适合的索引&＃xff0c;例如我们将where中的条件顺序颠倒&＃xff1a;

效果是一样的。

情况二&＃xff1a;最左前缀匹配。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no&＃61;&＃39;10001&＃39;; &＃43;----&＃43;-------------&＃43;--------&＃43;------&＃43;---------------&＃43;---------&＃43;---------&＃43;-------&＃43;------&＃43;-------&＃43; | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | &＃43;----&＃43;-------------&＃43;--------&＃43;------&＃43;---------------&＃43;---------&＃43;---------&＃43;-------&＃43;------&＃43;-------&＃43; | 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | | &＃43;----&＃43;-------------&＃43;--------&＃43;------&＃43;---------------&＃43;---------&＃43;---------&＃43;-------&＃43;------&＃43;-------&＃43;

当查询条件精确匹配索引的左边连续一个或几个列时&＃xff0c;如或&＃xff0c;所以可以被用到&＃xff0c;但是只能用到一部分&＃xff0c;即条件所组成的最左前缀。上面的查询从分析结果看用到了PRIMARY索引&＃xff0c;但是key_len为4&＃xff0c;说明只用到了索引的第一列前缀。

情况三&＃xff1a;查询条件用到了索引中列的精确匹配&＃xff0c;但是中间某个条件未提供。

此时索引使用情况和情况二相同&＃xff0c;因为title未提供&＃xff0c;所以查询只用到了索引的第一列&＃xff0c;而后面的from_date虽然也在索引中&＃xff0c;但是由于title不存在而无法和左前缀连接&＃xff0c;因此需要对结果进行扫描过滤from_date&＃xff08;这里由于emp_no唯一&＃xff0c;所以不存在扫描&＃xff09;。如果想让from_date也使用索引而不是where过滤&＃xff0c;可以增加一个辅助索引&＃xff0c;此时上面的查询会使用这个索引。除此之外&＃xff0c;还可以使用一种称之为“隔离列”的优化方法&＃xff0c;将emp_no与from_date之间的“坑”填上。

首先我们看下title一共有几种不同的值&＃xff1a;

只有7种。在这种成为“坑”的列值比较少的情况下&＃xff0c;可以考虑用“IN”来填补这个“坑”从而形成最左前缀&＃xff1a;

这次key_len为59&＃xff0c;说明索引被用全了&＃xff0c;但是从type和rows看出IN实际上执行了一个range查询&＃xff0c;这里检查了7个key。看下两种查询的性能比较&＃xff1a;

SHOW PROFILES; &＃43;----------&＃43;------------&＃43;-------------------------------------------------------------------------------&＃43; | Query_ID | Duration | Query | &＃43;----------&＃43;------------&＃43;-------------------------------------------------------------------------------&＃43; | 10 | 0.00058000 | SELECT * FROM employees.titles WHERE emp_no&＃61;&＃39;10001&＃39; AND from_date&＃61;&＃39;1986-06-26&＃39;| | 11 | 0.00052500 | SELECT * FROM employees.titles WHERE emp_no&＃61;&＃39;10001&＃39; AND title IN ... | &＃43;----------&＃43;------------&＃43;-------------------------------------------------------------------------------&＃43;

“填坑”后性能提升了一点。如果经过emp_no筛选后余下很多数据&＃xff0c;则后者性能优势会更加明显。当然&＃xff0c;如果title的值很多&＃xff0c;用填坑就不合适了&＃xff0c;必须建立辅助索引。

情况四&＃xff1a;查询条件没有指定索引第一列。

由于不是最左前缀&＃xff0c;索引这样的查询显然用不到索引。

情况五&＃xff1a;匹配某列的前缀字符串。

此时可以用到索引&＃xff0c;但是如果通配符不是只出现在末尾&＃xff0c;则无法使用索引。&＃xff08;原文表述有误&＃xff0c;如果通配符%不出现在开头&＃xff0c;则可以用到索引&＃xff0c;但根据具体情况不同可能只会用其中一个前缀&＃xff09;

情况六&＃xff1a;范围查询。

范围列可以用到索引&＃xff08;必须是最左前缀&＃xff09;&＃xff0c;但是范围列后面的列无法用到索引。同时&＃xff0c;索引最多用于一个范围列&＃xff0c;因此如果查询条件中有两个范围列则无法全用到索引。

可以看到索引对第二个范围索引无能为力。这里特别要说明MySQL一个有意思的地方&＃xff0c;那就是仅用explain可能无法区分范围索引和多值匹配&＃xff0c;因为在type中这两者都显示为range。同时&＃xff0c;用了“between”并不意味着就是范围查询&＃xff0c;例如下面的查询&＃xff1a;

看起来是用了两个范围查询&＃xff0c;但作用于emp_no上的“BETWEEN”实际上相当于“IN”&＃xff0c;也就是说emp_no实际是多值精确匹配。可以看到这个查询用到了索引全部三个列。因此在MySQL中要谨慎地区分多值匹配和范围匹配&＃xff0c;否则会对MySQL的行为产生困惑。

情况七&＃xff1a;查询条件中含有函数或表达式。

很不幸&＃xff0c;如果查询条件中含有函数或表达式&＃xff0c;则MySQL不会为这列使用索引&＃xff08;虽然某些在数学意义上可以使用&＃xff09;。例如&＃xff1a;

虽然这个查询和情况五中功能相同&＃xff0c;但是由于使用了函数left&＃xff0c;则无法为title列应用索引&＃xff0c;而情况五中用LIKE则可以。再如&＃xff1a;

显然这个查询等价于查询emp_no为10001的函数&＃xff0c;但是由于查询条件是一个表达式&＃xff0c;MySQL无法为其使用索引。看来MySQL还没有智能到自动优化常量表达式的程度&＃xff0c;因此在写查询语句时尽量避免表达式出现在查询中&＃xff0c;而是先手工私下代数运算&＃xff0c;转换为无表达式的查询语句。

索引选择性与前缀索引

既然索引可以加快查询速度&＃xff0c;那么是不是只要是查询语句需要&＃xff0c;就建上索引&＃xff1f;答案是否定的。因为索引虽然加快了查询速度&＃xff0c;但索引也是有代价的&＃xff1a;索引文件本身要消耗存储空间&＃xff0c;同时索引会加重插入、删除和修改记录时的负担&＃xff0c;另外&＃xff0c;MySQL在运行时也要消耗资源维护索引&＃xff0c;因此索引并不是越多越好。一般两种情况下不建议建索引。

第一种情况是表记录比较少&＃xff0c;例如一两千条甚至只有几百条记录的表&＃xff0c;没必要建索引&＃xff0c;让查询做全表扫描就好了。至于多少条记录才算多&＃xff0c;这个个人有个人的看法&＃xff0c;我个人的经验是以2000作为分界线&＃xff0c;记录数不超过 2000可以考虑不建索引&＃xff0c;超过2000条可以酌情考虑索引。

另一种不建议建索引的情况是索引的选择性较低。所谓索引的选择性&＃xff08;Selectivity&＃xff09;&＃xff0c;是指不重复的索引值&＃xff08;也叫基数&＃xff0c;Cardinality&＃xff09;与表记录数&＃xff08;#T&＃xff09;的比值&＃xff1a;

Index Selectivity &＃61; Cardinality / #T

显然选择性的取值范围为(0, 1]&＃xff0c;选择性越高的索引价值越大&＃xff0c;这是由B&＃43;Tree的性质决定的。例如&＃xff0c;上文用到的employees.titles表&＃xff0c;如果title字段经常被单独查询&＃xff0c;是否需要建索引&＃xff0c;我们看一下它的选择性&＃xff1a;

SELECT count(DISTINCT(title))/count(*) AS Selectivity FROM employees.titles; &＃43;-------------&＃43; | Selectivity | &＃43;-------------&＃43; | 0.0000 | &＃43;-------------&＃43;

title的选择性不足0.0001&＃xff08;精确值为0.00001579&＃xff09;&＃xff0c;所以实在没有什么必要为其单独建索引。

有一种与索引选择性有关的索引优化策略叫做前缀索引&＃xff0c;就是用列的前缀代替整个列作为索引key&＃xff0c;当前缀长度合适时&＃xff0c;可以做到既使得前缀索引的选择性接近全列索引&＃xff0c;同时因为索引key变短而减少了索引文件的大小和维护开销。下面以employees.employees表为例介绍前缀索引的选择和使用。

从图12可以看到employees表只有一个索引&＃xff0c;那么如果我们想按名字搜索一个人&＃xff0c;就只能全表扫描了&＃xff1a;

如果频繁按名字搜索员工&＃xff0c;这样显然效率很低&＃xff0c;因此我们可以考虑建索引。有两种选择&＃xff0c;建或&＃xff0c;看下两个索引的选择性&＃xff1a;

SELECT count(DISTINCT(first_name))/count(*) AS Selectivity FROM employees.employees; &＃43;-------------&＃43; | Selectivity | &＃43;-------------&＃43; | 0.0042 | &＃43;-------------&＃43; SELECT count(DISTINCT(concat(first_name, last_name)))/count(*) AS Selectivity FROM employees.employees; &＃43;-------------&＃43; | Selectivity | &＃43;-------------&＃43; | 0.9313 | &＃43;-------------&＃43;

显然选择性太低&＃xff0c;选择性很好&＃xff0c;但是first_name和last_name加起来长度为30&＃xff0c;有没有兼顾长度和选择性的办法&＃xff1f;可以考虑用first_name和last_name的前几个字符建立索引&＃xff0c;例如&＃xff0c;看看其选择性&＃xff1a;

SELECT count(DISTINCT(concat(first_name, left(last_name, 3))))/count(*) AS Selectivity FROM employees.employees; &＃43;-------------&＃43; | Selectivity | &＃43;-------------&＃43; | 0.7879 | &＃43;-------------&＃43;

选择性还不错&＃xff0c;但离0.9313还是有点距离&＃xff0c;那么把last_name前缀加到4&＃xff1a;

SELECT count(DISTINCT(concat(first_name, left(last_name, 4))))/count(*) AS Selectivity FROM employees.employees; &＃43;-------------&＃43; | Selectivity | &＃43;-------------&＃43; | 0.9007 | &＃43;-------------&＃43;

这时选择性已经很理想了&＃xff0c;而这个索引的长度只有18&＃xff0c;比短了接近一半&＃xff0c;我们把这个前缀索引建上&＃xff1a;

ALTER TABLE employees.employees ADD INDEX &＃96;first_name_last_name4&＃96; (first_name, last_name(4));

此时再执行一遍按名字查询&＃xff0c;比较分析一下与建索引前的结果&＃xff1a;

SHOW PROFILES; &＃43;----------&＃43;------------&＃43;---------------------------------------------------------------------------------&＃43; | Query_ID | Duration | Query | &＃43;----------&＃43;------------&＃43;---------------------------------------------------------------------------------&＃43; | 87 | 0.11941700 | SELECT * FROM employees.employees WHERE first_name&＃61;&＃39;Eric&＃39; AND last_name&＃61;&＃39;Anido&＃39; | | 90 | 0.00092400 | SELECT * FROM employees.employees WHERE first_name&＃61;&＃39;Eric&＃39; AND last_name&＃61;&＃39;Anido&＃39; | &＃43;----------&＃43;------------&＃43;---------------------------------------------------------------------------------&＃43;

性能的提升是显著的&＃xff0c;查询速度提高了120多倍。

前缀索引兼顾索引大小和查询速度&＃xff0c;但是其缺点是不能用于ORDER BY和GROUP BY操作&＃xff0c;也不能用于Covering index&＃xff08;即当索引本身包含查询所需全部数据时&＃xff0c;不再访问数据文件本身&＃xff09;。

InnoDB的主键选择与插入优化

在使用InnoDB存储引擎时&＃xff0c;如果没有特别的需要&＃xff0c;请永远使用一个与业务无关的自增字段作为主键。

经常看到有帖子或博客讨论主键选择问题&＃xff0c;有人建议使用业务无关的自增主键&＃xff0c;有人觉得没有必要&＃xff0c;完全可以使用如学号或身份证号这种唯一字段作为主键。不论支持哪种论点&＃xff0c;大多数论据都是业务层面的。如果从数据库索引优化角度看&＃xff0c;使用InnoDB引擎而不使用自增主键绝对是一个糟糕的主意。

上文讨论过InnoDB的索引实现&＃xff0c;InnoDB使用聚集索引&＃xff0c;数据记录本身被存于主索引&＃xff08;一颗B&＃43;Tree&＃xff09;的叶子节点上。这就要求同一个叶子节点内&＃xff08;大小为一个内存页或磁盘页&＃xff09;的各条数据记录按主键顺序存放&＃xff0c;因此每当有一条新的记录插入时&＃xff0c;MySQL会根据其主键将其插入适当的节点和位置&＃xff0c;如果页面达到装载因子&＃xff08;InnoDB默认为15/16&＃xff09;&＃xff0c;则开辟一个新的页&＃xff08;节点&＃xff09;。

如果表使用自增主键&＃xff0c;那么每次插入新的记录&＃xff0c;记录就会顺序添加到当前索引节点的后续位置&＃xff0c;当一页写满&＃xff0c;就会自动开辟一个新的页。如下图所示&＃xff1a;

图13

这样就会形成一个紧凑的索引结构&＃xff0c;近似顺序填满。由于每次插入时也不需要移动已有数据&＃xff0c;因此效率很高&＃xff0c;也不会增加很多开销在维护索引上。

如果使用非自增主键&＃xff08;如果身份证号或学号等&＃xff09;&＃xff0c;由于每次插入主键的值近似于随机&＃xff0c;因此每次新纪录都要被插到现有索引页得中间某个位置&＃xff1a;

图14

此时MySQL不得不为了将新记录插到合适位置而移动数据&＃xff0c;甚至目标页面可能已经被回写到磁盘上而从缓存中清掉&＃xff0c;此时又要从磁盘上读回来&＃xff0c;这增加了很多开销&＃xff0c;同时频繁的移动、分页操作造成了大量的碎片&＃xff0c;得到了不够紧凑的索引结构&＃xff0c;后续不得不通过OPTIMIZE TABLE来重建表并优化填充页面。

因此&＃xff0c;只要可以&＃xff0c;请尽量在InnoDB上采用自增字段做主键。