memcached在大负载高并发网站上的应用(1)简介

    大家可能对memcached这种产品早有了解&＃xff0c;或者已经应用在自己的网站中了&＃xff0c;但是也有一些朋友从来都没有听说过或者使用过。
这都没什么关系&＃xff0c;本文旨在从各个角度综合的介绍这种产品&＃xff0c;尽量深入浅出&＃xff0c;如果能对您现在或以后的工作有所帮助&＃xff0c;笔者将感到无比荣幸。

我要介绍的内容包括以下几个方面&＃xff1a;
1、memcached的简介
2、memcached的应用场景
3、memcached的安装
4、memcached的使用
5、memcached的部署架构
6、memcached的局限性
7、memcached的改进

一、简介
  1.1 背景
    memcached是一个高性能、分布式的内存对象缓存系统。
    memcached广泛应用在大负载高并发的网站上&＃xff0c;是一种非常成熟的产品&＃xff08;称为一项技术也未尝不可&＃xff09;。像facebook&＃xff0c;youtube,yahoo,sina&＃xff0c;sohu&＃xff0c;netease&＃xff0c;豆瓣等网站均或多或少使用了该项产品。memcached在以用户为中心的网站上&＃xff0c;表现尤其突出&＃xff0c;例如sns,blog等web2.0应用的站点。这些站点一般来讲&＃xff0c;特别注重用户体验&＃xff0c;用户对服务器的响应速度要求很高&＃xff0c;用户数据相对比较复杂、关连度比较高&＃xff0c;需要经常对数据库进行更新和检索。
    memcache是danga.com几个开源项目中的一个&＃xff0c;最初是专门为livejournal.com站点而开发的&＃xff0c;当时这个站点日pv达到了千万级&＃xff0c;在使用过程中出现了很多的与负载和响应速度相关的问题&＃xff0c;于是开发了这个项目&＃xff0c;旨在改善网站当时的困境。memcache可以应对任意多个连接&＃xff0c;使用非阻塞的网络IO。它的使用非常简单和方便&＃xff0c;最常用的功能不超过5个方法。

memcache官方网站&＃xff1a;http://www.danga.com/memcached。

  1.2 特点
    1、高性能
     无论哪一种数据库dbms(mysql,oracle,mssql,db2,Postgres等等)&＃xff0c;再怎么优化&＃xff0c;最终也避不开与慢速的存储介质&＃xff08;硬盘、磁带&＃xff09;进行数据交换&＃xff0c;但往往一旦涉及到了存储介质的io操作&＃xff0c;存取性能就会急剧下降。memcached&＃xff0c;顾名思义&＃xff0c;它的全部操作自始至终都是在内存中进行的&＃xff0c;所以存取数据的效率非常高。
     当然&＃xff0c;通常情况下&＃xff0c;大型网站对于数据库的操作都会做优化。通常的手段有两种&＃xff1a;
     a、读写数据分离&＃xff0c;采用主/辅库的方式&＃xff0c;来分散数据库的压力&＃xff0c;提高查询速度。
     b、按照业务特点横向或者纵向分割数据库。简单来讲&＃xff0c;就是大库变小库&＃xff0c;大表变小表&＃xff0c;来提高数据库访问的效率。一般来讲&＃xff0c;一个数据库具有很多表或者一张表有N多的记录&＃xff0c;都会明显的降低数据库的服务能力&＃xff0c;比如mysql数据库单表记录达到2000万条左右&＃xff08;笔者以前的工作经验&＃xff09;&＃xff0c;性能会下降到几乎无法忍受。关于数据库的设计和优化&＃xff0c;我们以后可以单独做一个专题&＃xff0c;这里不做太多的研究。
     数据库会在以下情况下会出现访问瓶颈&＃xff1a;
     a、事务操作
     企业级的数据库&＃xff08;比如mysql的innodb模式&＃xff09;都支持事务操作。由于事务具有原子性&＃xff0c;事务中涉及的数据表在运行过程中将会加锁。在这种情况下&＃xff0c;访问这些表的数据会出现延迟。
     b、数据更新
     数据库中任何的表在数据更新过程中&＃xff0c;同样会被加锁。在这种情况下&＃xff0c;也会出现上面同样的结果。
     memcached的操作基本上就不会存在以上情况&＃xff08;实际上也有加锁的情况&＃xff0c;在后面再详细探讨&＃xff09;&＃xff0c;所以它的性能非常高。官方网站上对它的正式评价是very fast。事实上也是如此&＃xff0c;相关的实验室测试对比结果&＃xff0c;大家可以到网上搜索一下&＃xff0c;比比皆是。

    2、分布式

    所谓分布式系统比较专业的解释是&＃xff1a;
    一种计算机硬件的配置方式和相应的功能配置方式。它是一种多处理器的计算机系统&＃xff0c;各处理器通过互连网络构成统一的系统。系统采用分布式计算结构&＃xff0c;即把原来系统内中央处理器处理的任务分散给相应的处理器&＃xff0c;实现不同功能的各个处理器相互协调&＃xff0c;共享系统的外设与软件。这样就加快了系统的处理速度&＃xff0c;简化了主机的逻辑结构。

memcache的分布式特性主要表现在两个方面&＃xff1a;

a.memcache客户端mc和服务器端ms可以单独安装在任何独立server上。
  当然部署在同一台server上也没问题&＃xff0c;甚至于一台机器上可以部署n个memcached。
b.memcache服务器端ms可以安装在任意数量的server上&＃xff0c;提供并行存储和计算的能力。
  这是分布式特性的本质体现。ms可以形成任意多台server组成的集群&＃xff0c;为mc提供服务。

  1.3 用途
    1、提高系统的并发能力
    2、减轻数据库的负担
    这两种用途其实非常容易理解。由于memcached高性能&＃xff0c;所以可以同时服务于更多的连接&＃xff0c;大大提高了系统的并发处理的能力。另外&＃xff0c;memcached通常部署在业务逻辑层&＃xff08;前台应用&＃xff09;和存储层&＃xff08;主指数据库&＃xff09;之间&＃xff0c;作为数据库和前台应用的数据缓冲&＃xff0c;因此可以快速的响应前端的请求&＃xff0c;减少对数据库的访问。
    以下是一个memcached部署的逻辑示意图&＃xff0c;其中mc是指memcached client,ms是指memcached server&＃xff1a;

  1.4 工作机制

    Memcached 是以守护程序方式运行于一个或多个服务器中&＃xff0c;随时接受客户端的连接操作&＃xff0c;客户端可以由各种语言编写&＃xff0c;目前已知的客户端 API 包括 Perl/PHP/Python/Ruby/Java/C#/C 等等。客户端首先与 Memcached 服务建立连接&＃xff0c;然后存取对象。每个被存取的对象都有一个唯一的标识符 key&＃xff0c;存取操作均通过这个 key 进行&＃xff0c;保存的时候还可以设置有效期。保存在 Memcached 中的对象实际上是放置在内存中的&＃xff0c;而不是在硬盘上。Memcached 进程运行之后&＃xff0c;会预申请一块较大的内存空间&＃xff0c;自己进行管理&＃xff0c;用完之后再申请一块&＃xff0c;而不是每次需要的时候去向操作系统申请。Memcached将对象保存在一个巨大的Hash表中&＃xff0c;它还使用NewHash算法来管理Hash表&＃xff0c;从而获得进一步的性能提升。所以当分配给Memcached的内存足够大的时候&＃xff0c; Memcached的时间消耗基本上只是网络Socket连接了。
    Memcached按照LRU方式调度数据。LRU是Least Recently Used的缩写&＃xff0c;即最近最少使用页面置换算法&＃xff0c;是为虚拟页式存储管理服务的。LRU算法在实际的工作环境中会与操作系统相关&＃xff0c;比如32位的操作系统&＃xff0c;最大的寻址空间是4G,如果当前内存的使用超过了这个限度&＃xff0c;将被调出内存&＃xff0c;内存中总维持最新最常用的数据。64位操作系统大大扩展了内存的寻址能力&＃xff0c;所以现在很memcached服务都是运行在64位系统上。