NoSQL介绍
什么是NoSQL
- 非关系型数据库就是NoSQL,关系型数据库代表MySQL
- 对于关系型数据库来说,是需要把数据存储到库、表、行、字段里,查询的时候根据条件一行一行地去匹配,当量非常大的时候就很耗费时间和资源,尤其是数据是需要从磁盘里去检索
- NoSQL数据库存储原理非常简单(典型的数据类型为k-v),不存在繁杂的关系链,比如mysql查询的时候,需要找到对应的库、表(通常是多个表)以及字段
- NoSQL数据可以存储在内存里,查询速度非常快
- NoSQL在性能表现上虽然能优于关系型数据库,但是它并不能完全替代关系型数据库
- NoSQL因为没有复杂的数据结构,扩展非常容易,支持分布式
常见NoSQL数据库
- k-v形式的:memcached、redis适合储存用户信息,比如会话、配置文件、参数、购物车等等。这些信息一般都和ID(键)挂钩,这种情景下键值数据库是个很好的选择。
- 文档数据库:mongodb将数据以文档的形式储存。每个文档都是一系列数据项的集合。每个数据项都有一个名称与对应的值,值既可以是简单的数据类型,如字符串,数字和日期等;也可以是复杂的类型,如有序列和关联对象。数据存储的最小单位是文档,同一个表中存储的文档属性可以是不同的,数据可以使用XML、JSON或者JSONB等多种形式存储。
- 列存储HBase
- 图 Neo4J、Infinite Graph、OrientDB
Memcached介绍
- Memcached是国外社区网站LiveJournal团队开发,目的是为了通过缓存数据库查询结果,减少数据库访问次数,从而提高动态web站点性能。
- 官方站点http://www.memcached.org/
- 数据结构简单(k-v),数据存放在内存里
- 多线程
- 基于c/s架构,协议简单
- 基于libevent的事件处理
- 自主内存存储处理(slab allowcation)
- 数据过期方式:Lazy Expiration 和 LRU
Slab allowcation
将分配的内存分割成各种尺寸的块(chunk),并把尺寸相同的块分成组(chunk的集合),每个chunk集合被称为slab
Memcached的内存分配以Page为单位,Page默认值为1M,可以在启动时通过-I(大i)参数来指定
Slab是由多个Page组成的,Page按照指定大小切割成多个chunk。
Growth factor
Memcached在启动时通过-f选项可以指定Growth Factor因子。该值控制chunk大小的差异。默认值为1.25
通过memcached-tool命令查看指定Memcached实例的不同slab状态,可以看到各item所占大小(chunk大小)差距为1.25
命令:# memcached-tool 127.0.0.1:11211 display
Memcached的数据过期方式
Lazy Expiration
Memcached内部不会监视记录是否过期,而是在get时查看记录的时间戳,检查记录是否过期。这种技术被称为lazy(惰性)expiration.因此,Memcached不会在过期监视上耗费cpu时间。
LRU
Memcached会优先使用已超时的记录的空间,但即使如此,也会发生追加新记录时空间不足的情况,此时就要使用名为Least Recently Used (LRU)机制来分配空间。顾名思义,这是删除"最近最少使用"的记录机制。因此,当内存空间不足时(无法从slab class获取到新的空间时),就从最近未被使用的记录中搜索,并将其空间分配给新的记录。从缓存的实用角度来看,该模型十分理想。
memcached的安装
yum install memcached libmemcached libevent -y
memcached的启动
systemctl start memcached
memcached服务配置参数文件内容
vim /etc/sysconfig/memcached
PORT="11211"
USER="memcached"
MAXCONN="1024"
CACHESIZE="64"
OPTIONS=""
查看Memcached运行状态
memcached-tool 127.0.0.1:11211 stats
echo stats|nc 127.0.0.1 11211 //需要安装nc软件包
memstat --servers=127.0.0.1:11211 //需要安装libmemcached
memcached命令行
安装telnet
yum install telnet -y
telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
set name 0 0 8
zhangsan
STORED
add name1 0 0 4
lisi
STORED
replace name1 0 0 4
wuwu
STORED
delete name1
DELETED
get name
VALUE name 0 8
zhangsan
END
Memcached语法规则
- \r\n\r\n
- : set,add,replace,delete,get
- set表示按照相应的存储数据,没有的时候增加,有则覆盖
- add表示按照相应的添加该数据,但是如果该已经存在则会操作失败
- replace表示按照相应的替换数据,但是如果该不存在则操作失败
*客户端需要保存数据的key - 是一个16位的无符号的整数(以十进制的方式表示)。该标志将和需要存储的数据一起存储,并在客户端get数据时返回。客户端可以将此标志用做特殊用途,此标志对服务器来说不是透明的。
- 为过期时间。0表示不过期(但可被服务器算法:LRU等替换)。如果非0(unix时间或者距离此时的秒数),当过期后,服务器可以保证用户得不到该数据(以服务器时间为标准)。
- 需要存储的字节数,当用户希望存储空数据时可以为0
- 需要存储的内容,输入完成后,最后客户端需要加上\r\n(直接点Enter)作为结束标志。
Memcached数据导出和导入
创建一些数据
telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
set name 0 0 8
zhangsan
STORED
set age 0 0 2
18
STORED
get name
VALUE name 0 8
zhangsan
END
get age
VALUE age 0 2
18
END
备份数据
memcached-tool 127.0.0.1:11211 dump > zhangsan.txt
清空memcached中的数据
systemctl restart memcached.service
导入数据
nc 127.0.0.1 11211 注意:导出的数据是带有一个时间戳的,这个时间戳就是该条数据过期的时间点,如果当前时间已经超过该时间戳,那么是导入不进去的
PHP连接Memcached
安装php的memcache扩展
cd /usr/local/src/
wget http://www.apelearn.com/bbs/data/attachment/forum/memcache-2.2.3.tgz
tar zxvf memcache-2.2.3.tgz
yum install autoconf -y
/usr/local/php-fpm/bin/phpize
./configure --with-php-config=/usr/local/php-fpm/bin/php-config
make && make install
vim /usr/local/php-fpm/etc/php.ini //增加extension=memcache.so
/usr/local/php-fpm/bin/php -m|grep memcache
下载一个php的测试文件
curl www.apelearn.com/study_v2/.memcache.txt > 1.php 2>/dev/null
cat 1.php
//连接Memcache Memcache
$mem = new Memcache;
$mem->connect("localhost", 11211);
//保存数据
$mem->set('key1', 'This is first value', 0, 60);
$val = $mem->get('key1');
echo "Get key1 value: " . $val ."
";
//替换数据
$mem->replace('key1', 'This is replace value', 0, 60);
$val = $mem->get('key1');
echo "Get key1 value: " . $val . "
";
//保存数组数据
$arr = array('aaa', 'bbb', 'ccc', 'ddd');
$mem->set('key2', $arr, 0, 60);
$val2 = $mem->get('key2');
echo "Get key2 value: ";
print_r($val2);
echo "
";
//删除数据
$mem->delete('key1');
$val = $mem->get('key1');
echo "Get key1 value: " . $val . "
";
//清除所有数据
$mem->flush();
$val2 = $mem->get('key2');
echo "Get key2 value: ";
print_r($val2);
echo "
";
//关闭连接
$mem->close();
?>
/usr/local/php-fpm/bin/php 1.php
Get key1 value: This is first value
Get key1 value: This is replace value
Get key2 value: Array
([0] => aaa[1] => bbb[2] => ccc[3] => ddd
)
Get key1 value:
Get key2 value:
Memcached中存储session
使用场景LAMP/LNMP环境下实现
编辑php.ini添加两行
session.save_handler = memcache
session.save_path = "tcp://192.168.221.20:11211"
或者httpd.conf中对应的虚拟主机中添加
php_value session.save_handler "memcache"
php_value session.save_path "tcp://192.168.221.20:11211"
或者php-fpm.conf对应的pool中添加
php_value[session.save_handler] = memcache
php_value[session.save_path] = "tcp://192.168.221.20:11211"
去nginx配置文件中定义的网站的根目录中写一个存session的php脚本
vim /data/wwwroot/default/1.php
session_start();
if (!isset($_SESSION['TEST'])) {
$_SESSION['TEST'] = time();
}
$_SESSION['TEST3'] = time();
print $_SESSION['TEST'];
print "
";
print $_SESSION['TEST3'];
print "
";
print session_id();
?>
访问1.php
curl localhost/1.php
浏览器访问
默认 session是保存在/tmp/sess*这样的文件中
修改php.ini文件
vim /usr/local/php-fpm/etc/php.ini
session.save_handler = files //注释掉这行,增加以下两行
session.save_handler = memcache
session.save_path = "tcp://192.168.221.20:11211"
/etc/init.d/php-fpm restart
删除/tmp/sess*文件
在本地用curl或浏览器访问1.php
curl localhost/1.php
1520602324
1520602324
iu85psci2iqgdfjhudg32ck5m0
从memcached服务器中导出,文件名为sess.data,查看sess.data
memcached-tool 127.0.0.1:11211 dump > sess.data
cat sess.data
add iu85psci2iqgdfjhudg32ck5m0 0 1520603764 37
TEST|i:1520602324;TEST3|i:1520602324;
add 2a32ffcluqgcg73vldpmdeejm4 0 1520603813 37
TEST|i:1520602373;TEST3|i:1520602373;
去memcached服务器中查看数据
[root@apenglinux-002 ~]# nc 127.0.0.1 11211
get iu85psci2iqgdfjhudg32ck5m0
VALUE iu85psci2iqgdfjhudg32ck5m0 0 37
TEST|i:1520602324;TEST3|i:1520602324;
END
get 2a32ffcluqgcg73vldpmdeejm4
VALUE 2a32ffcluqgcg73vldpmdeejm4 0 37
TEST|i:1520602373;TEST3|i:1520602373;
END