nginx代理缓存

nginx proxy 缓存简介

转自&＃xff1a;https://mp.weixin.qq.com/s/DRTWuwiB6gdrRVEP6UWBAg

nginx 将用户已经访问过的内容保留在 nginx 服务器本地&＃xff0c;这样在一段时间内用户再次访问该数据&＃xff0c;就不需要 nginx 服务器对后端服务器发请求&＃xff0c;减少 nginx 和后端服务器之间的网络阻塞&＃xff0c;减小数据延迟&＃xff0c;提高用户访问速度。即使后端服务器宕机&＃xff0c;nginx 的 cache 也会返回给客户端请求&＃xff0c;不至于服务不可用。 proxy cache 是把请求的链接用 md5 编码 hash 后保存&＃xff0c;所以它可以支持任意链接&＃xff0c;同时也支持 404/301/302 这样的非 200 状态。

nginx proxy cache 缓存配置

配置样例

proxy_cache_path /home/work/nginx/proxy_cache levels&＃61;1:2 keys_zone&＃61;cache:2g inactive&＃61;2d max_size&＃61;8g;
location ~ ^/api {proxy_buffering on;proxy_upstream_tries 2;proxy_cache cache;proxy_cache_valid 200 304 15m;proxy_cache_key $host$uri?Accept-Encoding&＃61;$http_accept_encoding;proxy_ignore_headers "Cache-Control" "Expires" ;
}

配置项说明
proxy_cache_path&＃xff1a;本地路径&＃xff0c;缓存文件存放路径。
levels&＃xff1a;cache 目录的层次&＃xff0c;使用 2 级目录来存储缓存文件。
keys_zone&＃xff1a; 在共享内存中设置一块存储区域来存放缓存的 key 和 metadata&＃xff08;类似使用次数&＃xff09;&＃xff0c;这样 nginx 可以快速判断一个 request 是否命中或者未命中缓存&＃xff0c;1m 可以存储 8000 个 key&＃xff0c;10m 可以存储 80000 个 key。
inactive : 未被访问文件在缓存中保留时间&＃xff0c;本配置中如果 2 天未被访问&＃xff0c;缓存控制程序会删掉文件&＃xff0c;默认为 10 分钟。
max_size : 最大 cache 空间&＃xff0c;如果不指定&＃xff0c;会使用掉所有 disk space&＃xff0c;当达到配额后&＃xff0c;会删除最少使用的 cache 文件。
proxy_cache : 启用 proxy cache&＃xff0c;指定 key_zone。
proxy_cache_valid&＃xff1a; 设置不同相应码的缓存时间&＃xff0c;当不指定响应码的时候&＃xff0c;例如 proxy_cache_valid 5m; 只对响应码为 200&＃xff0c;301&＃xff0c;302 的访问请求资源设置缓存时间。
proxy_cache_key&＃xff1a;若某个接口返回的值基本不变&＃xff0c;或者是特定类别的&＃xff0c;就可以根据请求的 url 的参数&＃xff0c;自定义 cache key。
proxy_ignore_headers&＃xff1a;禁止处理来自代理服务器的应答&＃xff0c;可以设置的字段有 ”X-Accel-Redirect”, “X-Accel-Expires”, “Expires” 或”Cache-Control。
注意&＃xff1a;proxy_cache_key 压缩方式 Accept-Encoding 应该指定为通用压缩格式&＃xff0c;防止客户端不支持某种压缩方式。
nginx log 里可以添加缓存命中状态&＃xff0c;便于查看是否命中&＃xff0c;统计缓存命中率&＃xff0c;具体可以如下定义格式&＃xff1a;

log_format main &＃39;$remote_addr - $remote_user [$time_local] "$host|$request" $status $body_bytes_sent &＃39;&＃39;$request_length $request_body "$http_referer" "$http_user_agent" "$scheme" "$http_x_forwarded_for" &＃39;&＃39;"$upstream_cache_status" "$http_accept_encoding" "$upstream_addr" "$request_time_usec" "$request_time_msec" &＃39;&＃39;"$request_time" "$upstream_response_time"&＃39;;

$upstream_cache_status 包含以下几种状态&＃xff1a;
MISS&＃xff1a;未命中&＃xff0c;请求被传到后端
HIT&＃xff1a;缓存命中
EXPIRED&＃xff1a;缓存过期&＃xff0c;请求被传到后端
UPDATING&＃xff1a;缓存正在更新&＃xff0c;使用旧缓存应答
STALE&＃xff1a;后端将得到过期的应答

故障时利用 cache 对服务降级

当调用后端接口暂时故障时&＃xff0c;比如用手机看视频拿不到播放数据&＃xff0c;或者不出广告&＃xff0c;这时候如果有 cache&＃xff0c;nginx 会返回给客户端之前暂存的缓存数据&＃xff0c;或者提前准备好的静态页面&＃xff0c;用户不至于面对一个空白页面。对于重要的一级接口&＃xff0c;可以每天请求一次填充 cache 到备份 nginx 服务器&＃xff0c;即使线上后端接口完全不可用&＃xff0c;流量冗余到备份服务器&＃xff0c;对用户体验也不会有很大影响。

cache 优化

nginx 只有硬盘级别 cache&＃xff0c;没有内置内存级别的 cache&＃xff0c;为了利用内存加速&＃xff0c;减少服务器响应时间&＃xff0c;可以将 cache 目录挂载到 / dev/shm 内存目录。
mount --bind /dev/shm/proxy_cache /home/work/nginx/proxy_cache
线上流量相差不大的情况下&＃xff0c;将 cache 目录挂载到内存与未挂载到内存的耗时对比&＃xff0c;还是有明显差距&＃xff0c;将 cache 目录挂载到内存中&＃xff0c;响应时间可以缩短 7 倍以上。

总结

缓存不是什么高深技术&＃xff0c;但是正确利用缓存&＃xff0c;在业务遭受大流量冲击下&＃xff0c;会起到重要作用&＃xff0c;缓存的 key 设置需合理&＃xff0c;避免不正确缓存。

参考资料

http://nginx.org/en/docs/http/ngx_http_proxy_module.html
http://www.alonely.com.cn/Nginx/20160827/18993.html