一佳互联
虚拟化容器,大数据,DBA,中间件,监控。

Varnish调优手记

24 11月
作者:admin|分类:应用管理

目录[-]

　　最近公司做活动推广，流量暴增，后端服务器压力山大，导致用户的请求响应时间延长，客户因此抱怨声音很大。
　　为尽快解决问题，在安排人员不断优化后端代码的同时，考虑在nginx前增加varnish缓存层，只透传部分动态请求过去，直接减少后端服务器的压力。
　　在实际使用中，真正感受到了varnish服务器强大的威力！在不断的调优缓存命中率后，后端服务器cpu直接从80%降到了20%，再大的并发前端也可以直接消化，后端服务器表示毫无压力。有了这玩意，可以再也不用在后台写定时任务，不断重新生成静态页面了，直接丢缓存里完事！此外，varnish还支持一种叫“神圣模式”，在后端服务器报错返回500的时候，varnish还能继续优先返回过去缓存的内容，为用户屏蔽部分错误，这东东有时真算是救命稻草啊。
　　但同时，也趟了n多的坑，varnish中的VCL语言太过强大和灵活，稍微运用不好就会中枪。而网上公开的大多数varnish配置文件都是一大抄，根本无法直接用于生产。在研究了几天，翻阅了大量各种资料后，才总算把遇到的问题都解决了。
　　现将调优心得记录如下：

一、介绍

　　Varnish是一种专业的网站缓存软件（其实就是带缓存的反向代理服务），它可以把整个HTTP响应内容缓存到内存或文件中，从而提高Web服务器的响应速度。
　　Varnish内置强大的VCL（Varnish Configuration Language）配置语言，允许通过各种条件判断来灵活调整缓存策略。在程序启动时，varnish就把VCL转换成二进制代码，因此性能非常高。

二、安装

　　epel源里也有varnish，但是却2.x版本的。
　　因为 varnish 3.0的配置文件与 2.x 的存在很大不同，因此varnish团队不能再更新epel里的软件源。如果你想安装最新版本，推荐使用 rpm 方式。

RPM安装

　　在redhat系服务器上可以很容易的直接通过rpm包安装：
1wget http://repo.varnish-cache.org/redhat/varnish-3.0/el6/x86_64/varnish/varnish-libs-3.0.4-1.el6.x86_64.rpm
2wget http://repo.varnish-cache.org/redhat/varnish-3.0/el6/x86_64/varnish/varnish-3.0.4-1.el6.x86_64.rpm
3wget http://repo.varnish-cache.org/redhat/varnish-3.0/el6/x86_64/varnish/varnish-docs-3.0.4-1.el6.x86_64.rpm
4
5yum localinstall *.rpm

　　varnish的安装和配置路径 

1/etc/varnish/default.vcl  #默认配置文件存文件
2/etc/sysconfig/varnish   #服务启动参数脚本
3/etc/init.d/varnish           #服务控制脚本

　　可以通过调整 /etc/sysconfig/varnish 配置文件中的参数来调整启动参数，设置线程池、缓存到内存还是文件等。当然如果你乐意也可以在varnishd后面带上启动参数手工启动服务和管理。 

　　现在能通过服务的方式启动 varnish了：
1service varnish start (stop/restart)
　　将varnish设为开机自启动：
1chkconfig varnish on

编译安装

安装依赖包

1yum install ncurses-devel.x86_64

　　此步可选。 

　　如果你在编译varnish 后bin目录中没有发现 varnishstat、varnishtop、varnishhist这三个程序的话，就是因为编译前没有安装与操作系统位数对应的 ncurses-devel。这些工具非常好用，因此建议先安装这个依赖包。

安装pcre

　　varnish 依赖pcre进行url正则匹配。
1cd pcre-8.12
2./configure --prefix=/usr/local/
3make&&make install

编译

　　解压缩varnish源码包
1wget http://repo.varnish-cache.org/source/varnish-3.0.4.tar.gz
2cd /root
3tar -zxvf varnish-3.0.4.tar.gz
4cd varnish-3.0.4
5export PKG_CONFIG_PATH=/usr/local/lib/pkgconfig
6./configure --prefix=/usr/local/varnish
7make && make install

三、VCL执行过程

　　先介绍一下Varnish处理请求的主要处理方法和流程
　　VCL 需定义几个默认的函数，在Varnish处理HTTP请求的各个阶段会回调这些函数进行处理：
  • vcl_recv，请求入口，判断是否要进一步处理，还是直接转发给后端（pass）。 此过程中可以使用和请求相关的变量，例如客户端请求的url，ip，user-agent，cookie等，此过程中可以把不需缓存的地址，通过判断（相等、不相等、正则匹配等方法）透传给后端，例如POST请求，及jsp、asp、do等扩展名的动态内容；
  • vcl_fetch，当从后端服务器获取内容后会进入此阶段，除了可以使用客户端的请求变量，还可以使用从后端获取的信息（bersp），如后端返回的头信息，具体指定此信息的缓存时间TTL；
  • vcl_miss 缓存未命中时中要做的处理
  • vcl_hit 缓存命中后做的处理
  • vcl_delever 发送给客户端前的处理
  • vcl_pass 交给后端服务器
  • vcl_hash 设置缓存的键值key
　　首次请求时过程如下：
　　recv->hash->miss->fetch->deliver
　　缓存后再次请求：
　　recv->hash->hit->deliver（fetch的过程没了，这就是我们要做的，把要缓存的页面保存下来）
　　直接交给后端pass的情况：
　　recv->hash->pass->fetch->deliver（直接从后端获取数据后发送给客户端，此时Varnish相当于一个中转站，只负责转发）

四、通过日志调优

　　安装完成后，默认的配置文件位于
　　/etc/varnish/default.vcl
　　我们可以参考缺省配置项学习vcl语言的使用，并进行不断的调优。

　　但直接修改配置，不断的重启调优效率非常低下痛苦！经过不断摸索，我发现其实varnish里内置了日志模块，我们可以在 defalut.vcl 最上边引用std库，以便输出日志：
1import std;
　　在需要输出日志的地方，使用 std.log 即可：
1std.log("LOG_DEBUG: URL=" + req.url);
　　这样的话，就可以通过日志了解varnish的工作流程，很方便的优化啦，效率何止提高十倍！

　　类似于你想跟踪哪些连接没有命中缓存，可以在vcl_miss函数中这样写：
1sub vcl_miss {
2     td.log("url miss!!! url=" + req.url);
3     return (fetch);
4}
　　启动varnish 后，通过 varnishlog工具跟踪打印出的日志
1varnishlog -I LOG

五、负载均衡

　　Varnish可以挂载多个后端服务器，并进行权重、轮询，将请求转发到后端节点上，以达到避免单点的问题。
　　举例如下：
01backend web1 {
02    .host = "172.16.2.31";
03    .port = "80";
04    .probe = {
05        .url = "/";
06        .interval = 10s;
07        .timeout = 2s;
08        .window = 3;
09        .threshold = 3;
10    }
11}
12backend web2 {
13    .host = "172.16.2.32";
14    .port = "80";
15    .probe = {
16        .url = "/";
17        .interval = 10s;
18        .timeout = 2s;
19        .window = 3;
20        .threshold = 3;
21    }
22}
23# 定义负载均衡组
24director webgroup random {
25    {
26       .backend = web1;
27       .weight = 1;
28    }
29    {
30       .backend = web2;
31       .weight = 1;
32    }
33}

　　其中，在backend 中添加 probe 选项，将可以对后端节点进行健康检查。如果后端节点无法访问，将会自动摘除掉该节点，直到这个节点恢复。 

　　需要注意window 和threshold 两个参数。当有后端服务器不可达时，varnish会时不时的报503错误。网上查出的资料都是改线程组什么的，经测试完全无效。后来发现，只要将 window 和threshold 两个参数的值设成一样的，503现象就再没有发生了。

六、优雅模式和神圣模式

Grace mode

　　如果后端需要很长时间来生成一个对象，这里有一个线程堆积的风险。为了避免这 种情况，你可以使用 Grace。他可以让 varnish 提供一个存在的版本，然后从后端生成新 的目标版本。当同时有多个请求过来的时候，varnish只发送一个请求到后端服务器，在
　　set beresp.grace = 30m; 
　　时间内复制旧的请求结果给客户端。

Saint mode

　　有时候,服务器很古怪,他们发出随机错误,您需要通知 varnish 使用更加优雅的方式处理 它,这种方式叫神圣模式(saint mode)。Saint mode 允许您抛弃一个后端服务器或者另一个尝试的后端服务器或者 cache 中服务陈旧的内容。

例如：
1sub vcl_fetch {
2    if (beresp.status == 500) {
3        set beresp.saintmode = 10s;
4        return (restart);
5　　}
6　　
7    set beresp.grace = 5m;
8}

七、完整示例

001import std;
002
003backend web1 {
004    .host = "172.16.2.31";
005    .port = "80";
006    .probe = {
007        .url = "/";
008        .interval = 10s;
009        .timeout = 2s;
010        .window = 3;
011        .threshold = 3;
012    }
013}
014backend web2 {
015    .host = "172.16.2.32";
016    .port = "80";
017    .probe = {
018        .url = "/";
019        .interval = 10s;
020        .timeout = 2s;
021        .window = 3;
022        .threshold = 3;
023    }
024}
025# 定义负载均衡组
026director webgroup random {
027    {
028       .backend = web1;
029       .weight = 1;
030    }
031    {  
032       .backend = web2;
033       .weight = 1;
034    }
035}
036
037# 允许刷新缓存的ip
038acl purgeAllow {
039     "localhost";
040     "172.16.2.5";
041}
042
043sub vcl_recv {
044    # 刷新缓存设置
045    if (req.request == "PURGE") {
046        #判断是否允许ip
047        if (!client.ip ~ purgeAllow) {
048             error 405 "Not allowed.";
049        }
050        #去缓存中查找
051        return (lookup);
052    }
053
054    std.log("LOG_DEBUG: URL=" + req.url);
055
056    set req.backend = webgroup;
057    if (req.request != "GET" && req.request != "HEAD" && req.request != "PUT" && req.request != "POST" && req.request != "TRACE" && req.request != "OPTIONS" && req.request != "DELETE") {
058         /* Non-RFC2616 or CONNECT which is weird. */
059         return (pipe);
060    }
061
062    # 只缓存 GET 和 HEAD 请求
063    if (req.request != "GET" && req.request != "HEAD") {
064        std.log("LOG_DEBUG: req.request not get!  " + req.request );
065        return(pass);
066    }
067    # http 认证的页面也 pass
068　　if (req.http.Authorization) {
069        std.log("LOG_DEBUG: req is authorization !");
070        return (pass);
071    }
072    if (req.http.Cache-Control ~ "no-cache") {
073        std.log("LOG_DEBUG: req is no-cache");
074        return (pass);
075    }
076    # 忽略admin、verify、servlet目录，以.jsp和.do结尾以及带有?的URL,直接从后端服务器读取内容
077    if (req.url ~ "^/admin" || req.url ~ "^/verify/" || req.url ~ "^/servlet/" || req.url ~ "\.(jsp|php|do)($|\?)") {
078        std.log("url is admin or servlet or jsp|php|do, pass.");
079        return (pass);
080    }
081
082    # 只缓存指定扩展名的请求, 并去除 cookie
083    if (req.url ~ "^/[^?]+\.(jpeg|jpg|png|gif|bmp|tif|tiff|ico|wmf|js|css|ejs|swf|txt|zip|exe|html|htm)(\?.*|)$") {
084        std.log("*** url is jpeg|jpg|png|gif|ico|js|css|txt|zip|exe|html|htm set cached! ***");
085        unset req.http.cookie;
086        # 规范请求头,Accept-Encoding 只保留必要的内容
087        if (req.http.Accept-Encoding) {
088            if (req.url ~ "\.(jpg|png|gif|jpeg)(\?.*|)$") {
089                remove req.http.Accept-Encoding;
090            } elsif (req.http.Accept-Encoding ~ "gzip") {
091                set req.http.Accept-Encoding = "gzip";
092            } elsif (req.http.Accept-Encoding ~ "deflate") {
093                set req.http.Accept-Encoding = "deflate";
094            } else {
095                remove req.http.Accept-Encoding;
096            }
097        }
098        return(lookup);
099    } else {
100        std.log("url is not cached!");
101        return (pass);
102    }
103}
104
105sub vcl_hit {
106    if (req.request == "PURGE") {   
107        set obj.ttl = 0s;   
108        error 200 "Purged.";   
109    }
110    return (deliver);
111}
112
113sub vcl_miss {
114    std.log("################# cache miss ################### url=" + req.url);
115    if (req.request == "PURGE") {
116        purge;
117        error 200 "Purged.";
118    }
119}
120
121sub vcl_fetch {
122    # 如果后端服务器返回错误，则进入 saintmode
123    if (beresp.status == 500 || beresp.status == 501 || beresp.status == 502 || beresp.status == 503 || beresp.status == 504) {
124        std.log("beresp.status error!!! beresp.status=" + beresp.status);
125        set req.http.host = "status";
126        set beresp.saintmode = 20s;
127        return (restart);
128    }
129    # 如果后端静止缓存, 则跳过
130    if (beresp.http.Pragma ~ "no-cache" || beresp.http.Cache-Control ~ "no-cache" || beresp.http.Cache-Control ~ "private") {
131        std.log("not allow cached!   beresp.http.Cache-Control=" + beresp.http.Cache-Control);
132    return (hit_for_pass);
133    }
134    if (beresp.ttl <= 0s || beresp.http.Set-Cookie || beresp.http.Vary == "*") {
135        /* Mark as "Hit-For-Pass" for the next 2 minutes */
136        set beresp.ttl = 120 s;
137        return (hit_for_pass);
138    }
139
140    if (req.request == "GET" && req.url ~ "\.(css|js|ejs|html|htm)$") {
141        std.log("gzip is enable.");
142        set beresp.do_gzip = true;
143        set beresp.ttl = 20s;
144    }
145
146    if (req.request == "GET" && req.url ~ "^/[^?]+\.(jpeg|jpg|png|gif|bmp|tif|tiff|ico|wmf|js|css|ejs|swf|txt|zip|exe)(\?.*|)$") {
147        std.log("url css|js|gif|jpg|jpeg|bmp|png|tiff|tif|ico|swf|exe|zip|bmp|wmf is cache 5m!");
148        set beresp.ttl = 5m;
149    } elseif (req.request == "GET" && req.url ~ "\.(html|htm)$") {
150        set beresp.ttl = 30s;
151    } else {
152        return (hit_for_pass);
153    }
154  
155    # 如果后端不健康，则先返回缓存数据1分钟
156    if (!req.backend.healthy) {
157        std.log("eq.backend not healthy! req.grace = 1m");
158        set req.grace = 1m;
159    } else {
160        set req.grace = 30s;
161    }
162     return (deliver);
163}
164
165# 发送给客户端
166sub vcl_deliver {
167    if ( obj.hits > 0 ) {
168    set resp.http.X-Cache = "has cache";
169    } else {
170    #set resp.http.X-Cache = "no cache";
171    }
172    return (deliver);
173}

八、管理命令

　　跟随varnish会一起安装一些方便的调试工具，用好这些工具，对你更好的应用varnish有很大的帮助。

varnishncsa（以 NCSA 的格式显示日志） 

　　通过这个命令，可以像类似于 nginx/apache一样的显示出用户的访问日志来。

varnishlog（varnish详细日志）

　　如果你想跟踪varnish处理每个请求时的详细处理情况，可以使用此命令。
　　直接使用这个命令，显示的内容非常多，通常我们可以通过一些参数，使它只显示我们关心的内容。
  • -b    \\只显示varnish和backend server之间的日志，当您想要优化命中率的时 候可以使用这个参数。  
  • -c    \\和-b差不多，不过它代表的是 varnish和 client端的通信。  
  • -i tag  \\只显示某个 tag，比如“varnishlog –i SessionOpen”将只显示新会话，注意，这个地方的tag名字是不区分大小写的。  
  • -I    \\通过正则表达式过滤数据，比如“varnishlog -c -i RxHeader -I Cookie”将显示所有接到到来自客户端的包含 Cookie 单词的头信息。  
  • -o    \\聚合日志请求 ID  
　　例如：
　　varnishlog -c -o /auth/login  这个命令将告诉您来自客户端（-c）的所有包含”/auth/login” 字段（-o）请求。
　　varnishlog -c -o ReqStart 192.168.1.100  只跟踪一个单独的client请求 

varnishtop 

    您可以使用varnishtop 确定哪些URL经常被透传到后端。    
    适当的过滤使用  –I，-i，-X  和-x 选项，它可以按照您的要求显示请求的内容，客
户端，浏览器等其他日志里的信息。 
    varnishtop -i rxurl    \\您可以看到客户端请求的 url次数。 
    Varnishtop -i txurl    \\您可以看到请求后端服务器的url次数。 
    Varnishtop -i Rxheader -I Accept-Encoding \\可以看见接收到的头信息中有有多少次
包含Accept-Encoding。 

varnishstat 

　　显示一个运行varnishd实例的相关统计数据。 
　　Varnish 包含很多计数器，请求丢失率，命中率，存储信息，创建线程，删除对象等，几乎所有的操作。通过跟踪这些计数器，可以很好的了解varnish运行状态。  

varnishadm 

　　通过命令行，控制varnish服务器。可以动态的删除缓存，重新加载配置文件等。

管理端口有两种链接方式:
　　1,telnet方式,可以通过telnet来连接管理端口.如:"telnet localhost 6082"
　　2,varnishadm方式,可以通过varnish自带的管理程序传递命令.如: varnishadm -n vcache -T localhost:6082 help

动态清除缓存
　　varnishadm -S /etc/varnish/secret -T 127.0.0.1:6082 ban.url /2011111.png
　　其中：ban.url 后的路径一定不要带abc.xxx.com域名之类的，否则缓存清除不了。

清除包含某个子目录的URL地址：
　　/usr/local/varnish/bin/varnishadm -S /etc/varnish/secret -T 127.0.0.1:6082 url.purge /a/

不重启加载配置文件
　　登陆到管理界面
　　/usr/local/varnish/bin/varnishadm -S /etc/varnish/secret -T 127.0.0.1:6082 
　　加载配置文件
　　vcl.load new.vcl /etc/varnish/default.vcl
　　编译出错的话会有提示，成功会返回200
　　加载新配置文件
　　vcl.use new.vcl
　　此时新的配置文件已经生效！

更多文章推荐

历史上的今天
11月
24
浏览2242 评论0
返回
目录 返回
首页
su root与su - root的区别 网卡的设备名变化问题
↑