您好,登錄后才能下訂單哦!
博文大綱:
一、Varnish概述
1.Varnish簡介
2.Varnish和squid的區別
3.Varnish的工作原理
4.Varnish架構
5.Varnish配置
6.VCL中內置預設變量
7.VCL的子程序
8.特定功能語句
9.return語句
10.Varnish請求處理的步驟
11.Varnish的優雅模式
二、安裝Varnish
1.客戶端訪問測試緩存
2.服務端測試清除緩存
3.配置http服務器的訪問獲取客戶端的IP地址
Varnish是一款高性能且開源的反向代理服務器和HTTP加速器,其采用全新的軟件體系機構,和現在的硬件體系緊密配合。與傳統的squid相比,Varnish具有高性能、速度快、管理更加方便等優點,目前很多大型的網站都開始嘗試使用Varnish來代替squid,這便是Varnish迅速發展的最根本的原因。
Varnish的主要特征:
相同點:
Varnish的優勢:
Varnish的缺陷:
Varnish缺陷的解決方案:
當Varnish服務器收到客戶端的請求時,首選檢查緩存中是否有數據,如果有,則直接響應客戶端;如果沒有則向后端服務器請求相應的資源,緩存到Varnish服務器本地,再響應客戶端;
根據規則和請求頁面的類型選擇數據是否需要進行緩存,可以根據請求頭中Cache-Contorl判斷是否緩存,以及cookis是否有標記,這些功能都可以通過編寫配置文件的方式來實現。
Varnish分為management進程和child進程:
child進程生成的常見線程有:
- accept線程:接收新的連接請求并響應;
- worker線程:會話,處理請求資源;
- expiry線程:清除緩存中過期的內容;
Varnish主要配置部分:
- 后端配置:給Varnish添加反向代理服務器節點,最少配置一個;
- ACL配置:給Varnish添加訪問控制列表,可以指定這些列表訪問或禁止訪問;
- probes配置:給Varnish添加探測后端服務器是否正常的規則,方便切換或禁止對應后端服務器;
- directors配置:給Varnish添加負載均衡模式管理多個后端服務器;
- 核心子程序配置:給Varnish添加后端服務器切換,請求緩存、訪問控制、錯誤處理等規則;
如圖:
客戶端基本信息:
服務端基本信息:
客戶端請求(req) :
varnish請求后端服務器(bereq):
后端服務器向varnish(beresq):
高速緩存對象(obj):
返回給客戶端的響應對象(resp):
return 語句是終止子程序并返回動作,所有動作都根據不同的 vcl 子程序限定來選用的。
語法:return (action);
常用的選項:
- abandon:放棄處理,并生成一個錯誤;
- deliver:交付處理;
- fetch:從后端取出響應對象;
- hash:哈希緩存處理;
- lookup:查找緩存;
- ok:繼續執行;
- pass:進入 pass 非緩存模式;
- pipe:進入 pipe 非緩存模式;
- purge:清除緩存對象,構建響應;
- restart:重新開始retry 重試后端處理;
- synth(status code,reason):合成返回客戶端狀態;
如圖:
VCL處理過程大致分為如下幾個步驟:
(1)Receive 狀態,也就是請求處理的入口狀態,根據 VCL 規則判斷該請求應該是 Pass 或Pipe,或者進入 Lookup(本地查詢);
(2)Lookup 狀態,進入此狀態后,會在 hash 表中查找數據,若找到,則進入 Hit 狀態,否則進入 miss 狀態;
(3)Pass 狀態,在此狀態下,會進入后端請求,即進入 fetch 狀態;
(4)Fetch 狀態,在 Fetch 狀態下,對請求進行后端的獲取,發送請求,獲得數據,并進行本地存儲;
(5)Deliver 狀態, 將獲取到的數據發送給客戶端,然后完成本次請求;
當幾個客戶端請求同一個頁面的時候,varnish 只發送一個請求到后端服務器,然后讓其他幾個請求掛起并等待返回結果;獲得結果后,其它請求再復制后端的結果發送給客戶端;但如果同時有數以千計的請求,那么這個等待隊列將變得龐大,這將導致 2 類潛在問題:驚群問題(thundering herd problem),即突然釋放大量的線程去復制后端返回的結果,將導致負載急速上升;沒有用戶喜歡等待;
故為了解決這類問題,可以配置 varnish 在緩存對象因超時失效后再保留一段時間,以給那些等待的請求返回過去的文件內容(stale content),配置案例如下:
sub vcl_recv {
if (! req.backend.healthy) { #判斷后端服務器的健康狀態
set req.grace = 5m; #如果后端服務器不健康,客戶端額外緩存15分鐘
}else {
set req.grace = 15s; } #正常額外緩存時間15秒
}
sub vcl_fetch {
set beresp.grace = 30m; #定義緩存過期后額外緩存時間30分鐘
}
獲取Varnish軟件包
[root@localhost ~]# yum -y install autoconf automake libedit-devel libtool ncurses-devel pcre-devel pkgconfig python-docutils python-sphinx
//安裝Varnish所需依賴
[root@localhost ~]# tar zxf varnish-4.0.3.tar.gz -C /usr/src
[root@localhost ~]# cd /usr/src/varnish-4.0.3/
[root@localhost varnish-4.0.3]# ./configure && make && make install //編譯安裝Varnish
[root@localhost ~]# cp /usr/src/varnish-4.0.3/etc/example.vcl /usr/local/var/varnish/
//復制Varnish主配置文件
[root@localhost ~]# vim /usr/local/var/varnish/example.vcl //編譯Varnish主配置文件
#
# This is an example VCL file for Varnish.
#
# It does not do anything by default, delegating control to the
# builtin VCL. The builtin VCL is called when there is no explicit
# return statement.
#
# See the VCL chapters in the Users Guide at https://www.varnish-cache.org/docs/
# and http://varnish-cache.org/trac/wiki/VCLExamples for more examples.
# Marker to tell the VCL compiler that this VCL has been adapted to the
# new 4.0 format.
vcl 4.0;
import directors;
import std;
# Default backend definition. Set this to point to your content server.
probe backend_healthcheck {
.url="/"; #訪問后端服務器根路徑
.interval = 5s; #請求時間間隔
.timeout = 1s; #請求超時時間
.window = 5; #指定輪詢次數5次
.threshold = 3; #如果出現3次失敗則表示后端服務器異常
}
backend web1 { #定義后端服務器
.host = "192.168.1.7"; #要轉向主機(即后端主機)的 IP 或域名
.port = "80"; #指定后端服務器的端口號
.probe = backend_healthcheck; #健康檢查調用backend_healthcheck定義的內容
}
backend web2 {
.host = "192.168.1.8";
.port = "80";
.probe = backend_healthcheck;
}
acl purgers { #定義訪問控制列表
"127.0.0.1";
"localhost";
"192.168.1.0/24";
!"192.168.1.8";
}
sub vcl_init { #調用 vcl_init 初始化子程序創建后端主機組,即 directors
new web_cluster=directors.round_robin(); #使用 new 關鍵字創建 drector 對象,使用 round_robin(輪詢) 算法
web_cluster.add_backend(web1); #添加后端服務器節點
web_cluster.add_backend(web2);
}
sub vcl_recv {
set req.backend_hint = web_cluster.backend(); #指定請求的后端節點web_cluster定義的后端節點
if (req.method == "PURGE") { #判斷客戶端的請求頭部是否是PURGE
if (!client.ip ~ purgers) { #如果是,再判斷客戶端的IP地址是不是在ACL訪問控制列表中.
return (synth(405, "Not Allowed.")); #如果不是,返回給客戶端405狀態碼并且返回定義的頁面.
}
return (purge); #如果是ACL定義的,則交給purge處理.
}
if (req.method != "GET" &&
req.method != "HEAD" &&
req.method != "PUT" &&
req.method != "POST" &&
req.method != "TRACE" &&
req.method != "OPTIONS" &&
req.method != "PATCH" &&
req.method != "DELETE") { #判斷客戶端的請求類型
return (pipe);
}
if (req.method != "GET" && req.method != "HEAD") {
return (pass); #如果不是GET及HEAD則交給pass.
}
if (req.url ~ "\.(php|asp|aspx|jsp|do|ashx|shtml)($|\?)") {
return (pass); #當客戶端訪問的是.php等結尾的交給pass處理.
}
if (req.http.Accept-Encoding) {
if (req.url ~ "\.(bmp|png|gif|jpg|jpeg|ico|gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)$") {
unset req.http.Accept-Encoding; #取消客戶端接收的壓縮類型
} elseif (req.http.Accept-Encoding ~ "gzip") {
set req.http.Accept-Encoding = "gzip"; #如果有gzip類型,標記gzip類型.
} elseif (req.http.Accept-Encoding ~ "deflate") {
set req.http.Accept-Encoding = "deflate";
} else {
unset req.http.Accept-Encoding; #其他未定義的頁面也取消客戶但接收的壓縮類型.
}
}
if (req.url ~ "\.(css|js|html|htm|bmp|png|gif|jpg|jpeg|ico|gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)($|\?)") {
unset req.http.cookie; #取消客戶端的cookie值.
return (hash); #將請求轉發給hash子程序,也就是查看本地緩存.
}
if (req.restarts == 0) { #判斷客戶端是不是第一次請求
if (req.http.X-Forwarded-For) { #如果是第一次請求,設置獲取客戶端的IP地址.
set req.http.X-Forwarded-For = req.http.X-Forwarded-For + ", " + client.ip;
} else {
set req.http.X-Forwarded-For = client.ip;
}
}
return (hash);
}
sub vcl_hash {
hash_data(req.url); #查看客戶端請求的頁面,并且進行hash
if (req.http.host) {
hash_data(req.http.host); #設置客戶端的主機
} else {
hash_data(server.ip); #設置服務器的IP
}
return (lookup);
}
sub vcl_hit {
if (req.method == "PURGE") { #如果是HIT并且當客戶端請求的類型是PURGE返回的200的狀態碼,并返回相應頁面.
return (synth(200, "Purged."));
}
return (deliver);
}
sub vcl_miss {
if (req.method == "PURGE") {
return (synth(404, "Purged.")); #如果是miss返回404
}
return (fetch);
}
sub vcl_deliver {
if (obj.hits > 0) {
set resp.http.CXK = "HIT-from-varnish"; #設置http頭部X-Cache =hit
set resp.http.X-Cache-Hits = obj.hits; #返回命令的次數
} else {
set resp.http.X-Cache = "MISS";
}
unset resp.http.X-Powered-By; #取消顯示web版本
unset resp.http.Server; #取消顯示varnish服務
unset resp.http.X-Drupal-Cache; #取消顯示緩存的框架
unset resp.http.Via; #取消顯示文件內容來源
unset resp.http.Link; #取消顯示HTML的超鏈接地址
unset resp.http.X-Varnish; #取消顯示varnish的id
set resp.http.xx_restarts_count = req.restarts; #設置客戶端請求的次數
set resp.http.xx_Age = resp.http.Age; #顯示緩存文件的時長
#set resp.http.hit_count = obj.hits; #顯示緩存命中的次數
#unset resp.http.Age;
return (deliver);
}
sub vcl_pass {
return (fetch); #將后端服務器返回的數據緩存到本地
}
sub vcl_backend_response {
set beresp.grace = 5m; #緩存額外寬限時間
if (beresp.status == 499 || beresp.status == 404 || beresp.status == 502) {
set beresp.uncacheable = true; #當后端服務器相應狀態碼是449等,不緩存
}
if (bereq.url ~ "\.(php|jsp)(\?|$)") {
set beresp.uncacheable = true; #當是PHP的頁面不緩存
} else {
if (bereq.url ~ "\.(css|js|html|htm|bmp|png|gif|jpg|jpeg|ico)($|\?)") {
set beresp.ttl = 15m; #當是上面結尾的,緩存15分鐘
unset beresp.http.Set-Cookie;
} elseif (bereq.url ~ "\.(gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)($|\?)") {
set beresp.ttl = 30m; #緩存30分鐘
unset beresp.http.Set-Cookie;
} else {
set beresp.ttl = 10m; #生存時間10分鐘
unset beresp.http.Set-Cookie;
}
}
return (deliver);
}
sub vcl_purge {
return (synth(200,"success"));
}
sub vcl_backend_error {
if (beresp.status == 500 ||
beresp.status == 501 ||
beresp.status == 502 ||
beresp.status == 503 ||
beresp.status == 504) {
return (retry); #如果狀態碼是上述其中之一,則重新請求
}
}
sub vcl_fini {
return (ok);
}
[root@localhost ~]# varnishd -f /usr/local/var/varnish/example.vcl -s malloc,200M -a 0.0.0.0:80
//啟動varnish服務
//-f指定配置文件存放位置;-s指定啟動時使用的內存大小;-a指定監聽的地址與端口
[root@localhost ~]# netstat -anpt | grep 80
tcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 10508/varnishd
//確定80端口已經在監聽
自行搭建兩臺http服務器(訪問頁面建議不要一樣)!
首次訪問:
按F5刷新后的結果:
注意:測試時清除緩存!
web服務器(192.168.1.7)
[root@localhost ~]# curl -X "PURGE" 192.168.1.6
//指定192.168.1.6的緩存服務器,清除緩存
測試訪問如下:
web服務器(192.168.1.8)
[root@localhost ~]# curl -X "PURGE" 192.168.1.6
//指定192.168.1.6的緩存服務器,清除緩存
測試訪問如下:
測試完成!
如果不配置的情況下,http服務器只會記錄Varnish服務器的IP地址,上面Varnish配置文件中已經配置完成。那么httpd的配置如下:
[root@localhost ~]# vim /etc/httpd/conf/httpd.conf //修改http主配置文件
196 LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" combined
197 LogFormat "%h %l %u %t \"%r\" %>s %b" common
//添加以下內容,使http服務可以截取到客戶端的IP地址
198 LogFormat "%{X-Forwarded-For}i %h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User- Agent}i\"" combined
//X-Forwarded-For參數已經在Varnish配置文件中定義
[root@localhost ~]# systemctl restart httpd //重新啟動http服務
兩臺http服務器都需配置(防止時間過長切換到另一臺服務器)。
注意:測試時清除緩存!
客戶端依然訪問Varnish服務器,http訪問日志如下:
測試完成!!!
——————————————本文到此為止,感謝觀看————————————
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。