中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

部署Varnish緩存搭理服務器

發布時間:2020-06-09 14:54:53 來源:網絡 閱讀:418 作者:筱振 欄目:系統運維

博文大綱:
一、Varnish概述
1.Varnish簡介
2.Varnish和squid的區別
3.Varnish的工作原理
4.Varnish架構
5.Varnish配置
6.VCL中內置預設變量
7.VCL的子程序
8.特定功能語句
9.return語句
10.Varnish請求處理的步驟
11.Varnish的優雅模式
二、安裝Varnish
1.客戶端訪問測試緩存
2.服務端測試清除緩存
3.配置http服務器的訪問獲取客戶端的IP地址

一、Varnish概述

1.Varnish簡介

Varnish是一款高性能且開源的反向代理服務器和HTTP加速器,其采用全新的軟件體系機構,和現在的硬件體系緊密配合。與傳統的squid相比,Varnish具有高性能、速度快、管理更加方便等優點,目前很多大型的網站都開始嘗試使用Varnish來代替squid,這便是Varnish迅速發展的最根本的原因。

Varnish的主要特征:

  • (1)緩存代理位置:可以使用內存也可以使用磁盤;
  • (2)日志存儲:日志存儲在內存中;
  • (3)支持虛擬內存的使用;
  • (4)有精確的時間管理機制,即緩存的時間屬性控制;
  • (5)狀態引擎架構:在不同的引擎上完成對不同的緩存和代理數據進行處理;
  • (6)緩存管理:以二叉堆管理緩存數據,做到數據的及時清理;

2.Varnish和squid的區別

相同點:

  • 都是一個反向代理服務器;
  • 都是開源軟件;

Varnish的優勢:

  • (1)穩定性:Varnish和Squid在完成相同負載的工作時,Squid服務器發生故障的幾率要高于Varnish,因為使用Squid需要經常重啟;
  • (2)訪問速度更快:Varnish所有緩存的數據都是直接從內存中讀取,而Squid是從硬盤中讀取;
  • (3)支持更多的并發連接:因為Varnish的TCP連接和釋放的速度比Squid快很多

Varnish的缺陷:

  • (1)Varnish進程一旦重啟,緩存數據都會從內存中完全釋放,此時所有請求都會發送到后端服務器,在高并發情況下,會給后端服務器造成很大壓力;
  • (2)在Varnish使用中如果使用單個URL的請求通過負載均衡時,則每次請求都會落在不同的Varnish服務器中,造成請求都會到后端服務器;而且同樣的秦桂在多臺服務器上緩存,也會造成Varnish的緩存資源的浪費,造成性能下降;

Varnish缺陷的解決方案:

  • 針對缺陷(1):在訪問量很大的情況下推薦使用Varnish的內存緩存方式啟動,而且后面需要跟多臺Nginx服務器(作為反向代理)。主要防止Varnish服務器重啟的情況下,大量的請求到達后端服務器;這樣Nginx就是第二道緩存代理服務器。防止請求過多時給后端服務器造成較大的壓力;
  • 針對缺陷(2):可以在負載均衡上做URL哈希,讓單個URL請求固定到一臺Varnish服務器上;

3.Varnish的工作原理

當Varnish服務器收到客戶端的請求時,首選檢查緩存中是否有數據,如果有,則直接響應客戶端;如果沒有則向后端服務器請求相應的資源,緩存到Varnish服務器本地,再響應客戶端;

根據規則和請求頁面的類型選擇數據是否需要進行緩存,可以根據請求頭中Cache-Contorl判斷是否緩存,以及cookis是否有標記,這些功能都可以通過編寫配置文件的方式來實現。

4.Varnish架構

Varnish分為management進程和child進程:

  • management進程:對child進程進行管理,同事對VCL配置進行編譯,并應用到不同的狀態引擎中;
  • child進程:生成線程池,負責對用戶請求進行處理,并通過hash查找返回用戶結果;

child進程生成的常見線程有:

  • accept線程:接收新的連接請求并響應;
  • worker線程:會話,處理請求資源;
  • expiry線程:清除緩存中過期的內容;

5.Varnish配置

Varnish主要配置部分:

  • 后端配置:給Varnish添加反向代理服務器節點,最少配置一個;
  • ACL配置:給Varnish添加訪問控制列表,可以指定這些列表訪問或禁止訪問;
  • probes配置:給Varnish添加探測后端服務器是否正常的規則,方便切換或禁止對應后端服務器;
  • directors配置:給Varnish添加負載均衡模式管理多個后端服務器;
  • 核心子程序配置:給Varnish添加后端服務器切換,請求緩存、訪問控制、錯誤處理等規則;

6.VCL中內置預設變量

如圖:
部署Varnish緩存搭理服務器

  • req:客戶端請求Varnish服務器時可用的變量;
  • bereq:Varnish服務器請求后端服務器可用的變量;
  • beresp:后端服務器響應Varnish服務器請求,并返回結果時,使用的變量;
  • resp:Varnish服務器響應客戶端請求是使用的變量;
  • obj:高速緩存對象,緩存后端響應請求內容;
  • now:作用就是返回當前的時間戳;

7.VCL的子程序

客戶端基本信息:

  • Client ip:返回客戶端的IP地址;
  • Client port:獲取客戶端請求的端口號(需調用std);
  • Client.identiy:獲取客戶端標識碼;

服務端基本信息:

  • Server.hostname:服務器主機名;
  • Server.identiy:獲取服務器標識碼;
  • Server.ip:獲取服務器IP地址;
  • Server.prot:獲取服務器IP端口號(需調用std模塊);

客戶端請求(req) :

  • Req:整個請求的數據結構;
  • req.bachend_hint:指定請求后端節點 如gif 給圖片服務器 (hint暗示)當訪問時gif時 設置客戶端的請求req.bachend_hint=圖片服務器地址;
  • Req.can_gzip:客戶端是否接受gzip傳輸編碼;
  • req.hash_always_miss:是否從緩存中讀取數據;
  • req.hash_ignore_busy: 忽略緩存中忙碌的數據;
  • req.http:對應請求http的header;
  • req.method :請求類型或者請求的方式;
  • req.proto:客戶端請求使用的http協議的版本;
  • req.restarts:重新啟動次數,默認最大值是4(通常用于判斷是否訪問過服務器);
  • req.url:請求的url;
  • req.xid:請求的唯一ID號;

varnish請求后端服務器(bereq):

  • bereq:整個后端請求的數據結構;
  • bereq.backend:所請求后端節點的配置;
  • bereq.between_bytes_timeout:從后端每接收一個字節之間的等待時間或者超時時間;
  • bereq.http:對應發送到后端的http的頭部信息;
  • bereq.method: 發送到后端的請求類型或者請求方式;
  • bereq.proto:發送到后端的請求的http協議版本;
  • bereq.retires:相同請求重試計數;
  • bereq.uncacheable:請求數據沒有被緩存,或者請求不緩存;
  • bereq.url:發送到后端請求的url;
  • bereq.xid:請求唯一id;

后端服務器向varnish(beresq):

  • Beresp:后端服務器響應數據;
  • Beresp.backend.ip:后端響應(處理請求數據)服務器的IP地址;
  • Beresp.backend.name:后端響應服務器的節點名;
  • Beresp.do_gunzip:默認為false,緩存前解壓改對象;
  • Beresp.grace:設置緩存過期的額外寬限時間;
  • Beresp.http:響應時http的頭部;
  • Beresp.keep:對象緩存后帶保持時間;
  • Beresp.proto:響應的http版本;
  • Beresp.reason :后端服務器返回的http狀態信息;
  • Beresp.status:后端服務器返回的在狀態碼;
  • Beresp.storage_hint:指定保存的的特定存儲器(內存);
  • Beresp.ttl:改對象緩存的剩余時間,指定統一緩存剩余時間;
  • Beresp,uncacheable:對數據不進行緩存;

高速緩存對象(obj):

  • obj.grace:該對象額外寬限時間;
  • obj.hits:緩存命中次數,一般可以用于判斷是否有緩存;
  • obj.http:對應 HTTP 的 header;
  • obj.proto:HTTP版本;
  • obj.reason:服務器返回的 HTTP 狀態;
  • obj.status:服務器返回的狀態碼;
  • obj.ttl:該對象緩存剩余時間(秒);
  • obj.uncacheable:不緩存;

返回給客戶端的響應對象(resp):

  • resp:整個響應 數據結構;
  • resp.http:對應 HTTP 的 header;
  • resp.proto:編輯響應的 HTTP 協議版本;
  • resp.reason:將要返回的 HTTP 狀態信息;
  • resq.status:將要返回的 HTTP 狀態;

8.特定功能語句

  • Ban(expression):清除指定對象緩存;
  • Call(subroutine):調用子程序;
  • Hash_data(input):根據input的子程序的值生成hash鍵;
  • New():創建新的vcl對象,只能在vcl_init 子進程中;
  • Return():結束當前子程序,并指定繼續下一步動作;
  • Rollback():恢復 HTTP 頭到原來狀態,已經棄用,使用 std.rollback() 代替;
  • Synthetic (STRING):合成器,定義返回給客戶端頁面和狀態碼;
  • Regsub(str,regex,sub)使用正則表達式替換第一次出現的字符串;
  • Regsuball(str,regex,sub)替換所有出現的字符串;

9.return語句

return 語句是終止子程序并返回動作,所有動作都根據不同的 vcl 子程序限定來選用的。

語法:return (action);

常用的選項:

  • abandon:放棄處理,并生成一個錯誤;
  • deliver:交付處理;
  • fetch:從后端取出響應對象;
  • hash:哈希緩存處理;
  • lookup:查找緩存;
  • ok:繼續執行;
  • pass:進入 pass 非緩存模式;
  • pipe:進入 pipe 非緩存模式;
  • purge:清除緩存對象,構建響應;
  • restart:重新開始retry 重試后端處理;
  • synth(status code,reason):合成返回客戶端狀態;

10.Varnish請求處理的步驟

如圖:
部署Varnish緩存搭理服務器

VCL處理過程大致分為如下幾個步驟:
(1)Receive 狀態,也就是請求處理的入口狀態,根據 VCL 規則判斷該請求應該是 Pass 或Pipe,或者進入 Lookup(本地查詢);
(2)Lookup 狀態,進入此狀態后,會在 hash 表中查找數據,若找到,則進入 Hit 狀態,否則進入 miss 狀態;
(3)Pass 狀態,在此狀態下,會進入后端請求,即進入 fetch 狀態;
(4)Fetch 狀態,在 Fetch 狀態下,對請求進行后端的獲取,發送請求,獲得數據,并進行本地存儲;
(5)Deliver 狀態, 將獲取到的數據發送給客戶端,然后完成本次請求;

11.Varnish的優雅模式

當幾個客戶端請求同一個頁面的時候,varnish 只發送一個請求到后端服務器,然后讓其他幾個請求掛起并等待返回結果;獲得結果后,其它請求再復制后端的結果發送給客戶端;但如果同時有數以千計的請求,那么這個等待隊列將變得龐大,這將導致 2 類潛在問題:驚群問題(thundering herd problem),即突然釋放大量的線程去復制后端返回的結果,將導致負載急速上升;沒有用戶喜歡等待;

故為了解決這類問題,可以配置 varnish 在緩存對象因超時失效后再保留一段時間,以給那些等待的請求返回過去的文件內容(stale content),配置案例如下:

sub vcl_recv {
 if (! req.backend.healthy) {   #判斷后端服務器的健康狀態
 set req.grace = 5m;    #如果后端服務器不健康,客戶端額外緩存15分鐘
}else {
 set req.grace = 15s; }  #正常額外緩存時間15秒
}
sub vcl_fetch { 
set beresp.grace = 30m;  #定義緩存過期后額外緩存時間30分鐘
}

二、安裝Varnish

獲取Varnish軟件包

[root@localhost ~]# yum -y install autoconf automake libedit-devel libtool ncurses-devel pcre-devel  pkgconfig python-docutils python-sphinx
//安裝Varnish所需依賴
[root@localhost ~]# tar zxf varnish-4.0.3.tar.gz  -C /usr/src
[root@localhost ~]# cd /usr/src/varnish-4.0.3/
[root@localhost varnish-4.0.3]# ./configure && make && make install              //編譯安裝Varnish
[root@localhost ~]# cp /usr/src/varnish-4.0.3/etc/example.vcl /usr/local/var/varnish/
//復制Varnish主配置文件
[root@localhost ~]# vim /usr/local/var/varnish/example.vcl             //編譯Varnish主配置文件
#
# This is an example VCL file for Varnish.
#
# It does not do anything by default, delegating control to the
# builtin VCL. The builtin VCL is called when there is no explicit
# return statement.
#
# See the VCL chapters in the Users Guide at https://www.varnish-cache.org/docs/
# and http://varnish-cache.org/trac/wiki/VCLExamples for more examples.

# Marker to tell the VCL compiler that this VCL has been adapted to the
# new 4.0 format.
vcl 4.0;
import directors;
import std;
# Default backend definition. Set this to point to your content server.
probe backend_healthcheck {
        .url="/"; #訪問后端服務器根路徑
        .interval = 5s;   #請求時間間隔
        .timeout = 1s;   #請求超時時間
        .window = 5;    #指定輪詢次數5次
        .threshold = 3;   #如果出現3次失敗則表示后端服務器異常
}
backend web1 {    #定義后端服務器
        .host = "192.168.1.7";  #要轉向主機(即后端主機)的 IP 或域名
        .port = "80";  #指定后端服務器的端口號
        .probe = backend_healthcheck;  #健康檢查調用backend_healthcheck定義的內容
}
backend web2 {
        .host = "192.168.1.8";
        .port = "80";
        .probe = backend_healthcheck;
}
acl purgers { #定義訪問控制列表
        "127.0.0.1";
        "localhost";
        "192.168.1.0/24";
        !"192.168.1.8";
}
sub vcl_init  {     #調用 vcl_init 初始化子程序創建后端主機組,即 directors
        new  web_cluster=directors.round_robin(); #使用 new 關鍵字創建 drector 對象,使用 round_robin(輪詢) 算法
        web_cluster.add_backend(web1);   #添加后端服務器節點
        web_cluster.add_backend(web2);
}
sub vcl_recv {
        set req.backend_hint = web_cluster.backend(); #指定請求的后端節點web_cluster定義的后端節點
        if (req.method == "PURGE") {   #判斷客戶端的請求頭部是否是PURGE
                if (!client.ip ~ purgers) {   #如果是,再判斷客戶端的IP地址是不是在ACL訪問控制列表中.
                        return (synth(405, "Not Allowed."));  #如果不是,返回給客戶端405狀態碼并且返回定義的頁面.
        }
        return (purge);   #如果是ACL定義的,則交給purge處理.
}
if (req.method != "GET" &&
        req.method != "HEAD" &&
        req.method != "PUT" &&
        req.method != "POST" &&
        req.method != "TRACE" &&
        req.method != "OPTIONS" &&
        req.method != "PATCH" &&
        req.method != "DELETE") {      #判斷客戶端的請求類型
                return (pipe);
        }
if (req.method != "GET" && req.method != "HEAD") {
        return (pass);      #如果不是GET及HEAD則交給pass.
}
if (req.url ~ "\.(php|asp|aspx|jsp|do|ashx|shtml)($|\?)") {
        return (pass);   #當客戶端訪問的是.php等結尾的交給pass處理.
}
if (req.http.Accept-Encoding) {
        if  (req.url  ~ "\.(bmp|png|gif|jpg|jpeg|ico|gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)$") {
        unset req.http.Accept-Encoding;   #取消客戶端接收的壓縮類型
        } elseif (req.http.Accept-Encoding ~ "gzip") {
                set req.http.Accept-Encoding = "gzip";  #如果有gzip類型,標記gzip類型.
        } elseif (req.http.Accept-Encoding ~ "deflate") {
                set req.http.Accept-Encoding = "deflate";
        } else {
        unset req.http.Accept-Encoding;  #其他未定義的頁面也取消客戶但接收的壓縮類型.
        }
     }
if  (req.url  ~ "\.(css|js|html|htm|bmp|png|gif|jpg|jpeg|ico|gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)($|\?)") {
        unset req.http.cookie;  #取消客戶端的cookie值.
        return (hash);    #將請求轉發給hash子程序,也就是查看本地緩存.
}
if (req.restarts == 0) {  #判斷客戶端是不是第一次請求
        if (req.http.X-Forwarded-For) {     #如果是第一次請求,設置獲取客戶端的IP地址.
                set req.http.X-Forwarded-For = req.http.X-Forwarded-For + ", " + client.ip;
        } else {
       set req.http.X-Forwarded-For = client.ip;
        }
}
return (hash);
}
sub vcl_hash {
        hash_data(req.url);   #查看客戶端請求的頁面,并且進行hash
        if (req.http.host) {
                hash_data(req.http.host);  #設置客戶端的主機
        } else {
                hash_data(server.ip);    #設置服務器的IP
        }
        return (lookup);
}
sub vcl_hit {
        if (req.method == "PURGE") {   #如果是HIT并且當客戶端請求的類型是PURGE返回的200的狀態碼,并返回相應頁面.
                return (synth(200, "Purged."));
        }
        return (deliver);
}
sub vcl_miss {
    if (req.method == "PURGE") {
                return (synth(404, "Purged."));   #如果是miss返回404
        }
        return (fetch);
}
sub vcl_deliver {
        if (obj.hits > 0) {
                set resp.http.CXK = "HIT-from-varnish"; #設置http頭部X-Cache =hit
                set resp.http.X-Cache-Hits = obj.hits;  #返回命令的次數
        } else {
        set resp.http.X-Cache = "MISS";
        }
        unset resp.http.X-Powered-By;  #取消顯示web版本
        unset resp.http.Server;    #取消顯示varnish服務
        unset resp.http.X-Drupal-Cache;   #取消顯示緩存的框架
        unset resp.http.Via;    #取消顯示文件內容來源
        unset resp.http.Link;  #取消顯示HTML的超鏈接地址
        unset resp.http.X-Varnish;  #取消顯示varnish的id
        set resp.http.xx_restarts_count = req.restarts;   #設置客戶端請求的次數
        set resp.http.xx_Age = resp.http.Age;   #顯示緩存文件的時長
        #set resp.http.hit_count = obj.hits;   #顯示緩存命中的次數
        #unset resp.http.Age;
        return (deliver);
}
sub vcl_pass {
        return (fetch);   #將后端服務器返回的數據緩存到本地
}
sub vcl_backend_response {
        set beresp.grace = 5m;   #緩存額外寬限時間
        if (beresp.status == 499 || beresp.status == 404 || beresp.status == 502) {
                set beresp.uncacheable = true;   #當后端服務器相應狀態碼是449等,不緩存
        }
        if (bereq.url ~ "\.(php|jsp)(\?|$)") {
                set beresp.uncacheable = true;  #當是PHP的頁面不緩存
        } else {
                if (bereq.url ~ "\.(css|js|html|htm|bmp|png|gif|jpg|jpeg|ico)($|\?)") {
                set beresp.ttl = 15m;  #當是上面結尾的,緩存15分鐘
                unset beresp.http.Set-Cookie;
                } elseif (bereq.url ~ "\.(gz|tgz|bz2|tbz|zip|rar|mp3|mp4|ogg|swf|flv)($|\?)") {
                        set beresp.ttl = 30m; #緩存30分鐘
                        unset beresp.http.Set-Cookie;
                } else {
                        set beresp.ttl = 10m;  #生存時間10分鐘
                        unset beresp.http.Set-Cookie;
                }
        }
        return (deliver);
}
sub vcl_purge {
        return (synth(200,"success"));
}
sub vcl_backend_error {
        if (beresp.status == 500 ||
                beresp.status == 501 ||
                beresp.status == 502 ||
                beresp.status == 503 ||
                beresp.status == 504) {
                return (retry);  #如果狀態碼是上述其中之一,則重新請求
        }
}
sub vcl_fini {
        return (ok);
}
[root@localhost ~]# varnishd -f /usr/local/var/varnish/example.vcl -s malloc,200M -a 0.0.0.0:80
//啟動varnish服務
//-f指定配置文件存放位置;-s指定啟動時使用的內存大小;-a指定監聽的地址與端口
[root@localhost ~]# netstat -anpt | grep 80
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      10508/varnishd  
//確定80端口已經在監聽

自行搭建兩臺http服務器(訪問頁面建議不要一樣)!

1.客戶端訪問測試緩存

首次訪問:
部署Varnish緩存搭理服務器
按F5刷新后的結果:
部署Varnish緩存搭理服務器

2.服務端測試清除緩存

注意:測試時清除緩存!

web服務器(192.168.1.7)

[root@localhost ~]# curl -X "PURGE" 192.168.1.6
//指定192.168.1.6的緩存服務器,清除緩存

測試訪問如下:
部署Varnish緩存搭理服務器

web服務器(192.168.1.8)

[root@localhost ~]# curl -X "PURGE" 192.168.1.6
//指定192.168.1.6的緩存服務器,清除緩存

測試訪問如下:
部署Varnish緩存搭理服務器

測試完成!

3.配置http服務器的訪問獲取客戶端的IP地址

如果不配置的情況下,http服務器只會記錄Varnish服務器的IP地址,上面Varnish配置文件中已經配置完成。那么httpd的配置如下:

[root@localhost ~]# vim /etc/httpd/conf/httpd.conf               //修改http主配置文件
196     LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" combined
197     LogFormat "%h %l %u %t \"%r\" %>s %b" common
//添加以下內容,使http服務可以截取到客戶端的IP地址
198     LogFormat "%{X-Forwarded-For}i %h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-    Agent}i\"" combined
//X-Forwarded-For參數已經在Varnish配置文件中定義
[root@localhost ~]# systemctl restart httpd                //重新啟動http服務

兩臺http服務器都需配置(防止時間過長切換到另一臺服務器)。

注意:測試時清除緩存!

客戶端依然訪問Varnish服務器,http訪問日志如下:
部署Varnish緩存搭理服務器

測試完成!!!

——————————————本文到此為止,感謝觀看————————————

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

沙坪坝区| 武山县| 固镇县| 岢岚县| 长岭县| 山东省| 大洼县| 镶黄旗| 平安县| 柘荣县| 理塘县| 河曲县| 阳春市| 潞城市| 赤壁市| 德钦县| 抚宁县| 兴山县| 华池县| 共和县| 千阳县| 杭锦后旗| 诸城市| 白玉县| 临泽县| 玉溪市| 黄大仙区| 景宁| 眉山市| 于都县| 文安县| 高台县| 郯城县| 南皮县| 开江县| 镇赉县| 崇文区| 东兴市| 望奎县| 疏勒县| 永和县|