linux高并發的概念是什么

本文小編為大家詳細介紹“linux高并發的概念是什么”，內容詳細，步驟清晰，細節處理妥當，希望這篇“linux高并發的概念是什么”文章能幫助大家解決疑惑，下面跟著小編的思路慢慢深入，一起來學習新知識吧。

在linux中，高并發是系統運行過程中遇到的一種“短時間內遇到大量操作請求”的情況，主要發生在web系統集中大量訪問收到大量請求；該情況的發生會導致系統在這段時間內執行大量操作，例如對資源的請求，數據庫的操作等。

一 高并發概念

1.1 高并發概念

高并發（High Concurrency）是互聯網分布式系統架構設計中必須考慮的因素之一，它通常是指，通過設計保證系統能夠同時并行處理很多請求。

高并發（High Concurrency）是一種系統運行過程中遇到的一種“短時間內遇到大量操作請求”的情況，主要發生在web系統集中大量訪問收到大量請求（例如：12306的搶票情況；天貓雙十一活動）。該情況的發生會導致系統在這段時間內執行大量操作，例如對資源的請求，數據庫的操作等。

1.2 高并發相關指標

• 響應時間(Response Time)

• 系統對請求做出響應的時間。例如系統處理一個HTTP請求需要200ms，這個200ms就是系統的響應時間

• 吞吐量(Throughput)

• 單位時間內處理的請求數量

• 每秒查詢率QPS(Query Per Second)

• 每秒響應請求數。在互聯網領域，這個指標和吞吐量區分的沒有這么明顯

• 并發用戶數(User Concurrence)

• 同時承載正常使用系統功能的用戶數量。例如一個即時通訊系統，同時在線量一定程度上代表了系統的并發用戶數

1.3 高并發優化方面

• 單進程最大打開文件數限制

• 內核TCP參數方面

• IO事件分配機制

二 提升系統的并發能力

2.1 垂直擴展

• 提升單機處理能力

• 增強單機硬件性能，例如：增加CPU核數如32核，升級更好的網卡如萬兆，升級更好的硬盤如SSD，擴充硬盤容量如2T，擴充系統內存如128G

• 提升單機架構性能，例如：使用Cache來減少IO次數，使用異步來增加單服務吞吐量，使用無鎖數據結構來減少響應時間

2.2 水平擴展

• 增加服務器數量，就能線性擴充系統性能

2.3 常見互聯網分層架構

（1）客戶端層：典型調用方是瀏覽器browser或者手機應用APP

（2）反向代理層：系統入口，反向代理

（3）站點應用層：實現核心應用邏輯，返回html或者json

（4）服務層：如果實現了服務化，就有這一層

（5）數據-緩存層：緩存加速訪問存儲

（6）數據-數據庫層：數據庫固化數據存儲

2.4 水平擴展架構

• 反向代理層的水平擴展

• 當nginx成為瓶頸的時候，只要增加服務器數量，新增nginx服務的部署，增加一個外網ip，就能擴展反向代理層的性能，做到理論上的無限高并發

• 通過“DNS輪詢”實現的：dns-server對于一個域名配置了多個解析ip，每次DNS解析請求來訪問dns-server，會輪詢返回這些ip

• 站點層的水平擴展

• 通過“nginx”實現的。通過修改nginx.conf，可以設置多個web后端

• 當web后端成為瓶頸的時候，只要增加服務器數量，新增web服務的部署，在nginx配置中配置上新的web后端，就能擴展站點層的性能，做到理論上的無限高并發

• 服務層的水平擴展

• 通過“服務連接池”實現的

• 站點層通過RPC-client調用下游的服務層RPC-server時，RPC-client中的連接池會建立與下游服務多個連接，當服務成為瓶頸的時候，只要增加服務器數量，新增服務部署，在RPC-client處建立新的下游服務連接，就能擴展服務層性能，做到理論上的無限高并發

• 數據層的水平擴展

• user0庫，存儲偶數uid數據

• user1庫，存儲奇數uid數據

• user0庫，存儲uid范圍1-1kw

• user1庫，存儲uid范圍1kw-2kw

• 數據層（緩存，數據庫）涉及數據的水平擴展，將原本存儲在一臺服務器上的數據（緩存，數據庫）水平拆分到不同服務器上去，以達到擴充系統性能的目的。

• 存儲一定范圍的數據

• 按照哈希水平拆分

三 單臺Linux服務器提升并發

3.1 iptables相關

• 關閉iptables防火墻，阻止kernel加載iptables模塊

• 單進程最大打開文件數限制（默認單個進程最大打開1024個文件）

  
  

  ulimit –n 65535

• 修改Linux系統對用戶的打開文件數的軟限制和硬限制

  
  

  vim /etc/security/limits.conf
  * soft nofile 65535   #'*'表示修改所有用戶的限制
  * hard nofile 65535

• #用戶完成系統登錄后讀取/etc/security/limits.conf文件
  vim /etc/pam.d/login
  sessionrequired /lib/security/pam_limits.so
  

3.2 內核TCP參數

TIME_WAIT狀態

• TCP連接斷開后，會以TIME_WAIT狀態保留一定的時間，然后才會釋放端口。當并發請求過多的時候，就會產生大量的TIME_WAIT狀態的連接，無法及時斷開的話，會占用大量的端口資源和服務器資源

#查看TIME_WAIT狀態連接
netstat -n | grep tcp | grep TIME_WAIT |wc -l

# vim /etc/sysctl.conf
net.ipv4.tcp_syncookies= 1 #表示開啟SYNCookies。當出現SYN等待隊列溢出時，啟用cookies來處理，可防范少量SYN攻擊，默認為0，表示關閉；
net.ipv4.tcp_tw_reuse= 1 #表示開啟重用。允許將TIME-WAITsockets重新用于新的TCP連接，默認為0，表示關閉；
net.ipv4.tcp_tw_recycle= 1 #表示開啟TCP連接中TIME-WAITsockets的快速回收，默認為0，表示關閉；
net.ipv4.tcp_fin_timeout= 30  #修改系統默認的TIMEOUT 時間。

讀到這里，這篇“linux高并發的概念是什么”文章已經介紹完畢，想要掌握這篇文章的知識點還需要大家自己動手實踐使用過才能領會，如果想了解更多相關內容的文章，歡迎關注億速云行業資訊頻道。