Nginx是一個高性能的HTTP和反向代理服務(wù)器，

通過其本身的Upstream模塊，我們可以將其作為7層負(fù)載均衡服務(wù)器使用，其支持的負(fù)載均衡策略如下：

1，輪詢：將請求依次輪詢發(fā)給每個服務(wù)器

2，最少鏈接：將請求發(fā)送給持有最少活動鏈接的服務(wù)器

3，IP哈希：通過哈希函數(shù)決定請求發(fā)送給哪個服務(wù)器

4，權(quán)重：服務(wù)器的權(quán)重越高，處理請求的概率越大

系統(tǒng)整體結(jié)構(gòu)如下：

一. Nginx/ Haproxy比較

    早期版本Nginx只能在HTTP層負(fù)載，不支持TCP，經(jīng)過1.9和1.11兩個大版本的大躍進(jìn)般開發(fā)，目前在功能和特性上，已經(jīng)大幅超越haproxy ，當(dāng)然haproxy也有自己的長處。

比如：

stream module：同時支持TCP和UDP，也支持haproxy的proxy protocol。

stream module的TLS卸載：可以把TLS在nginx卸載掉，后端只需要跑http或者明文tcp流。得益于nginx的多進(jìn)程和對TLS硬件加速卡的支持，對于大流量網(wǎng)站這是非常重要的功能。

SNI Preread：基于SNI協(xié)議的host頭做負(fù)載均衡。在一些特殊場合很有用處，比如嚴(yán)格管理私鑰的場景，也可以在不改動現(xiàn)有架構(gòu)的場景下，由nginx統(tǒng)一調(diào)度流量。

IP Transparency：對這個功能沒實際測試過?？垂俜轿臋n應(yīng)該類似SNAT和DNAT的功能。相比Linux的NAT功能，nginx能做的更多，比如負(fù)載均衡、url路由等等。

TLS：雙證書、HTTP/2、TLS v1.3(1.13版)
gnu/linux的新特性的利用：fastopen, SO_REUSEPORT, IP_BIND_ADDRESS_NO_PORT

緩存模塊的切片模塊

而且，nginx還有幾個大殺器：map模塊、lua、js和shared memory。

1）HAProxy對于后端服務(wù)器一直在做健康檢測（就算請求沒過來的時候也會做健康檢查）：
后端機器故障發(fā)生在請求還沒到來的時候，haproxy會將這臺故障機切掉，但如果后端機器故障發(fā)生在請求到達(dá)期間，那么前端訪問會有異常。也就是說HAProxy會把請求轉(zhuǎn)到后端的這臺故障機上，并經(jīng)過多次探測后才會把這臺機器切掉，并把請求發(fā)給其他正常的后端機，這勢必會造成一小段時間內(nèi)前端訪問失敗。
2）Nginx對于后端的服務(wù)器沒有一直在做健康檢測：
后端機器發(fā)生故障，在請求過來的時候，分發(fā)還是會正常進(jìn)行分發(fā)，只是請求不到數(shù)據(jù)的時候，它會再轉(zhuǎn)向好的后端機器進(jìn)行請求，直到請求正常為止。也就是說Nginx請求轉(zhuǎn)到后端一臺不成功的機器的話，還會再轉(zhuǎn)向另外一臺服務(wù)器，這對前端訪問沒有什么影響。
3）因此，如果有用HAProxy做為前端負(fù)載均衡的話 ，如果后端服務(wù)器要維護(hù)，在高并發(fā)的情況，肯定是會影響用戶的。但如果是Nginx做為前端負(fù)載均衡的話，只要并發(fā)撐得住，后端切掉幾臺不會影響到用戶。

一. Nginx / LVS 轉(zhuǎn)發(fā)策略

LVS采用的是同步請求轉(zhuǎn)發(fā)的策略。同步轉(zhuǎn)發(fā)是在lvs服務(wù)器接收到請求之后，立即redirect到一個后端服務(wù)器，由客戶端直接和后端服務(wù)器建立連接。

Nginx采用的是同步請求轉(zhuǎn)發(fā)的策略。異步轉(zhuǎn)發(fā)是nginx在保持客戶端連接的同時，發(fā)起一個相同內(nèi)容的新請求到后端，等后端返回結(jié)果后，由nginx返回給客戶端。

在其它的均衡器（lvs/haproxy/apache等）里，每個請求都是只有一次機會的，假如用 戶發(fā)起一個請求，結(jié)果該請求到達(dá)后臺服務(wù)器后，后臺服務(wù)器剛好掛掉了，那么這個請求就失敗了；而nginx因為是異步的，所以這個請求可以重新發(fā)往下一個后臺，下一個 后臺返回了正常的數(shù)據(jù)，于是這個請求就能成功了。