一区二区三区日韩精品-日韩经典一区二区三区-五月激情综合丁香婷婷-欧美精品中文字幕专区

分享

支撐日活百萬用戶的高并發(fā)系統(tǒng),應(yīng)該如何設(shè)計其數(shù)據(jù)庫架構(gòu)?【石杉的架構(gòu)筆記】

 airen89 2019-02-19

目錄:                                                  

  • 用一個創(chuàng)業(yè)公司的發(fā)展作為背景引入

  • 用多臺服務(wù)器來分庫支撐高并發(fā)讀寫

  • 大量分表來保證海量數(shù)據(jù)下查詢性能

  • 讀寫分離來支撐按需擴容及性能提升

  • 高并發(fā)下的數(shù)據(jù)庫架構(gòu)設(shè)計總結(jié)

“ 這篇文章,我們來聊一下對于一個支撐日活百萬用戶的高并系統(tǒng),他的數(shù)據(jù)庫架構(gòu)應(yīng)該如何設(shè)計?

看到這個題目,很多人第一反應(yīng)就是:

分庫分表??!

但是實際上,數(shù)據(jù)庫層面的分庫分表到底是用來干什么的,他的不同的作用如何應(yīng)對不同的場景,我覺得很多同學可能都沒搞清楚。

(1)用一個創(chuàng)業(yè)公司的發(fā)展作為背景引入

假如我們現(xiàn)在是一個小創(chuàng)業(yè)公司,注冊用戶就20萬,每天活躍用戶就1萬,每天單表數(shù)據(jù)量就1000,然后高峰期每秒鐘并發(fā)請求最多就10。

天哪!就這種系統(tǒng),隨便找一個有幾年工作經(jīng)驗的高級工程師,然后帶幾個年輕工程師,隨便干干都可以做出來。

因為這樣的系統(tǒng),實際上主要就是在前期快速的進行業(yè)務(wù)功能的開發(fā),搞一個單塊系統(tǒng)部署在一臺服務(wù)器上,然后連接一個數(shù)據(jù)庫就可以了。

接著大家就是不停的在一個工程里填充進去各種業(yè)務(wù)代碼,盡快把公司的業(yè)務(wù)支撐起來,如下圖所示。

結(jié)果呢,沒想到我們運氣這么好,碰上個優(yōu)秀的CEO帶著我們走上了康莊大道!

公司業(yè)務(wù)發(fā)展迅猛,過了幾個月,注冊用戶數(shù)達到了2000萬!每天活躍用戶數(shù)100萬!每天單表新增數(shù)據(jù)量達到50萬條!高峰期每秒請求量達到1萬!

同時公司還順帶著融資了兩輪,估值達到了驚人的幾億美金!一只朝氣蓬勃的幼年獨角獸的節(jié)奏!

好吧,現(xiàn)在大家感覺壓力已經(jīng)有點大了,為啥呢?

因為每天單表新增50萬條數(shù)據(jù),一個月就多1500萬條數(shù)據(jù),一年下來單表會達到上億條數(shù)據(jù)。

經(jīng)過一段時間的運行,現(xiàn)在咱們單表已經(jīng)兩三千萬條數(shù)據(jù)了,勉強還能支撐著。

但是,眼見著系統(tǒng)訪問數(shù)據(jù)庫的性能怎么越來越差呢,單表數(shù)據(jù)量越來越大,拖垮了一些復(fù)雜查詢SQL的性能??!

然后高峰期請求現(xiàn)在是每秒1萬,咱們的系統(tǒng)在線上部署了20臺機器,平均每臺機器每秒支撐500請求,這個還能抗住,沒啥大問題。

但是數(shù)據(jù)庫層面呢?

如果說此時你還是一臺數(shù)據(jù)庫服務(wù)器在支撐每秒上萬的請求,負責任的告訴你,每次高峰期會出現(xiàn)下述問題:

  • 你的數(shù)據(jù)庫服務(wù)器的磁盤IO、網(wǎng)絡(luò)帶寬、CPU負載、內(nèi)存消耗,都會達到非常高的情況,數(shù)據(jù)庫所在服務(wù)器的整體負載會非常重,甚至都快不堪重負了

  • 高峰期時,本來你單表數(shù)據(jù)量就很大,SQL性能就不太好,這時加上你的數(shù)據(jù)庫服務(wù)器負載太高導致性能下降,就會發(fā)現(xiàn)你的SQL性能更差了

  • 最明顯的一個感覺,就是你的系統(tǒng)在高峰期各個功能都運行的很慢,用戶體驗很差,點一個按鈕可能要幾十秒才出來結(jié)果

  • 如果你運氣不太好,數(shù)據(jù)庫服務(wù)器的配置不是特別的高的話,弄不好你還會經(jīng)歷數(shù)據(jù)庫宕機的情況,因為負載太高對數(shù)據(jù)庫壓力太大了

(2)多臺服務(wù)器分庫支撐高并發(fā)讀寫

首先我們先考慮第一個問題,數(shù)據(jù)庫每秒上萬的并發(fā)請求應(yīng)該如何來支撐呢?

要搞清楚這個問題,先得明白一般數(shù)據(jù)庫部署在什么配置的服務(wù)器上。

通常來說,假如你用普通配置的服務(wù)器來部署數(shù)據(jù)庫,那也起碼是16核32G的機器配置。

這種非常普通的機器配置部署的數(shù)據(jù)庫,一般線上的經(jīng)驗是:不要讓其每秒請求支撐超過2000,一般控制在2000左右。

控制在這個程度,一般數(shù)據(jù)庫負載相對合理,不會帶來太大的壓力,沒有太大的宕機風險。

所以首先第一步,就是在上萬并發(fā)請求的場景下,部署個5臺服務(wù)器,每臺服務(wù)器上都部署一個數(shù)據(jù)庫實例。

然后每個數(shù)據(jù)庫實例里,都創(chuàng)建一個一樣的庫,比如說訂單庫。

此時在5臺服務(wù)器上都有一個訂單庫,名字可以類似為:db_order_01,db_order_02,等等。

然后每個訂單庫里,都有一個相同的表,比如說訂單庫里有訂單信息表,那么此時5個訂單庫里都有一個訂單信息表。

比如db_order_01庫里就有一個tb_order_01表,db_order_02庫里就有一個tb_order_02表。

這就實現(xiàn)了一個基本的分庫分表的思路,原來的一臺數(shù)據(jù)庫服務(wù)器變成了5臺數(shù)據(jù)庫服務(wù)器,原來的一個庫變成了5個庫,原來的一張表變成了5個表。

然后你在寫入數(shù)據(jù)的時候,需要借助數(shù)據(jù)庫中間件,比如sharding-jdbc,或者是mycat,都可以。

你可以根據(jù)比如訂單id來hash后按5取模,比如每天訂單表新增50萬數(shù)據(jù),此時其中10萬條數(shù)據(jù)會落入db_order_01庫的tb_order_01表,另外10萬條數(shù)據(jù)會落入db_order_02庫的tb_order_02表,以此類推。

這樣就可以把數(shù)據(jù)均勻分散在5臺服務(wù)器上了,查詢的時候,也可以通過訂單id來hash取模,去對應(yīng)的服務(wù)器上的數(shù)據(jù)庫里,從對應(yīng)的表里查詢那條數(shù)據(jù)出來即可。

依據(jù)這個思路畫出的圖如下所示,大家可以看看。

做這一步有什么好處呢?

第一個好處,原來比如訂單表就一張表,這個時候不就成了5張表了么,那么每個表的數(shù)據(jù)就變成1/5了。

假設(shè)訂單表一年有1億條數(shù)據(jù),此時5張表里每張表一年就2000萬數(shù)據(jù)了。

那么假設(shè)當前訂單表里已經(jīng)有2000萬數(shù)據(jù)了,此時做了上述拆分,每個表里就只有400萬數(shù)據(jù)了。

而且每天新增50萬數(shù)據(jù)的話,那么每個表才新增10萬數(shù)據(jù),這樣是不是初步緩解了單表數(shù)據(jù)量過大影響系統(tǒng)性能的問題?

另外就是每秒1萬請求到5臺數(shù)據(jù)庫上,每臺數(shù)據(jù)庫就承載每秒2000的請求,是不是一下子把每臺數(shù)據(jù)庫服務(wù)器的并發(fā)請求降低到了安全范圍內(nèi)?

這樣,降低了數(shù)據(jù)庫的高峰期負載,同時還保證了高峰期的性能。

(3)大量分表來保證海量數(shù)據(jù)下的查詢性能

但是上述的數(shù)據(jù)庫架構(gòu)還有一個問題,那就是單表數(shù)據(jù)量還是過大,現(xiàn)在訂單表才分為了5張表,那么如果訂單一年有1億條,每個表就有2000萬條,這也還是太大了。

所以還應(yīng)該繼續(xù)分表,大量分表。

比如可以把訂單表一共拆分為1024張表,這樣1億數(shù)據(jù)量的話,分散到每個表里也就才10萬量級的數(shù)據(jù)量,然后這上千張表分散在5臺數(shù)據(jù)庫里就可以了。

在寫入數(shù)據(jù)的時候,需要做兩次路由,先對訂單id hash后對數(shù)據(jù)庫的數(shù)量取模,可以路由到一臺數(shù)據(jù)庫上,然后再對那臺數(shù)據(jù)庫上的表數(shù)量取模,就可以路由到數(shù)據(jù)庫上的一個表里了。

通過這個步驟,就可以讓每個表里的數(shù)據(jù)量非常小,每年1億數(shù)據(jù)增長,但是到每個表里才10萬條數(shù)據(jù)增長,這個系統(tǒng)運行10年,每個表里可能才百萬級的數(shù)據(jù)量。

這樣可以一次性為系統(tǒng)未來的運行做好充足的準備,看下面的圖,一起來感受一下:

(4)讀寫分離來支撐按需擴容以及性能提升

這個時候整體效果已經(jīng)挺不錯了,大量分表的策略保證可能未來10年,每個表的數(shù)據(jù)量都不會太大,這可以保證單表內(nèi)的SQL執(zhí)行效率和性能。

然后多臺數(shù)據(jù)庫的拆分方式,可以保證每臺數(shù)據(jù)庫服務(wù)器承載一部分的讀寫請求,降低每臺服務(wù)器的負載。

但是此時還有一個問題,假如說每臺數(shù)據(jù)庫服務(wù)器承載每秒2000的請求,然后其中400請求是寫入,1600請求是查詢。

也就是說,增刪改的SQL才占到了20%的比例,80%的請求是查詢。

此時假如說隨著用戶量越來越大,假如說又變成每臺服務(wù)器承載4000請求了。

那么其中800請求是寫入,3200請求是查詢,如果說你按照目前的情況來擴容,就需要增加一臺數(shù)據(jù)庫服務(wù)器.

但是此時可能就會涉及到表的遷移,因為需要遷移一部分表到新的數(shù)據(jù)庫服務(wù)器上去,是不是很麻煩?

其實完全沒必要,數(shù)據(jù)庫一般都支持讀寫分離,也就是做主從架構(gòu)。

寫入的時候?qū)懭胫鲾?shù)據(jù)庫服務(wù)器,查詢的時候讀取從數(shù)據(jù)庫服務(wù)器,就可以讓一個表的讀寫請求分開落地到不同的數(shù)據(jù)庫上去執(zhí)行。

這樣的話,假如寫入主庫的請求是每秒400,查詢從庫的請求是每秒1600,那么圖大概如下所示。

寫入主庫的時候,會自動同步數(shù)據(jù)到從庫上去,保證主庫和從庫數(shù)據(jù)一致。

然后查詢的時候都是走從庫去查詢的,這就通過數(shù)據(jù)庫的主從架構(gòu)實現(xiàn)了讀寫分離的效果了。

現(xiàn)在的好處就是,假如說現(xiàn)在主庫寫請求增加到800,這個無所謂,不需要擴容。然后從庫的讀請求增加到了3200,需要擴容了。

這時,你直接給主庫再掛載一個新的從庫就可以了,兩個從庫,每個從庫支撐1600的讀請求,不需要因為讀請求增長來擴容主庫。

實際上線上生產(chǎn)你會發(fā)現(xiàn),讀請求的增長速度遠遠高于寫請求,所以讀寫分離之后,大部分時候就是擴容從庫支撐更高的讀請求就可以了。

而且另外一點,對同一個表,如果你既寫入數(shù)據(jù)(涉及加鎖),還從該表查詢數(shù)據(jù),可能會牽扯到鎖沖突等問題,無論是寫性能還是讀性能,都會有影響。

所以一旦讀寫分離之后,對主庫的表就僅僅是寫入,沒任何查詢會影響他,對從庫的表就僅僅是查詢。

(5)高并發(fā)下的數(shù)據(jù)庫架構(gòu)設(shè)計總結(jié)

其實從大的一個簡化的角度來說,高并發(fā)的場景下,數(shù)據(jù)庫層面的架構(gòu)肯定是需要經(jīng)過精心的設(shè)計的。

尤其是涉及到分庫來支撐高并發(fā)的請求,大量分表保證每個表的數(shù)據(jù)量別太大,讀寫分離實現(xiàn)主庫和從庫按需擴容以及性能保證。

這篇文章就是從一個大的角度來梳理了一下思路,各位同學可以結(jié)合自己公司的業(yè)務(wù)和項目來考慮自己的系統(tǒng)如何做分庫分表應(yīng)該怎么做。

另外就是,具體的分庫分表落地的時候,需要借助數(shù)據(jù)庫中間件來實現(xiàn)分庫分表和讀寫分離,大家可以自己參考 sharding-jdbc 或者 mycat 的官網(wǎng)即可,里面的文檔都有詳細的使用描述。

    本站是提供個人知識管理的網(wǎng)絡(luò)存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點。請注意甄別內(nèi)容中的聯(lián)系方式、誘導購買等信息,謹防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊一鍵舉報。
    轉(zhuǎn)藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多

    插进她的身体里在线观看骚| 九九热精彩视频在线播放| 少妇成人精品一区二区| 欧美大胆美女a级视频| 国产午夜在线精品视频| 香蕉久久夜色精品国产尤物| 精品推荐久久久国产av| 亚洲一区二区三区在线免费| 麻豆果冻传媒一二三区| 久久精品色妇熟妇丰满人妻91| 日韩成人午夜福利免费视频| 久久精品国产亚洲av麻豆| 国产精品欧美一区两区| 亚洲日本久久国产精品久久| 欧美日韩国产一级91| 男人大臿蕉香蕉大视频| 精品欧美日韩一区二区三区| 日韩精品福利在线观看| 免费播放一区二区三区四区| 欧美日韩三区在线观看| 国产精品一区二区有码| 亚洲最新一区二区三区| 久久精品久久久精品久久| 国产亚洲欧美一区二区| 国产一区欧美一区日本道| 老鸭窝老鸭窝一区二区| 欧美国产日韩在线综合| 亚洲一区二区三区三州| 国产色偷丝袜麻豆亚洲| 国产精品一级香蕉一区| 大香蕉伊人一区二区三区| 日本办公室三级在线观看| 黑人巨大精品欧美一区二区区| 国产成人在线一区二区三区| 一个人的久久精彩视频| 久久婷婷综合色拍亚洲| 亚洲精品一区二区三区免| 激情亚洲一区国产精品久久| 欧美一本在线免费观看| 激情五月激情婷婷丁香| 亚洲天堂精品在线视频|