個(gè)人的觀點(diǎn)，這種大表的優(yōu)化，不一定上來(lái)就要分庫(kù)分表，因?yàn)楸硪坏┍徊鸱郑_(kāi)發(fā)、運(yùn)維的復(fù)雜度會(huì)直線上升，而大多數(shù)公司是欠缺這種能力的。所以MySQL中幾百萬(wàn)甚至小幾千萬(wàn)的表，先考慮做單表的優(yōu)化。

單表優(yōu)化

單表優(yōu)化可以從這幾個(gè)角度出發(fā)：

• 表分區(qū)：MySQL在5.1之后才有的，可以看做是水平拆分，分區(qū)表需要在建表的需要加上分區(qū)參數(shù)，用戶(hù)需要在建表的時(shí)候加上分區(qū)參數(shù)；分區(qū)表底層由多個(gè)物理子表組成，但是對(duì)于代碼來(lái)說(shuō)，分區(qū)表是透明的；SQL中的條件中最好能帶上分區(qū)條件的列，這樣可以定位到少量的分區(qū)上，否則就會(huì)掃描全部分區(qū)。
  

• 讀寫(xiě)分離：最常用的優(yōu)化手段，寫(xiě)主庫(kù)讀從庫(kù)；
  

• 增加緩存：主要的思想就是減少對(duì)數(shù)據(jù)庫(kù)的訪問(wèn)，緩存可以在整個(gè)架構(gòu)中的很多地方，比如：數(shù)據(jù)庫(kù)本身有就緩存，客戶(hù)端緩存，數(shù)據(jù)庫(kù)訪問(wèn)層對(duì)SQL語(yǔ)句的緩存，應(yīng)用程序內(nèi)的緩存，第三方緩存（如Redis等）；
  

• 字段設(shè)計(jì)：?jiǎn)伪聿灰刑嘧侄危籚ARCHAR的長(zhǎng)度盡量只分配真正需要的空間；盡量使用TIMESTAMP而非DATETIME；避免使用NULL，可以通過(guò)設(shè)置默認(rèn)值解決。
  

• 索引優(yōu)化：索引不是越多越好，針對(duì)性地建立索引，索引會(huì)加速查詢(xún)，但是對(duì)新增、修改、刪除會(huì)造成一定的影響；值域很少的字段不適合建索引；盡量不用UNIQUE，不要設(shè)置外鍵，由程序保證；
  

• SQL優(yōu)化：盡量使用索引，也要保證不要因?yàn)殄e(cuò)誤的寫(xiě)法導(dǎo)致索引失效；比如：避免前導(dǎo)模糊查詢(xún)，避免隱式轉(zhuǎn)換，避免等號(hào)左邊做函數(shù)運(yùn)算，in中的元素不宜過(guò)多等等；
  

• NoSQL：有一些場(chǎng)景，可以拋棄MySQL等關(guān)系型數(shù)據(jù)庫(kù)，擁抱NoSQL；比如：統(tǒng)計(jì)類(lèi)、日志類(lèi)、弱結(jié)構(gòu)化的數(shù)據(jù)；事務(wù)要求低的場(chǎng)景。
  

表拆分

數(shù)據(jù)量進(jìn)一步增大的時(shí)候，就不得不考慮表拆分的問(wèn)題了：

• 垂直拆分：垂直拆分的意思就是把一個(gè)字段較多的表，拆分成多個(gè)字段較少的表；上文中也說(shuō)過(guò)單表的字段不宜過(guò)多，如果初期的表結(jié)構(gòu)設(shè)計(jì)的就很好，就不會(huì)有垂直拆分的問(wèn)題了；一般來(lái)說(shuō)，MySQL單表的字段最好不要超過(guò)二三十個(gè)。
  

• 水平拆分：就是我們常說(shuō)的分庫(kù)分表了；分表，解決了單表數(shù)據(jù)過(guò)大的問(wèn)題，但是畢竟還在同一臺(tái)數(shù)據(jù)庫(kù)服務(wù)器上，所以IO、CPU、網(wǎng)絡(luò)方面的壓力，并不會(huì)得到徹底的緩解，這個(gè)可以通過(guò)分庫(kù)來(lái)解決。水平拆分優(yōu)點(diǎn)很明顯，可以利用多臺(tái)數(shù)據(jù)庫(kù)服務(wù)器的資源，提高了系統(tǒng)的負(fù)載能力；缺點(diǎn)是邏輯會(huì)變得復(fù)雜，跨節(jié)點(diǎn)的數(shù)據(jù)關(guān)聯(lián)性能差，維護(hù)難度大（特別是擴(kuò)容的時(shí)候）。
  

希望我的回答，能夠幫助到你！我將持續(xù)分享Java開(kāi)發(fā)、架構(gòu)設(shè)計(jì)、程序員職業(yè)發(fā)展等方面的見(jiàn)解，希望能得到你的關(guān)注。

MySQL數(shù)據(jù)庫(kù)是在國(guó)內(nèi)各大公司最常用的數(shù)據(jù)庫(kù)之一，MySQL是一種開(kāi)源的關(guān)系型數(shù)據(jù)庫(kù)。而對(duì)于數(shù)據(jù)庫(kù)的優(yōu)化我認(rèn)為可以從以下幾個(gè)方面進(jìn)行：

1.數(shù)據(jù)庫(kù)配置優(yōu)化在安裝MySQL數(shù)據(jù)庫(kù)時(shí)，可以對(duì)于數(shù)據(jù)庫(kù)進(jìn)行優(yōu)化，增加數(shù)據(jù)庫(kù)的連接數(shù)，增加訪問(wèn)量，訪問(wèn)量的增加可以提高查詢(xún)速度。增加緩存等優(yōu)化數(shù)據(jù)庫(kù)，在查詢(xún)時(shí)，可以直接在緩存中查詢(xún)數(shù)據(jù)；

2.表結(jié)構(gòu)優(yōu)化在創(chuàng)建表結(jié)構(gòu)時(shí)，一張數(shù)據(jù)表中不要?jiǎng)?chuàng)建過(guò)多的字段，如果一個(gè)功能的數(shù)據(jù)表結(jié)構(gòu)中字段較多，可以嘗試將字段分離出來(lái)，分別建成兩個(gè)或多個(gè)表。而且對(duì)于字段的長(zhǎng)度夠用即可，不要設(shè)置的過(guò)長(zhǎng)；

3.索引優(yōu)化可以在數(shù)據(jù)庫(kù)中，對(duì)于經(jīng)常使用的表建立索引，索引可以增加查詢(xún)的速度。但是索引不是越多越好，過(guò)多的索引反而會(huì)減慢查詢(xún)的速度。針對(duì)性地建立索引會(huì)加速查詢(xún)，但是對(duì)新增、修改、刪除會(huì)造成一定的影響；

4.SQL查詢(xún)優(yōu)化在SQL查詢(xún)時(shí)可以通過(guò)優(yōu)化SQL的查詢(xún)進(jìn)行優(yōu)化，通過(guò)增加查詢(xún)的條件優(yōu)化SQL，在多表關(guān)聯(lián)的查詢(xún)中，盡量不要使用自關(guān)聯(lián)和全關(guān)聯(lián)的方式進(jìn)行，而是使用左右關(guān)聯(lián)的方式進(jìn)行查詢(xún)。查詢(xún)語(yǔ)句將字段寫(xiě)出來(lái)，不要使用select * from t(表名)的方式進(jìn)行。

一、Mysql分庫(kù)分表方案

當(dāng)一張表的數(shù)據(jù)達(dá)到幾千萬(wàn)時(shí)，你查詢(xún)一次所花的時(shí)間會(huì)變多，如果有聯(lián)合查詢(xún)的話，我想有可能會(huì)死在那兒了。分表的目的就在于此，減小數(shù)據(jù)庫(kù)的負(fù)擔(dān)，縮短查詢(xún)時(shí)間。

mysql中有一種機(jī)制是表鎖定和行鎖定，是為了保證數(shù)據(jù)的完整性。表鎖定表示你們都不能對(duì)這張表進(jìn)行操作，必須等我對(duì)表操作完才行。行鎖定也一樣，別的sql必須等我對(duì)這條數(shù)據(jù)操作完了，才能對(duì)這條數(shù)據(jù)進(jìn)行操作。

做mysql集群,利用amoeba。

從上層的java程序來(lái)講，不需要知道主服務(wù)器和從服務(wù)器的來(lái)源，即主從數(shù)據(jù)庫(kù)服務(wù)器對(duì)于上層來(lái)講是透明的。可以通過(guò)amoeba來(lái)配置。

比如對(duì)于某網(wǎng)站平臺(tái)的數(shù)據(jù)庫(kù)表-公司表，數(shù)據(jù)量很大，這種能預(yù)估出來(lái)的大數(shù)據(jù)量表，我們就事先分出個(gè)N個(gè)表，這個(gè)N是多少，根據(jù)實(shí)際情況而定。

某網(wǎng)站現(xiàn)在的數(shù)據(jù)量至多是5000萬(wàn)條，可以設(shè)計(jì)每張表容納的數(shù)據(jù)量是500萬(wàn)條，也就是拆分成10張表，

那么如何判斷某張表的數(shù)據(jù)是否容量已滿(mǎn)呢？可以在程序段對(duì)于要新增數(shù)據(jù)的表，在插入前先做統(tǒng)計(jì)表記錄數(shù)量的操作，當(dāng)<500萬(wàn)條數(shù)據(jù)，就直接插入，當(dāng)已經(jīng)到達(dá)閥值，可以在程序段新創(chuàng)建數(shù)據(jù)庫(kù)表（或者已經(jīng)事先創(chuàng)建好），再執(zhí)行插入操作。

如果要把已有的大數(shù)據(jù)量表分開(kāi)比較痛苦，最痛苦的事就是改代碼，因?yàn)槌绦蚶锩娴膕ql語(yǔ)句已經(jīng)寫(xiě)好了。用merge存儲(chǔ)引擎來(lái)實(shí)現(xiàn)分表, 這種方法比較適合.

舉例子：

二、數(shù)據(jù)庫(kù)架構(gòu)（Java自學(xué)網(wǎng)推薦 www.javazx.com）

MySQL的主從復(fù)制解決了數(shù)據(jù)庫(kù)的讀寫(xiě)分離，并很好的提升了讀的性能，其圖如下：

其主從復(fù)制的過(guò)程如下圖所示：

但是，主從復(fù)制也帶來(lái)其他一系列性能瓶頸問(wèn)題：

1. 寫(xiě)入無(wú)法擴(kuò)展
2. 寫(xiě)入無(wú)法緩存
3. 復(fù)制延時(shí)
4. 鎖表率上升
5. 表變大，緩存率下降

那問(wèn)題產(chǎn)生總得解決的，這就產(chǎn)生下面的優(yōu)化方案，一起來(lái)看看。

如果把業(yè)務(wù)切割得足夠獨(dú)立，那把不同業(yè)務(wù)的數(shù)據(jù)放到不同的數(shù)據(jù)庫(kù)服務(wù)器將是一個(gè)不錯(cuò)的方案，而且萬(wàn)一其中一個(gè)業(yè)務(wù)崩潰了也不會(huì)影響其他業(yè)務(wù)的正常進(jìn)行，并且也起到了負(fù)載分流的作用，大大提升了數(shù)據(jù)庫(kù)的吞吐能力。經(jīng)過(guò)垂直分區(qū)后的數(shù)據(jù)庫(kù)架構(gòu)圖如下：

然而，盡管業(yè)務(wù)之間已經(jīng)足夠獨(dú)立了，但是有些業(yè)務(wù)之間或多或少總會(huì)有點(diǎn)聯(lián)系，如用戶(hù)，基本上都會(huì)和每個(gè)業(yè)務(wù)相關(guān)聯(lián)，況且這種分區(qū)方式，也不能解決單張表數(shù)據(jù)量暴漲的問(wèn)題，因此為何不試試水平分割呢？

這是一個(gè)非常好的思路，將用戶(hù)按一定規(guī)則（按id哈希）分組，并把該組用戶(hù)的數(shù)據(jù)存儲(chǔ)到一個(gè)數(shù)據(jù)庫(kù)分片中，即一個(gè)sharding，這樣隨著用戶(hù)數(shù)量的增加，只要簡(jiǎn)單地配置一臺(tái)服務(wù)器即可，原理圖如下：

如何來(lái)確定某個(gè)用戶(hù)所在的shard呢，可以建一張用戶(hù)和shard對(duì)應(yīng)的數(shù)據(jù)表，每次請(qǐng)求先從這張表找用戶(hù)的shard id，再?gòu)膶?duì)應(yīng)shard中查詢(xún)相關(guān)數(shù)據(jù)，如下圖所示：

單庫(kù)單表是最常見(jiàn)的數(shù)據(jù)庫(kù)設(shè)計(jì)，例如，有一張用戶(hù)(user)表放在數(shù)據(jù)庫(kù)db中，所有的用戶(hù)都可以在db庫(kù)中的user表中查到。

隨著用戶(hù)數(shù)量的增加，user表的數(shù)據(jù)量會(huì)越來(lái)越大，當(dāng)數(shù)據(jù)量達(dá)到一定程度的時(shí)候?qū)ser表的查詢(xún)會(huì)漸漸的變慢，從而影響整個(gè)DB的性能。如果使用mysql, 還有一個(gè)更嚴(yán)重的問(wèn)題是，當(dāng)需要添加一列的時(shí)候，mysql會(huì)鎖表，期間所有的讀寫(xiě)操作只能等待。 可以通過(guò)某種方式將user進(jìn)行水平的切分，產(chǎn)生兩個(gè)表結(jié)構(gòu)完全一樣的user_0000,user_0001等表，user_0000 + user_0001 + …的數(shù)據(jù)剛好是一份完整的數(shù)據(jù)。

隨著數(shù)據(jù)量增加也許單臺(tái)DB的存儲(chǔ)空間不夠，隨著查詢(xún)量的增加單臺(tái)數(shù)據(jù)庫(kù)服務(wù)器已經(jīng)沒(méi)辦法支撐。這個(gè)時(shí)候可以再對(duì)數(shù)據(jù)庫(kù)進(jìn)行水平區(qū)分。

四、分庫(kù)分表規(guī)則

設(shè)計(jì)表的時(shí)候需要確定此表按照什么樣的規(guī)則進(jìn)行分庫(kù)分表。例如，當(dāng)有新用戶(hù)時(shí)，程序得確定將此用戶(hù)信息添加到哪個(gè)表中；同理，當(dāng)?shù)卿浀臅r(shí)候我們得通過(guò)用戶(hù)的賬號(hào)找到數(shù)據(jù)庫(kù)中對(duì)應(yīng)的記錄，所有的這些都需要按照某一規(guī)則進(jìn)行。 路由 通過(guò)分庫(kù)分表規(guī)則查找到對(duì)應(yīng)的表和庫(kù)的過(guò)程。如分庫(kù)分表的規(guī)則是user_id mod 4的方式，當(dāng)用戶(hù)新注冊(cè)了一個(gè)賬號(hào)，賬號(hào)id的123,我們可以通過(guò)id mod 4的方式確定此賬號(hào)應(yīng)該保存到User_0003表中。當(dāng)用戶(hù)123登錄的時(shí)候，我們通過(guò)123 mod 4后確定記錄在User_0003中。 分庫(kù)分表產(chǎn)生的問(wèn)題，及注意事項(xiàng)

假如用戶(hù)購(gòu)買(mǎi)了商品,需要將交易記錄保存取來(lái)，如果按照用戶(hù)的緯度分表，則每個(gè)用戶(hù)的交易記錄都保存在同一表中，所以很快很方便的查找到某用戶(hù)的 購(gòu)買(mǎi)情況，但是某商品被購(gòu)買(mǎi)的情況則很有可能分布在多張表中，查找起來(lái)比較麻煩。反之，按照商品維度分表，可以很方便的查找到此商品的購(gòu)買(mǎi)情況，但要查找 到買(mǎi)人的交易記錄比較麻煩。 所以常見(jiàn)的解決方式有：

• 通過(guò)掃表的方式解決，此方法基本不可能，效率太低了。
• 記錄兩份數(shù)據(jù)，一份按照用戶(hù)緯度分表，一份按照商品維度分表。
• 通過(guò)搜索引擎解決，但如果實(shí)時(shí)性要求很高，又得關(guān)系到實(shí)時(shí)搜索。

聯(lián)合查詢(xún)基本不可能，因?yàn)殛P(guān)聯(lián)的表有可能不在同一數(shù)據(jù)庫(kù)中。

避免在一個(gè)事務(wù)中修改db0中的表的時(shí)候同時(shí)修改db1中的表，一個(gè)是操作起來(lái)更復(fù)雜，效率也會(huì)有一定影響。

例如將賣(mài)家a的商品和交易信息都放到db0中，當(dāng)db1掛了的時(shí)候，賣(mài)家a相關(guān)的東西可以正常使用。也就是說(shuō)避免數(shù)據(jù)庫(kù)中的數(shù)據(jù)依賴(lài)另一數(shù)據(jù)庫(kù)中的數(shù)據(jù)。

在實(shí)際的應(yīng)用中，絕大部分情況都是讀遠(yuǎn)大于寫(xiě)。Mysql提供了讀寫(xiě)分離的機(jī)制，所有的寫(xiě)操作都必須對(duì)應(yīng)到Master，讀操作可以在 Master和Slave機(jī)器上進(jìn)行，Slave與Master的結(jié)構(gòu)完全一樣，一個(gè)Master可以有多個(gè)Slave,甚至Slave下還可以掛 Slave,通過(guò)此方式可以有效的提高DB集群的 QPS. 所有的寫(xiě)操作都是先在Master上操作，然后同步更新到Slave上，所以從Master同步到Slave機(jī)器有一定的延遲，當(dāng)系統(tǒng)很繁忙的時(shí)候，延遲問(wèn)題會(huì)更加嚴(yán)重，Slave機(jī)器數(shù)量的增加也會(huì)使這個(gè)問(wèn)題更加嚴(yán)重。 此外，可以看出Master是集群的瓶頸，當(dāng)寫(xiě)操作過(guò)多，會(huì)嚴(yán)重影響到Master的穩(wěn)定性，如果Master掛掉，整個(gè)集群都將不能正常工作。 所以

• 當(dāng)讀壓力很大的時(shí)候，可以考慮添加Slave機(jī)器的分式解決，但是當(dāng)Slave機(jī)器達(dá)到一定的數(shù)量就得考慮分庫(kù)了。
• 當(dāng)寫(xiě)壓力很大的時(shí)候，就必須得進(jìn)行分庫(kù)操作。

五、MySQL使用為什么要分庫(kù)分表

可以用說(shuō)用到MySQL的地方,只要數(shù)據(jù)量一大, 馬上就會(huì)遇到一個(gè)問(wèn)題,要分庫(kù)分表. 這里引用一個(gè)問(wèn)題為什么要分庫(kù)分表呢?MySQL處理不了大的表嗎? 其實(shí)是可以處理的大表的.我所經(jīng)歷的項(xiàng)目中單表物理上文件大小在80G多,單表記錄數(shù)在5億以上,而且這個(gè)表 屬于一個(gè)非常核用的表:朋友關(guān)系表. 但這種方式可以說(shuō)不是一個(gè)最佳方式. 因?yàn)槊媾R文件系統(tǒng)如Ext3文件系統(tǒng)對(duì)大于大文件處理上也有許多問(wèn)題. 這個(gè)層面可以用xfs文件系統(tǒng)進(jìn)行替換.但MySQL單表太大后有一個(gè)問(wèn)題是不好解決: 表結(jié)構(gòu)調(diào)整相關(guān)的操作基 本不在可能.所以大項(xiàng)在使用中都會(huì)面監(jiān)著分庫(kù)分表的應(yīng)用. 從Innodb本身來(lái)講數(shù)據(jù)文件的Btree上只有兩個(gè)鎖, 葉子節(jié)點(diǎn)鎖和子節(jié)點(diǎn)鎖,可以想而知道,當(dāng)發(fā)生頁(yè)拆分或是添加新葉時(shí)都會(huì)造成表里不能寫(xiě)入數(shù)據(jù).所以分庫(kù)分表還就是一個(gè)比較好的選擇了. 那么分庫(kù)分表多少合適呢? 經(jīng)測(cè)試在單表1000萬(wàn)條記錄一下,寫(xiě)入讀取性能是比較好的. 這樣在留點(diǎn)buffer,那么單表全是數(shù)據(jù)字型的保持在800萬(wàn)條記錄以下, 有字符型的單表保持在500萬(wàn)以下. 如果按 100庫(kù)100表來(lái)規(guī)劃,如用戶(hù)業(yè)務(wù): 500萬(wàn)*100*100 = 50000000萬(wàn) = 5000億記錄. 心里有一個(gè)數(shù)了,按業(yè)務(wù)做規(guī)劃還是比較容易的.

分布式數(shù)據(jù)庫(kù)架構(gòu)--排序、分頁(yè)、分組、實(shí)現(xiàn)

六、最近研究分布式數(shù)據(jù)庫(kù)架構(gòu)，發(fā)現(xiàn)排序、分組及分頁(yè)讓著實(shí)人有點(diǎn)頭疼。現(xiàn)把問(wèn)題及解決思路整理如下。

解決思路：對(duì)各分片返回的有序記錄，進(jìn)行排序去重合并。此處主要是編寫(xiě)排序去重合并算法。

解決思路：對(duì)各分片返回的無(wú)序記錄，進(jìn)行去重合并。

• 優(yōu)點(diǎn)：實(shí)現(xiàn)比較簡(jiǎn)單。
• 缺點(diǎn)：數(shù)據(jù)量越大，字段越多，去重處理就會(huì)越耗時(shí)。

• AF：Max、Min
  • 思路：通過(guò)算法對(duì)各分片返回結(jié)果再求max、min值。
• AF：Avg、Sum、Count
  • 思路：分片間無(wú)重復(fù)記錄或字段時(shí)，通過(guò)算法對(duì)各分片返回結(jié)果再求avg、sum、count值。分片間有重復(fù)記錄或字段時(shí)，先對(duì)各分片記錄去重合并，再通過(guò)算法求avg、sum、count值。

比如：

解決思路：合并各分片返回結(jié)果，邏輯分頁(yè)。

優(yōu)點(diǎn)： 實(shí)現(xiàn)簡(jiǎn)單。

缺點(diǎn)： 數(shù)據(jù)量越大，緩存壓力就越大。

分片數(shù)據(jù)量越大，查詢(xún)也會(huì)越慢。

• Select + None Aggregate Function
  • 比如：select job user group by job;
  • 思路：直接去重（排序）合并。
• Select + Aggregate Function
  • 比如：select max(sal),job user group by job;
  • 思路：同Select + Aggregate Function的記錄合并（排序）。

解決思路：去掉having AF條件查詢(xún)各分片，然后把數(shù)據(jù)放到一張表里。再用group by having 聚合函數(shù)查詢(xún)。

• 解決方案1：Hadoop + Hive。
  • 思路：使用Hadoop HDFS來(lái)存儲(chǔ)數(shù)據(jù)，通過(guò)Hdoop MapReduce完成數(shù)據(jù)計(jì)算，通過(guò)Hive HQL語(yǔ)言使用部分與RDBBS一樣的表格查詢(xún)特性和分布式存儲(chǔ)計(jì)算特性。
  • 優(yōu)點(diǎn)：

1. 1. 可以解決問(wèn)題
   2. 具有并發(fā)處理能力
   3. 可以離線處理

• • 缺點(diǎn)：

1. 1. 實(shí)時(shí)性不能保證
   2. 網(wǎng)絡(luò)延遲會(huì)增加
   3. 異常捕獲難度增加
   4. Web應(yīng)用起來(lái)比較復(fù)雜

• 解決方案2：總庫(kù)集中查詢(xún)。
  • 優(yōu)點(diǎn)：

1. 1. 可以解決問(wèn)題
   2. 實(shí)現(xiàn)簡(jiǎn)單

• • 缺點(diǎn)：

1. 1. 總庫(kù)數(shù)據(jù)不能太大
   2. 并發(fā)壓力大

對(duì) 于分布式數(shù)據(jù)庫(kù)架構(gòu)來(lái)說(shuō)，排序、分頁(yè)、分組一直就是一個(gè)比較復(fù)雜的問(wèn)題。避免此問(wèn)題需要好好地設(shè)計(jì)分庫(kù)、分表策略。同時(shí)根據(jù)特定的場(chǎng)景來(lái)解決問(wèn)題。也可以 充分利用海量數(shù)據(jù)存儲(chǔ)（Hadoop-HDFS|Hive|HBse）、搜索引擎（Lucene|Solr）及分布式計(jì)算（MapReduce）等技術(shù)來(lái) 解決問(wèn)題。別外，也可以用NoSQL技術(shù)替代關(guān)系性數(shù)據(jù)庫(kù)來(lái)解決問(wèn)題，比如MogonDB edis。