資訊專欄INFORMATION COLUMN
摘要：但實際情況是緩存是大型網(wǎng)站的標(biāo)配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風(fēng)格需要緩存系統(tǒng)的支持。
問題背景
略談服務(wù)端緩存設(shè)計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標(biāo)配。
雖然經(jīng)驗顯示RDBMS最快時只需0~1ms就能響應(yīng)，不遜于專門的緩存，但是當(dāng)壓力增大時，性能的下降也是飛快的。隨著業(yè)務(wù)的逐漸復(fù)雜、開發(fā)團隊的逐漸擴大，難以全面優(yōu)化所有的SQL，數(shù)據(jù)庫內(nèi)存的命中率難免下降。
數(shù)據(jù)庫的連接數(shù)是有限的、磁盤的并發(fā)能力也很差，因此當(dāng)訪問量增大或數(shù)據(jù)庫內(nèi)存命中率下降，平均響應(yīng)速度會陡然下降；更糟的是，某些查詢導(dǎo)致大量的冷數(shù)據(jù)換入并占用數(shù)據(jù)庫內(nèi)存(例如全表掃描)，真正最需要的熱數(shù)據(jù)暫時被擋在內(nèi)存外，等到1~100ms(或更久)之后才能重新被讀入數(shù)據(jù)庫內(nèi)存，到這種時候，壓力可能爆棚了。
MySQL的buffer pool hit rate指標(biāo)統(tǒng)計了命中率。
MySQL有類似于分代LRU的機制，按這個鏈接調(diào)優(yōu)能有所緩解。
以上分析告訴我們：緩存架構(gòu)要滿足冷熱分離的特征——RDBMS不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。
另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征——RDBMS也不滿足，因為寫操作會爭搶讀操作的資源。
鑒于這些局限性，RDBMS終歸還是頂不住，緩存成為大型網(wǎng)站的標(biāo)配就是順理成章的了。
方案選擇略談服務(wù)端緩存設(shè)計 一文還比較了本地緩存和分布式緩存，首推分布式緩存。那么就要選擇一款緩存系統(tǒng)。而且強烈建議預(yù)先考慮水平擴展，如果先用了單機方案，之后很難不關(guān)機就在線遷移到基于sharding的集群方案。
緩存系統(tǒng)的選擇，我隨手列一些典型方案(沒有每個都用過)，分成三系：
Memcached系：Twemproxy(手動rebalance)，Couchbase
Redis系：Twemproxy(手動rebalance)，Codis，官方的Redis Cluster
Java系：Apache Ignite(支持多種語言，兼容Memcached API)，基礎(chǔ)性能低于前兩系，但支持SQL查詢、事務(wù)和豐富的數(shù)據(jù)結(jié)構(gòu)，還能遠程執(zhí)行代碼、推送事件通知、對接本地緩存/數(shù)據(jù)庫/HDFS等。同類產(chǎn)品有Hazelcast、Gemfire。
應(yīng)用代碼怎么寫？通常是：讀操作先get緩存，若沒有，查數(shù)據(jù)庫，并且set緩存；寫操作直達數(shù)據(jù)庫，并且delete緩存。這種風(fēng)格稱為直寫式緩存。
為避免重復(fù)代碼，可以利用AOP：Java可用Spring Cache，另外Hibernate可自動管理緩存；支持高階函數(shù)的語言自帶AOP，把數(shù)據(jù)操作變成閉包，外層包一個處理緩存的函數(shù)。
還有一種風(fēng)格稱為寫回式緩存，讀寫操作都走緩存，由緩存來負責(zé)與數(shù)據(jù)庫同步。這種風(fēng)格需要緩存系統(tǒng)的支持。
結(jié)語以上對問題背景和方案選擇都做了分析，尤其觸及一些知識盲點，然而這只是理論。
是的！鑒于實際環(huán)境的復(fù)雜性(即使是本篇文章也無法反映真實情況)，最推薦的做法仍然是實測！根據(jù)真實的應(yīng)用場景來設(shè)計你的緩存架構(gòu)！(并不是只能線上實測，可以在測試環(huán)境盡量模擬。)
最后再推薦一些相關(guān)文章：
Pinterest談實戰(zhàn)經(jīng)驗：如何在兩年內(nèi)實現(xiàn)零到數(shù)百億的月訪問 http://www.qingjingjie.com/bl...
微博“異地多活”部署經(jīng)驗談 http://www.infoq.com/cn/artic...
The Log: What every software engineer should know about real-time data"s unifying abstraction https://engineering.linkedin....
文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/11743.html
摘要：但實際情況是緩存是大型網(wǎng)站的標(biāo)配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風(fēng)格需要緩存系統(tǒng)的支持。 問題背景 略談服務(wù)端緩存設(shè)計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標(biāo)配。 雖然經(jīng)驗顯示RDBMS最快時只需0~1ms...
摘要：但實際情況是緩存是大型網(wǎng)站的標(biāo)配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風(fēng)格需要緩存系統(tǒng)的支持。 問題背景 略談服務(wù)端緩存設(shè)計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標(biāo)配。 雖然經(jīng)驗顯示RDBMS最快時只需0~1ms...
摘要：降級往往會指定不同的級別，面臨不同的異常等級執(zhí)行不同的處理。談?wù)勀銓偷恼J識兩者關(guān)系具體可以看公眾號阿里巴巴中間件的這篇文章獨家解讀從微服務(wù)框架到微服務(wù)生態(tài)與并不是競爭關(guān)系，作為成熟的框架，其易用性擴展性和健壯性已得到業(yè)界的認可。 該文已加入筆主的開源項目——JavaGuide（一份涵蓋大部分Java程序員所需要掌握的核心知識的文檔類項目),地址:https://github.com/...
摘要：降級往往會指定不同的級別，面臨不同的異常等級執(zhí)行不同的處理。談?wù)勀銓偷恼J識兩者關(guān)系具體可以看公眾號阿里巴巴中間件的這篇文章獨家解讀從微服務(wù)框架到微服務(wù)生態(tài)與并不是競爭關(guān)系，作為成熟的框架，其易用性擴展性和健壯性已得到業(yè)界的認可。 該文已加入筆主的開源項目——JavaGuide（一份涵蓋大部分Java程序員所需要掌握的核心知識的文檔類項目),地址:https://github.com/...
閱讀 932·2021-10-13 09:48
閱讀 3925·2021-09-22 10:53
閱讀 3120·2021-08-30 09:41
閱讀 1950·2019-08-30 15:55
閱讀 2927·2019-08-30 15:55
閱讀 1848·2019-08-30 14:11
閱讀 2210·2019-08-29 13:44
閱讀 771·2019-08-26 12:23
