摘要:對(duì)于偽共享的傳統(tǒng)解決方案微信公眾號(hào)技術(shù)棧以上使用此方法的某個(gè)版本對(duì)偽共享做了優(yōu)化以下使用此方法中的解決方案中已經(jīng)提供了官方的解決方案,中新增了一個(gè)注解。
1. 什么是偽共享
CPU 緩存系統(tǒng)中是以緩存行(cache line)為單位存儲(chǔ)的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多線程情況下,如果需要修改“共享同一個(gè)緩存行的變量”,就會(huì)無(wú)意中影響彼此的性能,這就是偽共享(False Sharing)。
2. 緩存行由于共享變量在 CPU 緩存中的存儲(chǔ)是以緩存行為單位,一個(gè)緩存行可以存儲(chǔ)多個(gè)變量(存滿當(dāng)前緩存行的字節(jié)數(shù));而CPU對(duì)緩存的修改又是以緩存行為最小單位的,那么就會(huì)出現(xiàn)上訴的偽共享問(wèn)題。
Cache Line 可以簡(jiǎn)單的理解為 CPU Cache 中的最小緩存單位,今天的 CPU 不再是按字節(jié)訪問(wèn)內(nèi)存,而是以 64 字節(jié)為單位的塊(chunk)拿取,稱為一個(gè)緩存行(cache line)。當(dāng)你讀一個(gè)特定的內(nèi)存地址,整個(gè)緩存行將從主存換入緩存,并且訪問(wèn)同一個(gè)緩存行內(nèi)的其它值的開(kāi)銷是很小的。
3. CPU 的三級(jí)緩存由于 CPU 的速度遠(yuǎn)遠(yuǎn)大于內(nèi)存速度,所以 CPU 設(shè)計(jì)者們就給 CPU 加上了緩存(CPU Cache)。 以免運(yùn)算被內(nèi)存速度拖累。(就像我們寫(xiě)代碼把共享數(shù)據(jù)做Cache不想被DB存取速度拖累一樣),CPU Cache 分成了三個(gè)級(jí)別:L1,L2,L3。越靠近CPU的緩存越快也越小。所 以L1 緩存很小但很快,并且緊靠著在使用它的 CPU 內(nèi)核。L2 大一些,也慢一些,并且仍然只能被一個(gè)多帶帶的 CPU 核使用。L3 在現(xiàn)代多核機(jī)器中更普遍,仍然更大,更慢,并且被單個(gè)插槽上的所有 CPU 核共享。最后,你擁有一塊主存,由全部插槽上的所有 CPU 核共享。
當(dāng) CPU 執(zhí)行運(yùn)算的時(shí)候,它先去L1查找所需的數(shù)據(jù),再去L2,然后是L3,最后如果這些緩存中都沒(méi)有,所需的數(shù)據(jù)就要去主內(nèi)存拿。走得越遠(yuǎn),運(yùn)算耗費(fèi)的時(shí)間就越長(zhǎng)。所以如果你在做一些很頻繁的事,你要確保數(shù)據(jù)在L1緩存中。
4. 緩存關(guān)聯(lián)性目前常用的緩存設(shè)計(jì)是N路組關(guān)聯(lián)(N-Way Set Associative Cache),他的原理是把一個(gè)緩存按照N個(gè) Cache Line 作為一組(Set),緩存按組劃為等分。每個(gè)內(nèi)存塊能夠被映射到相對(duì)應(yīng)的set中的任意一個(gè)緩存行中。比如一個(gè)16路緩存,16個(gè) Cache Line 作為一個(gè)Set,每個(gè)內(nèi)存塊能夠被映射到相對(duì)應(yīng)的 Set 中的16個(gè) CacheLine 中的任意一個(gè)。一般地,具有一定相同低bit位地址的內(nèi)存塊將共享同一個(gè)Set。
下圖為一個(gè)2-Way的Cache。由圖中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中,Index 1,3,5都映射在Way1的不同 CacheLine 中。
5. MESI 協(xié)議多核 CPU 都有自己的專有緩存(一般為L(zhǎng)1,L2),以及同一個(gè) CPU 插槽之間的核共享的緩存(一般為L(zhǎng)3)。不同核心的CPU緩存中難免會(huì)加載同樣的數(shù)據(jù),那么如何保證數(shù)據(jù)的一致性呢,就是 MESI 協(xié)議了。
在 MESI 協(xié)議中,每個(gè) Cache line 有4個(gè)狀態(tài),可用 2 個(gè) bit 表示,它們分別是:
M(Modified):這行數(shù)據(jù)有效,數(shù)據(jù)被修改了,和內(nèi)存中的數(shù)據(jù)不一致,數(shù)據(jù)只存在于本 Cache 中;
E(Exclusive):這行數(shù)據(jù)有效,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致,數(shù)據(jù)只存在于本 Cache 中;
S(Shared):這行數(shù)據(jù)有效,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致,數(shù)據(jù)存在于很多 Cache 中;
I(Invalid):這行數(shù)據(jù)無(wú)效。
那么,假設(shè)有一個(gè)變量i=3(應(yīng)該是包括變量i的緩存塊,塊大小為緩存行大小);已經(jīng)加載到多核(a,b,c)的緩存中,此時(shí)該緩存行的狀態(tài)為S;此時(shí)其中的一個(gè)核a改變了變量i的值,那么在核a中的當(dāng)前緩存行的狀態(tài)將變?yōu)镸,b,c核中的當(dāng)前緩存行狀態(tài)將變?yōu)镮。如下圖:
6. 解決原理為了避免由于 false sharing 導(dǎo)致 Cache Line 從 L1,L2,L3 到主存之間重復(fù)載入,我們可以使用數(shù)據(jù)填充的方式來(lái)避免,即單個(gè)數(shù)據(jù)填充滿一個(gè)CacheLine。這本質(zhì)是一種空間換時(shí)間的做法。
7. Java 對(duì)于偽共享的傳統(tǒng)解決方案/*** * 微信公眾號(hào):Java技術(shù)棧 **/ import java.util.concurrent.atomic.AtomicLong; public final class FalseSharing implements Runnable { public final static int NUM_THREADS = 4; // change public final static long ITERATIONS = 500L * 1000L * 1000L; private final int arrayIndex; private static VolatileLong[] longs = new VolatileLong[NUM_THREADS]; static { for (int i = 0; i < longs.length; i++) { longs[i] = new VolatileLong(); } } public FalseSharing(final int arrayIndex) { this.arrayIndex = arrayIndex; } public static void main(final String[] args) throws Exception { final long start = System.nanoTime(); runTest(); System.out.println("duration = " + (System.nanoTime() - start)); } private static void runTest() throws InterruptedException { Thread[] threads = new Thread[NUM_THREADS]; for (int i = 0; i < threads.length; i++) { threads[i] = new Thread(new FalseSharing(i)); } for (Thread t : threads) { t.start(); } for (Thread t : threads) { t.join(); } } public void run() { long i = ITERATIONS + 1; while (0 != --i) { longs[arrayIndex].set(i); } } public static long sumPaddingToPreventOptimisation(final int index) { VolatileLong v = longs[index]; return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6; } //jdk7以上使用此方法(jdk7的某個(gè)版本oracle對(duì)偽共享做了優(yōu)化) public final static class VolatileLong { public volatile long value = 0L; public long p1, p2, p3, p4, p5, p6; } // jdk7以下使用此方法 public final static class VolatileLong { public long p1, p2, p3, p4, p5, p6, p7; // cache line padding public volatile long value = 0L; public long p8, p9, p10, p11, p12, p13, p14; // cache line padding } }8. Java 8 中的解決方案
Java 8 中已經(jīng)提供了官方的解決方案,Java 8 中新增了一個(gè)注解:@sun.misc.Contended。加上這個(gè)注解的類會(huì)自動(dòng)補(bǔ)齊緩存行,需要注意的是此注解默認(rèn)是無(wú)效的,需要在 jvm 啟動(dòng)時(shí)設(shè)置 -XX:-RestrictContended 才會(huì)生效。
@sun.misc.Contended public final static class VolatileLong { public volatile long value = 0L; //public long p1, p2, p3, p4, p5, p6;參考文獻(xiàn)
http://igoro.com/archive/gall...
http://ifeve.com/false-sharing/
http://blog.csdn.net/muxiqing...
https://yq.aliyun.com/article...
@碼農(nóng)們,你們是怎么理解和解決偽共享的?歡迎留言!
推薦:Spring Boot & Cloud 最強(qiáng)技術(shù)教程
掃描關(guān)注我們的微信公眾號(hào),干貨每天更新。
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://m.specialneedsforspecialkids.com/yun/71267.html
摘要:買了多少德國(guó)先讓讓,把天臺(tái)先讓給月暴跌股民們。還不如看下月的干貨,提升技術(shù)實(shí)力是正事。枕邊算法書(shū)眾所周知,算法是軟件開(kāi)發(fā)人員必須掌握的重要知識(shí)。但也不乏有人覺(jué)得算法很枯燥,所以推薦了枕邊算法書(shū),號(hào)稱躺著都能看得懂的算法書(shū)。 6月過(guò)完了,這一年都 TM 過(guò)了一半了,大家都回想下自己這大半年,你都收獲了什么??技術(shù)有提升嗎?對(duì)象搞定了嗎? 說(shuō)多了都是淚,唯有 WIFI、空調(diào)、西瓜、足球能夠...
摘要:下面具體分析的用法及原理,涉及到內(nèi)存模型可見(jiàn)性重排序以及偽共享等方面。緩存的使用提高了的運(yùn)行效率,但是對(duì)于多核處理器會(huì)有一些問(wèn)題。需要注意的是,用于保證一個(gè)變量的可見(jiàn)性,但是對(duì)于這種復(fù)合操作是無(wú)法保證原子性的。 簡(jiǎn)介 在 Java 并發(fā)編程中,volatile 是經(jīng)常用到的一個(gè)關(guān)鍵字,它可以用于保證不同的線程共享一個(gè)變量時(shí)每次都能獲取最新的值。volatile 具有鎖的部分功能并且性能...
摘要:上例中打印的結(jié)果是對(duì)中的名都做了處理,使用對(duì)象來(lái)保存原和混淆后的對(duì)應(yīng)關(guān)系。結(jié)合實(shí)踐在處直接使用中名即可。如因?yàn)橹粫?huì)轉(zhuǎn)變類選擇器,所以這里的屬性選擇器不需要添加。 showImg(http://gtms01.alicdn.com/tps/i1/TB15w0HLpXXXXbdaXXXjhvsIVXX-600-364.png); CSS 是前端領(lǐng)域中進(jìn)化最慢的一塊。由于 ES2015/201...
摘要:基礎(chǔ)問(wèn)題的的性能及原理之區(qū)別詳解備忘筆記深入理解流水線抽象關(guān)鍵字修飾符知識(shí)點(diǎn)總結(jié)必看篇中的關(guān)鍵字解析回調(diào)機(jī)制解讀抽象類與三大特征時(shí)間和時(shí)間戳的相互轉(zhuǎn)換為什么要使用內(nèi)部類對(duì)象鎖和類鎖的區(qū)別,,優(yōu)缺點(diǎn)及比較提高篇八詳解內(nèi)部類單例模式和 Java基礎(chǔ)問(wèn)題 String的+的性能及原理 java之yield(),sleep(),wait()區(qū)別詳解-備忘筆記 深入理解Java Stream流水...
閱讀 3249·2023-04-25 20:35
閱讀 3612·2019-08-30 15:54
閱讀 1991·2019-08-30 15:43
閱讀 2181·2019-08-29 15:14
閱讀 1888·2019-08-29 11:17
閱讀 3378·2019-08-26 13:36
閱讀 693·2019-08-26 10:15
閱讀 2832·2019-08-23 15:41