摘要:而且只要他更新完畢對修飾的變量賦值,那么讀線程立馬可以看到最新修改后的數組,這是保證的。這個時候,就采用了思想來實現這個,避免更新的時候阻塞住高頻的讀操作,實現無鎖的效果,優化線程并發的性能。
“ 今天聊一個非常硬核的技術知識,給大家分析一下CopyOnWrite思想是什么,以及在Java并發包中的具體體現,包括在Kafka內核源碼中是如何運用這個思想來優化并發性能的。1、讀多寫少的場景下引發的問題?這個CopyOnWrite在面試的時候,很可能成為面試官的一個殺手锏把候選人給一擊必殺,也很有可能成為候選人拿下Offer的獨門秘籍,是相對高級的一個知識。
大家可以設想一下現在我們的內存里有一個ArrayList,這個ArrayList默認情況下肯定是線程不安全的,要是多個線程并發讀和寫這個ArrayList可能會有問題。
好,問題來了,我們應該怎么讓這個ArrayList變成線程安全的呢?
有一個非常簡單的辦法,對這個ArrayList的訪問都加上線程同步的控制。
比如說一定要在synchronized代碼段來對這個ArrayList進行訪問,這樣的話,就能同一時間就讓一個線程來操作它了,或者是用ReadWriteLock讀寫鎖的方式來控制,都可以。
我們假設就是用ReadWriteLock讀寫鎖的方式來控制對這個ArrayList的訪問。
這樣多個讀請求可以同時執行從ArrayList里讀取數據,但是讀請求和寫請求之間互斥,寫請求和寫請求也是互斥的。
大家看看,代碼大概就是類似下面這樣:
public Object read() { lock.readLock().lock(); // 對ArrayList讀取 lock.readLock().unlock(); } public void write() { lock.writeLock().lock(); // 對ArrayList寫 lock.writeLock().unlock(); }
大家想想,類似上面的代碼有什么問題呢?
最大的問題,其實就在于寫鎖和讀鎖的互斥。假設寫操作頻率很低,讀操作頻率很高,是寫少讀多的場景。
那么偶爾執行一個寫操作的時候,是不是會加上寫鎖,此時大量的讀操作過來是不是就會被阻塞住,無法執行?
這個就是讀寫鎖可能遇到的最大的問題。
2、引入 CopyOnWrite 思想解決問題這個時候就要引入CopyOnWrite思想來解決問題了。
他的思想就是,不用加什么讀寫鎖,鎖統統給我去掉,有鎖就有問題,有鎖就有互斥,有鎖就可能導致性能低下,你阻塞我的請求,導致我的請求都卡著不能執行。
那么他怎么保證多線程并發的安全性呢?
很簡單,顧名思義,利用“CopyOnWrite”的方式,這個英語翻譯成中文,大概就是“寫數據的時候利用拷貝的副本來執行”。
你在讀數據的時候,其實不加鎖也沒關系,大家左右都是一個讀罷了,互相沒影響。
問題主要是在寫的時候,寫的時候你既然不能加鎖了,那么就得采用一個策略。
假如說你的ArrayList底層是一個數組來存放你的列表數據,那么這時比如你要修改這個數組里的數據,你就必須先拷貝這個數組的一個副本。
然后你可以在這個數組的副本里寫入你要修改的數據,但是在這個過程中實際上你都是在操作一個副本而已。
這樣的話,讀操作是不是可以同時正常的執行?這個寫操作對讀操作是沒有任何的影響的吧!
大家看下面的圖,一起來體會一下這個過程:
關鍵問題來了,那那個寫線程現在把副本數組給修改完了,現在怎么才能讓讀線程感知到這個變化呢?
關鍵點來了,劃重點!這里要配合上volatile關鍵字的使用。
筆者之前寫過文章,給大家解釋過volatile關鍵字的使用,核心就是讓一個變量被寫線程給修改之后,立馬讓其他線程可以讀到這個變量引用的最近的值,這就是volatile最核心的作用。
所以一旦寫線程搞定了副本數組的修改之后,那么就可以用volatile寫的方式,把這個副本數組賦值給volatile修飾的那個數組的引用變量了。
只要一賦值給那個volatile修飾的變量,立馬就會對讀線程可見,大家都能看到最新的數組了。
下面是JDK里的 CopyOnWriteArrayList 的源碼。
大家看看寫數據的時候,他是怎么拷貝一個數組副本,然后修改副本,接著通過volatile變量賦值的方式,把修改好的數組副本給更新回去,立馬讓其他線程可見的。
// 這個數組是核心的,因為用volatile修飾了 // 只要把最新的數組對他賦值,其他線程立馬可以看到最新的數組 private transient volatile Object[] array; public boolean add(E e) { final ReentrantLock lock = this.lock; lock.lock(); try { Object[] elements = getArray(); int len = elements.length; // 對數組拷貝一個副本出來 Object[] newElements = Arrays.copyOf(elements, len + 1); // 對副本數組進行修改,比如在里面加入一個元素 newElements[len] = e; // 然后把副本數組賦值給volatile修飾的變量 setArray(newElements); return true; } finally { lock.unlock(); } }
然后大家想,因為是通過副本來進行更新的,萬一要是多個線程都要同時更新呢?那搞出來多個副本會不會有問題?
當然不能多個線程同時更新了,這個時候就是看上面源碼里,加入了lock鎖的機制,也就是同一時間只有一個線程可以更新。
那么更新的時候,會對讀操作有任何的影響嗎?
絕對不會,因為讀操作就是非常簡單的對那個數組進行讀而已,不涉及任何的鎖。而且只要他更新完畢對volatile修飾的變量賦值,那么讀線程立馬可以看到最新修改后的數組,這是volatile保證的。
這樣就完美解決了我們之前說的讀多寫少的問題。
如果用讀寫鎖互斥的話,會導致寫鎖阻塞大量讀操作,影響并發性能。
但是如果用了CopyOnWriteArrayList,就是用空間換時間,更新的時候基于副本更新,避免鎖,然后最后用volatile變量來賦值保證可見性,更新的時候對讀線程沒有任何的影響!
3、CopyOnWrite 思想在Kafka源碼中的運用
在Kafka的內核源碼中,有這么一個場景,客戶端在向Kafka寫數據的時候,會把消息先寫入客戶端本地的內存緩沖,然后在內存緩沖里形成一個Batch之后再一次性發送到Kafka服務器上去,這樣有助于提升吞吐量。
話不多說,大家看下圖:
這個時候Kafka的內存緩沖用的是什么數據結構呢?大家看源碼:
private final ConcurrentMapbatches = new CopyOnWriteMap ();
這個數據結構就是核心的用來存放寫入內存緩沖中的消息的數據結構,要看懂這個數據結構需要對很多Kafka內核源碼里的概念進行解釋,這里先不展開。
但是大家關注一點,他是自己實現了一個CopyOnWriteMap,這個CopyOnWriteMap采用的就是CopyOnWrite思想。
我們來看一下這個CopyOnWriteMap的源碼實現:
// 典型的volatile修飾普通Map private volatile Mapmap; @Override public synchronized V put(K k, V v) { // 更新的時候先創建副本,更新副本,然后對volatile變量賦值寫回去 Mapcopy= new HashMap(this.map); V prev = copy.put(k, v); this.map = Collections.unmodifiableMap(copy); return prev; } @Override public V get(Object k) { // 讀取的時候直接讀volatile變量引用的map數據結構,無需鎖 return map.get(k); }
所以Kafka這個核心數據結構在這里之所以采用CopyOnWriteMap思想來實現,就是因為這個Map的key-value對,其實沒那么頻繁更新。
也就是TopicPartition-Deque這個key-value對,更新頻率很低。
但是他的get操作卻是高頻的讀取請求,因為會高頻的讀取出來一個TopicPartition對應的Deque數據結構,來對這個隊列進行入隊出隊等操作,所以對于這個map而言,高頻的是其get操作。
這個時候,Kafka就采用了CopyOnWrite思想來實現這個Map,避免更新key-value的時候阻塞住高頻的讀操作,實現無鎖的效果,優化線程并發的性能。
相信大家看完這個文章,對于CopyOnWrite思想以及適用場景,包括JDK中的實現,以及在Kafka源碼中的運用,都有了一個切身的體會了。
如果你能在面試時說清楚這個思想以及他在JDK中的體現,并且還能結合知名的開源項目 Kafka 的底層源碼進一步向面試官進行闡述,面試官對你的印象肯定大大的加分。
本文轉載自:http://www.imooc.com/article/...
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/74523.html
摘要:可現在五年過去了,他想跳槽卻鮮有人問津。最可氣的是比他晚一年畢業的學弟,勤勤懇懇在一家中型互聯網企業干了年,現在已經跳槽到了阿里,月薪是我這個同學的倍。 我有個同學大學畢業,因為卻少工作經驗,又不愿意去正經的互聯網企業做實習生,他嫌工資太低,于是進了家外包公司,那時候感覺待遇還可以。可現在五...
摘要:有可能,會造成優先級反轉或者饑餓現象。悲觀鎖在中的使用,就是利用各種鎖。對于而言,其是獨享鎖。偏向鎖,顧名思義,它會偏向于第一個訪問鎖的線程,大多數情況下鎖不僅不存在多線程競爭,而且總是由同一線程多次獲得。 理解鎖的基礎知識 如果想要透徹的理解java鎖的來龍去脈,需要先了解以下基礎知識。 基礎知識之一:鎖的類型 按照其性質分類 公平鎖/非公平鎖 公平鎖是指多個線程按照申請鎖的順序來獲...
摘要:線程安全的線程安全的,在讀多寫少的場合性能非常好,遠遠好于高效的并發隊列,使用鏈表實現。這樣帶來的好處是在高并發的情況下,你會需要一個全局鎖來保證整個平衡樹的線程安全。 該文已加入開源項目:JavaGuide(一份涵蓋大部分Java程序員所需要掌握的核心知識的文檔類項目,Star 數接近 14 k)。地址:https://github.com/Snailclimb... 一 JDK ...
摘要:還是老規矩,從易到難吧傳統的定時器,異步編程等。分配對象時,先是在空間中進行分配。內存泄漏內存泄漏是指程序中己動態分配的堆內存由于某種原因程序未釋放或無法釋放,造成系統內存的浪費,導致程序運行速度減慢甚至系統崩潰等嚴重后果。 showImg(https://segmentfault.com/img/bVbwkad?w=1286&h=876); 網上參差不棄的面試題,本文由淺入深,讓你在...
閱讀 2294·2021-11-10 11:35
閱讀 912·2021-09-26 09:55
閱讀 2405·2021-09-22 15:22
閱讀 2327·2021-09-22 15:17
閱讀 3697·2021-09-09 09:33
閱讀 1834·2019-08-30 11:22
閱讀 976·2019-08-30 10:57
閱讀 649·2019-08-29 16:10