摘要:第二步執行任務并合并結果。使用兩個類來完成以上兩件事情我們要使用框架,必須首先創建一個任務。用于有返回結果的任務。如果任務順利執行完成了,則設置任務狀態為,如果出現異常,則紀錄異常,并將任務狀態設置為。
1. 什么是Fork/Join框架
Fork/Join框架是Java7提供了的一個用于并行執行任務的框架, 是一個把大任務分割成若干個小任務,最終匯總每個小任務結果后得到大任務結果的框架。
我們再通過Fork和Join這兩個單詞來理解下Fork/Join框架,Fork就是把一個大任務切分為若干子任務并行的執行,Join就是合并這些子任務的執行結果,最后得到這個大任務的結果。比如計算1+2+ ...+10000,可以分割成10個子任務,每個子任務分別對1000個數進行求和,最終匯總這10個子任務的結果。Fork/Join的運行流程圖如下:
2. 工作竊取算法工作竊取(work-stealing)算法是指某個線程從其他隊列里竊取任務來執行。工作竊取的運行流程圖如下:
那么為什么需要使用工作竊取算法呢?假如我們需要做一個比較大的任務,我們可以把這個任務分割為若干互不依賴的子任務,為了減少線程間的競爭,于是把這些子任務分別放到不同的隊列里,并為每個隊列創建一個多帶帶的線程來執行隊列里的任務,線程和隊列一一對應,比如A線程負責處理A隊列里的任務。但是有的線程會先把自己隊列里的任務干完,而其他線程對應的隊列里還有任務等待處理。干完活的線程與其等著,不如去幫其他線程干活,于是它就去其他線程的隊列里竊取一個任務來執行。而在這時它們會訪問同一個隊列,所以為了減少竊取任務線程和被竊取任務線程之間的競爭,通常會使用雙端隊列,被竊取任務線程永遠從雙端隊列的頭部拿任務執行,而竊取任務的線程永遠從雙端隊列的尾部拿任務執行。
工作竊取算法的優點是充分利用線程進行并行計算,并減少了線程間的競爭,其缺點是在某些情況下還是存在競爭,比如雙端隊列里只有一個任務時。并且消耗了更多的系統資源,比如創建多個線程和多個雙端隊列。
3. Fork/Join框架的介紹我們已經很清楚Fork/Join框架的需求了,那么我們可以思考一下,如果讓我們來設計一個Fork/Join框架,該如何設計?這個思考有助于你理解Fork/Join框架的設計。
第一步分割任務。首先我們需要有一個fork類來把大任務分割成子任務,有可能子任務還是很大,所以還需要不停的分割,直到分割出的子任務足夠小。
第二步執行任務并合并結果。分割的子任務分別放在雙端隊列里,然后幾個啟動線程分別從雙端隊列里獲取任務執行。子任務執行完的結果都統一放在一個隊列里,啟動一個線程從隊列里拿數據,然后合并這些數據。
Fork/Join使用兩個類來完成以上兩件事情:
ForkJoinTask:我們要使用ForkJoin框架,必須首先創建一個ForkJoin任務。它提供在任務中執行fork()和join()操作的機制,通常情況下我們不需要直接繼承ForkJoinTask類,而只需要繼承它的子類,Fork/Join框架提供了以下兩個子類:
RecursiveAction:用于沒有返回結果的任務。
RecursiveTask :用于有返回結果的任務。
ForkJoinPool: ForkJoinTask需要通過ForkJoinPool來執行,任務分割出的子任務會添加到當前工作線程所維護的雙端隊列中,進入隊列的頭部。當一個工作線程的隊列里暫時沒有任務時,它會隨機從其他工作線程的隊列的尾部獲取一個任務。
4. 使用Fork/Join框架讓我們通過一個簡單的需求來使用下Fork/Join框架,需求是:計算1+2+3+4的結果。
使用Fork/Join框架首先要考慮到的是如何分割任務,如果我們希望每個子任務最多執行兩個數的相加,那么我們設置分割的閾值是2,由于是4個數字相加,所以Fork/Join框架會把這個任務fork成兩個子任務,子任務一負責計算1+2,子任務二負責計算3+4,然后再join兩個子任務的結果。
因為是有結果的任務,所以必須繼承RecursiveTask,實現代碼如下:
packagefj; importjava.util.concurrent.ExecutionException; importjava.util.concurrent.ForkJoinPool; importjava.util.concurrent.Future; importjava.util.concurrent.RecursiveTask; publicclassCountTaskextendsRecursiveTask { privatestaticfinalintTHRESHOLD= 2;//閾值 privateintstart; privateintend; publicCountTask(intstart,intend) { this.start= start; this.end= end; } @Override protectedInteger compute() { intsum = 0; //如果任務足夠小就計算任務 booleancanCompute = (end-start) <=THRESHOLD; if(canCompute) { for(inti =start; i <=end; i++) { sum += i; } }else{ //如果任務大于閥值,就分裂成兩個子任務計算 intmiddle = (start+end) / 2; CountTask leftTask =newCountTask(start, middle); CountTask rightTask =newCountTask(middle + 1,end); //執行子任務 leftTask.fork(); rightTask.fork(); //等待子任務執行完,并得到其結果 intleftResult=leftTask.join(); intrightResult=rightTask.join(); //合并子任務 sum = leftResult + rightResult; } returnsum; } publicstaticvoidmain(String[] args) { ForkJoinPool forkJoinPool =newForkJoinPool(); //生成一個計算任務,負責計算1+2+3+4 CountTask task =newCountTask(1, 4); //執行一個任務 Future result = forkJoinPool.submit(task); try{ System.out.println(result.get()); }catch(InterruptedException e) { }catch(ExecutionException e) { } } }
通過這個例子讓我們再來進一步了解ForkJoinTask,ForkJoinTask與一般的任務的主要區別在于它需要實現compute方法,在這個方法里,首先需要判斷任務是否足夠小,如果足夠小就直接執行任務。如果不足夠小,就必須分割成兩個子任務,每個子任務在調用fork方法時,又會進入compute方法,看看當前子任務是否需要繼續分割成孫任務,如果不需要繼續分割,則執行當前子任務并返回結果。使用join方法會等待子任務執行完并得到其結果。
5. Fork/Join框架的異常處理ForkJoinTask在執行的時候可能會拋出異常,但是我們沒辦法在主線程里直接捕獲異常,所以ForkJoinTask提供了isCompletedAbnormally()方法來檢查任務是否已經拋出異常或已經被取消了,并且可以通過ForkJoinTask的getException方法獲取異常。使用如下代碼:
if(task.isCompletedAbnormally()) { System.out.println(task.getException()); }
getException方法返回Throwable對象,如果任務被取消了則返回CancellationException。如果任務沒有完成或者沒有拋出異常則返回null。
6. Fork/Join框架的實現原理ForkJoinPool由ForkJoinTask數組和ForkJoinWorkerThread數組組成,ForkJoinTask數組負責存放程序提交給ForkJoinPool的任務,而ForkJoinWorkerThread數組負責執行這些任務。
ForkJoinTask的fork方法實現原理。當我們調用ForkJoinTask的fork方法時,程序會調用ForkJoinWorkerThread的pushTask方法異步的執行這個任務,然后立即返回結果。代碼如下:
public final ForkJoinTask fork() { ((ForkJoinWorkerThread) Thread.currentThread()) .pushTask(this); return this; }
pushTask方法把當前任務存放在ForkJoinTask
數組queue里。然后再調用ForkJoinPool的signalWork()方法喚醒或創建一個工作線程來執行任務。代碼如下:
final void pushTask(ForkJoinTask t) { ForkJoinTask[] q; int s, m; if ((q = queue) != null) { // ignore if queue removed long u = (((s = queueTop) & (m = q.length - 1)) << ASHIFT) + ABASE; UNSAFE.putOrderedObject(q, u, t); queueTop = s + 1; // or use putOrderedInt if ((s -= queueBase) <= 2) pool.signalWork(); else if (s == m) growQueue(); } }
ForkJoinTask的join方法實現原理。Join方法的主要作用是阻塞當前線程并等待獲取結果。讓我們一起看看ForkJoinTask的join方法的實現,代碼如下:
public final V join() { if (doJoin() != NORMAL) return reportResult(); else return getRawResult(); } private V reportResult() { int s; Throwable ex; if ((s = status) == CANCELLED) throw new CancellationException(); if (s == EXCEPTIONAL && (ex = getThrowableException()) != null) UNSAFE.throwException(ex); return getRawResult(); }
首先,它調用了doJoin()方法,通過doJoin()方法得到當前任務的狀態來判斷返回什么結果,任務狀態有四種:已完成(NORMAL),被取消(CANCELLED),信號(SIGNAL)和出現異常(EXCEPTIONAL)。
如果任務狀態是已完成,則直接返回任務結果。
如果任務狀態是被取消,則直接拋出CancellationException。
如果任務狀態是拋出異常,則直接拋出對應的異常。
讓我們再來分析下doJoin()方法的實現代碼:
private int doJoin() { Thread t; ForkJoinWorkerThread w; int s; boolean completed; if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) { if ((s = status) < 0) return s; if ((w = (ForkJoinWorkerThread)t).unpushTask(this)) { try { completed = exec(); } catch (Throwable rex) { return setExceptionalCompletion(rex); } if (completed) return setCompletion(NORMAL); } return w.joinTask(this); } else return externalAwaitDone(); }
在doJoin()方法里,首先通過查看任務的狀態,看任務是否已經執行完了,如果執行完了,則直接返回任務狀態,如果沒有執行完,則從任務數組里取出任務并執行。如果任務順利執行完成了,則設置任務狀態為NORMAL,如果出現異常,則紀錄異常,并將任務狀態設置為EXCEPTIONAL。
via ifeve
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/64039.html
摘要:框架框架簡介框架是提供的一個用于并行執行任務的框架,是一個把大任務分割成若干個小任務,最終匯總每個小任務結果得到大任務結果的框架。框架實例需求計算的結果。 Fork/Join框架 1. Fork/Join框架簡介 Fork/Join框架是java7提供的一個用于并行執行任務的框架,是一個把大任務分割成若干個小任務,最終匯總每個小任務結果得到大任務結果的框架。Fork指的就是把一個大任務...
摘要:概述簡介并行流就是把一個內容分成多個數據塊,并用不同的線程分別處理每個數據塊的流中將并行進行了優化,我們可以很容易的對數據進行并行操作,可以聲明性地通過與在并行流與順序流之間進行切換。 1. 概述 1.1 簡介 并行流就是把一個內容分成多個數據塊,并用不同的線程分別處理每個數據塊的流 Java 8 中將并行進行了優化,我們可以很容易的對數據進行并行操作,Stream API 可以聲明性...
摘要:分區函數返回一個布爾值,這意味著得到的分組的鍵類型是,于是它最多可以分為兩組是一組,是一組。當遍歷到流中第個元素時,這個函數執行時會有兩個參數保存歸約結果的累加器已收集了流中的前個項目,還有第個元素本身。 一、收集器簡介 把列表中的交易按貨幣分組: Map transactionsByCurrencies = transactions.stream().collect(groupi...
摘要:整個包,按照功能可以大致劃分如下鎖框架原子類框架同步器框架集合框架執行器框架本系列將按上述順序分析,分析所基于的源碼為。后,根據一系列常見的多線程設計模式,設計了并發包,其中包下提供了一系列基礎的鎖工具,用以對等進行補充增強。 showImg(https://segmentfault.com/img/remote/1460000016012623); 本文首發于一世流云專欄:https...
摘要:對于任務的分割,要求各個子任務之間相互獨立,能夠并行獨立地執行任務,互相之間不影響。是叉子分叉的意思,即將大任務分解成并行的小任務,是連接結合的意思,即將所有并行的小任務的執行結果匯總起來。使用方法會阻塞并等待子任務執行完并得到其結果。 Fork/Join是什么? Fork/Join框架是Java7提供的并行執行任務框架,思想是將大任務分解成小任務,然后小任務又可以繼續分解,然后每個小...
閱讀 3342·2021-11-19 11:36
閱讀 2947·2021-09-27 13:34
閱讀 2007·2021-09-22 15:17
閱讀 2415·2019-08-30 13:49
閱讀 767·2019-08-26 13:58
閱讀 1366·2019-08-26 10:47
閱讀 2548·2019-08-23 18:05
閱讀 609·2019-08-23 14:25