Java線程池ThreadPoolExecutor源碼深入分析

Posted on by

1.線程池Executors的簡單使用

 1)創建一個線程的線程池。
 Executors.newSingleThreadExecutor();
 //創建的源碼
   public static ExecutorService newSingleThreadExecutor() {
         return new FinalizableDelegatedExecutorService
             (new ThreadPoolExecutor(1, 1,
                                     0L, TimeUnit.MILLISECONDS,
                                     new LinkedBlockingQueue<Runnable>()));
     }
 2)創建固定大小的線程池，參數為int，是線程池核心線程和最大線程的數量
 Executors.newFixedThreadPool(2);
  //創建的源碼
   public static ExecutorService newFixedThreadPool(int nThreads) {
         return new ThreadPoolExecutor(nThreads, nThreads,
                                       0L, TimeUnit.MILLISECONDS,
                                       new LinkedBlockingQueue<Runnable>());
     }
 3)創建一個線程數不設限的線程池，
  //創建的源碼，核心線程是0，最大線程是Integer.MAX_VALUE
   Executors.newCachedThreadPool()；
       public static ExecutorService newCachedThreadPool() {
           return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                         60L, TimeUnit.SECONDS,
                                         new SynchronousQueue<Runnable>());
   }

使用方法，使用同步代碼塊，保證線程池實例是唯一的。

使用方法：
  private static ExecutorService sSingleThreadExecutor = null; // lazy, guarded by class
     public static ExecutorService singleThreadExecutor() {
        //當前的類對象為鎖
         synchronized (ThreadPool.class) {
             if (sSingleThreadExecutor == null) {
                 sSingleThreadExecutor = Executors.newSingleThreadExecutor();
             }
             return sSingleThreadExecutor;
         }
   }

通過以上三種方式，可以創建一個簡單的線程池。

但是有弊端：

newSingleThreadExecutor和newFixedThreadPool，運行的請求隊列是長度為Integer.MAX_VALUE,可能會堆積大量的請求，從而造成oom。

而newCachedThreadPool允許的線程數量為最大值Integer.MAX_VALUE，也會造成oom。

2.通過ThreadPoolExecutor創建線程池

下面是OkHttp中Dispatcher.java線程池：

 ExecutorService executorService;
 public synchronized ExecutorService executorService() {
    if (executorService == null) {
         executorService = new ThreadPoolExecutor(0, Integer.MAX_VALUE, 60, TimeUnit.SECONDS,
          new SynchronousQueue<Runnable>(), Util.threadFactory("OkHttp Dispatcher", false));
    }
    return executorService;
 }

OkHttp中ConnectionPool.java

 private static final Executor executor = new ThreadPoolExecutor(0 ,
       Integer.MAX_VALUE , 60L , TimeUnit.SECONDS,
       new SynchronousQueue<Runnable>(), Util.threadFactory("OkHttp ConnectionPool", true));

使用方式：

//call 實現 Runnable 接口。調用execute方法即可將入線程池，執行run方法中的代碼。
executorService().execute(call);

3.ThreadPoolExecutor各個參數的含義

corePoolSize：核心線程數，即使是空閑線程也不會銷毀。這樣做的目的是為瞭降低執行任務時創建線程的時間和性能開銷。
maximumPoolSize：最大線程數。當核心線程被用完時，會創建新的線程來執行任務，但是創建的數量不能超過這個最大值。
keepAliveTime：線程的存活時間。除核心線程外，其他線程一旦執行完任務，就會處於空閑狀態，超過這個時間就會被銷毀。
unit：keepAliveTime設置的時間單位。
workQueue：任務的阻塞隊列。線程數量有限，當任務過多來不及執行時，就會加入到這個阻塞隊列中，等到有空閑進程，
           就會從這個隊列取出任務去執行。隊列都是先進先出的FIFO。
threadFactory：新線程產生的方式。
handler：拒絕策略，超過任務隊列設置的最大值時。再有新的任務進來，就會執行這個拒絕策略。

public ThreadPoolExecutor(int corePoolSize,
                          int maximumPoolSize,
                          long keepAliveTime,
                          TimeUnit unit,
                          BlockingQueue<Runnable> workQueue,
                          ThreadFactory threadFactory,
                          RejectedExecutionHandler handler) {
}

線程池的阻塞隊列：

ArrayBlockingQueue：
    是基於數組的任務隊列。裡面用一個數組來存放任務。當我們new的時候，需要指定數組大小。
    還有兩個int變量putIndex和takeIndex用來表示隊列的頭部和尾部在數組中的位置。
LinkedBlockingQueue:
    是基於鏈表的，內部用一個單向鏈表來存放任務。創建時可以指定大小，如果不指定則是Integer.MAX_VALUE
PriorityBlockingQueue:
   基於優先級的阻塞隊列。
SynchronousQueue：
   一種無緩沖的等待隊列。有新任務進來直接交給線程執行。
   OkHttp中使用的就是這種隊列，他的最大線程數為Integer.MAX_VALUE。保證有任務進來就能馬上執行。

RejectedExecutionHandler拒絕策略，這是一個接口。不同的實現執行不同的策略。

public interface RejectedExecutionHandler {
    void rejectedExecution(Runnable r, ThreadPoolExecutor executor);
}
AbortPolicy:拒絕行為直接拋出異常 RejectedExecutionException
public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            throw new RejectedExecutionException("Task " + r.toString() +
                                                 " rejected from " +
                                                 e.toString());
        }
DiscardPolicy:保持靜默，什麼也不做。
public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
        }
DiscardOldestPolicy：丟棄任務隊裡中最老的任務，嘗試將新任務加入隊列
 public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            if (!e.isShutdown()) {
                e.getQueue().poll();
                e.execute(r);
            }
 }
CallerRunsPolicy：直接由提交任務這執行這個任務。
 public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            if (!e.isShutdown()) {
                r.run();
            }
 }
如果在創建線程池的時候，不知道具體的拒絕策略。那麼ThreadPoolExecutor默認的策略是AbortPolicy。
private static final RejectedExecutionHandler defaultHandler =  new AbortPolicy();

線程池可以執行兩種類型的任務：Runable和Callable

class MyRunable implements Runnable{
        @Override
        public void run() {
        }
}
class MyCallable implements Callable{
    @Override
    public Object call() throws Exception {
        return null;
    }
}
Runnable 沒有返回值，返回的是void，不允許拋出異常。
Callable 有返回值，返回的是Object，允許拋出異常。

4.線程池的源碼分析

線程池的狀態：

//運行狀態，可以接受新任務，並且處理排隊任務。
private static final int RUNNING    = -1 << COUNT_BITS;
//關閉狀態，不再接受新任務，不過仍然會處理排隊任務。
private static final int SHUTDOWN   =  0 << COUNT_BITS;
//停止狀態，不再接受新任務，也不處理排隊任務，同時中斷處理中的任務
private static final int STOP       =  1 << COUNT_BITS;
//整理狀態，當前所有任務終止，workerCount計數為0，線程切換為TIDYING狀態，並且執行terminal()方法
private static final int TIDYING    =  2 << COUNT_BITS;
//終止狀態，說明terminal()方法執行完成。
private static final int TERMINATED =  3 << COUNT_BITS;

ctlof是得到新的ctl值。通過ctl可以計算線程池的狀態和數量

runStateOf 計算當前線程池的狀態。

workerCountOf計算線程池的數量。

// ctlOf計算ctl的新值，也就是線程池狀態和線程池中線程數量。
private static int ctlOf(int rs, int wc) { return rs | wc; }
//獲取ctl的高三位，也就是線程池的狀態。
private static int runStateOf(int c)     { return c & ~CAPACITY; }
//獲取ctl的低29位，也就是線程池中的線程數。
private static int workerCountOf(int c)  { return c & CAPACITY; }
其中runStateOf(int c)和workerCountOf(int c)的參數c就是通過ctlOf(int rs, int wc)獲得的ctl值。

向線程池中添加一個任務：executorService().execute(call);

然後看看源碼中是如何執行的，是如何添加任務的。

ctl 用來表示線程池的狀態和線程數量，
在ThreadPoolExcutor中使用32位二進制數來表示線程池的狀態和線程中線程數量。
其中前3位表示線程池的狀態，後29位表示線程池中的線程數。
public void execute(Runnable command) {
         int c = ctl.get();
        //如果工作線程數量小於核心線程數，
        //提交的任務會通過addWorker(command, true)創建一個新的核心線程來執行， 這個參數傳的是true，表示去新增核心線程。
        if (workerCountOf(c) < corePoolSize) {
            if (addWorker(command, true)){
                //添加成功則return
                return;
            }
           //添加核心線程失敗則重新獲取線程池的狀態和數量
            c = ctl.get();
        }
        //進入到下面說明當前工作線程大於或等於核心線程。
        //如果線程池處於運行狀態，則加入隊列
        if (isRunning(c) && workQueue.offer(command)) {
            //如果入隊成功，則重新獲取線程池的狀態
            int recheck = ctl.get();
            //如果線程池不處於運行狀態，則從隊列中remove
            if (!isRunning(recheck) && remove(command)){
              //成功刪除，則執行拒絕策略
              reject(command);
            }else if (workerCountOf(recheck) == 0){
             //進入這個分支有兩種情況1.線程池處於運行狀態 2.線程從不處於運行狀態，但是remove失敗
                則會判斷workerCountOf如果工作線程為0，則會創建非核心線程去執行任務。
              addWorker為null，和false。false表示非核心線程。null說明創建的線程去執行隊列裡的任務。
              addWorker(null, false);
            }
         //進入到這個分支有兩種情況1.線程池處於非運行狀態2.運行狀態但是入隊失敗瞭。
         這時候創建非核心線程去執行任務
        }else if (!addWorker(command, false)){
            如果創建非核心線程失敗瞭，則執行拒絕策略。
           reject(command);
        }
}

通過以上源碼分析，線程池的運行原理可以總結為一下幾點：

1.通過execute方法提交任務時，運行線程小於corePoolSize時，則會創建新的核心線程來執行這個任務。

2.通過excute方法提交任務時，運行線程大於等於corePoolSize時，則會加入到隊列中，等待線程調度執行。

3.通過excuete方法提交任務時，運行線程大於等於corePoolSize時，並且加入隊列失敗(隊列滿瞭)，新提交的任務將會通過創建新的線程執行。

4.通過excute方法提交任務時，運行線程大於maximumPoolSize時，隊列也滿瞭，則會執行拒絕策略。

5.當線程池中的線程執行完任務處於空閑狀態時，則會嘗試從任務隊列中取頭結點任務執行。

接下來看addWorker如何添加任務。

private boolean addWorker(Runnable firstTask, boolean core) {
        retry:
        for (;;) {
            int c = ctl.get();
            int rs = runStateOf(c);
 
            // 如果線程池處於非運行狀態，則不會創建線程。
            if (rs >= SHUTDOWN &&
                ! (rs == SHUTDOWN &&
                   firstTask == null &&
                   ! workQueue.isEmpty())){
                        return false;
                   }
            //如果線程池處於運行狀態，則直接走下面的創建添加邏輯。
            for (;;) {
                //獲取工作線程數量
                int wc = workerCountOf(c);
                //wc >= CAPACITY 工作線程大於最大容量
                // wc >= (core ? corePoolSize : maximumPoolSize) 如果工作線程大於瞭核心線程或最大線程，
                //隻要這兩個條件有一個成立則return。
                if (wc >= CAPACITY ||
                    wc >= (core ? corePoolSize : maximumPoolSize)){
                    return false;
                 }
                //創建線程數量+1，這裡用到瞭CAS。關於CAS後面再寫文章分析。
                if (compareAndIncrementWorkerCount(c)){
                    break retry;
                 }
                 //如果CAS操作失敗，線程數量沒有加1，則重新獲取線程的狀態。
                c = ctl.get();  // Re-read ctl
                //判斷當前狀態和之前狀態，如果不同，說明線程池狀態發生瞭變化。重新跳到retry的外層循環。
                //如果相同，則說明線程池沒有變化，繼續進行內層循環。
                if (runStateOf(c) != rs){
                    continue retry;
                }
                // else CAS failed due to workerCount change; retry inner loop
            }
        }
        //執行到這說明線程數量已經完成+1，接下來進行線程的創建。
        boolean workerStarted = false;
        boolean workerAdded = false;
        Worker w = null;
        try {
            //這個創建一個worker對象。在worker構造方法中，會利用ThreadPoolExecutor中傳遞過瞭的ThreadFactory創建一個Thread
            //默認是通過Executors.defaultThreadFactory()，創建一個線程。
            w = new Worker(firstTask);
            final Thread t = w.thread;
            if (t != null) {
                //拿到一個重入鎖對象。
                final ReentrantLock mainLock = this.mainLock;
                mainLock.lock();
                try {
                    //拿到線程池的狀態
                    int rs = runStateOf(ctl.get());
                    //如果線程池處於運行狀態或者處於關閉狀態並且firstTask == null
                    if (rs < SHUTDOWN ||
                        (rs == SHUTDOWN && firstTask == null)) {
                        if (t.isAlive()) {
                            throw new IllegalThreadStateException();
                        }
                        //添加到work集合
                        workers.add(w);
                        int s = workers.size();
                        if (s > largestPoolSize){ //更新一下最大線程數
                            largestPoolSize = s;
                        }
                        //標志位，添加成功
                        workerAdded = true;
                    }
                } finally {
                    mainLock.unlock();
                }
                if (workerAdded) {
                    //添加成功則啟動線程
                    t.start();
                    //啟動成功
                    workerStarted = true;
                }
            }
        } finally {
            //如果沒有啟動成功則從線程池中移除。
            if (! workerStarted){
                addWorkerFailed(w);
            }
        }
        return workerStarted;
    }

關鍵代碼看看 w = new Worker(firstTask);做瞭啥

 Worker(Runnable firstTask) {
        setState(-1);
        //將傳進來的任務賦值給成員變量
        this.firstTask = firstTask;
        //創建一個線程，並把Worker本身當做Runnable傳進瞭Thread中去。
        this.thread = getThreadFactory().newThread(this);
 }
 public interface ThreadFactory {
     Thread newThread(Runnable r);
 }

註意newThread(this)。Worker把自己當做Runnable傳到瞭線程中去。當調用t.start()方法時會調用Worker的run方法。

public void run() {
    runWorker(this);
}
final void runWorker(Worker w) {
    Thread wt = Thread.currentThread();
    Runnable task = w.firstTask;
    w.firstTask = null;
    w.unlock(); // allow interrupts
    boolean completedAbruptly = true;
    try {
        //如果task不為null，則先執行當前任務
        //如果task傳進來是null則從隊列中取任務，執行隊列裡的任務。
        //getTask()就是從任務隊列中提取在等待的隊伍。
        while (task != null || (task = getTask()) != null) {
            w.lock();
            //(runStateAtLeast(ctl.get(), STOP) 線程池處於STOP，TIDYING，TERMINATED狀態
             處於這些狀態的線程池是無法執行任務的。
          if ((runStateAtLeast(ctl.get(), STOP) ||
               (Thread.interrupted() &&
                runStateAtLeast(ctl.get(), STOP))) &&
              !wt.isInterrupted()){
                 //中斷線程
                  wt.interrupt();
              }
          //執行到下面說明線程池處於RUNNING或SHUTDOWN狀態
          //由此也可以看出SHUTDOWN狀態的線程池，是可以執行隊列裡的任務的，但是隊列不在接收新的任務添加
            try {
                beforeExecute(wt, task);
                Throwable thrown = null;
                try {
                    //執行任務的
                    task.run();
                } catch (RuntimeException x) {
                    thrown = x; throw x;
                } catch (Error x) {
                    thrown = x; throw x;
                } catch (Throwable x) {
                    thrown = x; throw new Error(x);
                } finally {
                    afterExecute(task, thrown);
                }
            } finally {
                task = null;
                w.completedTasks++;
                w.unlock();
            }
        }
        completedAbruptly = false;
    } finally {
        processWorkerExit(w, completedAbruptly);
    }
}

getTask()從任務隊列中，提取任務。

  private Runnable getTask() {
   boolean timed = allowCoreThreadTimeOut || wc > corePoolSize;
      try {
            //從任務隊列中取出任務
             Runnable r = timed ?
             workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :
             workQueue.take();
         if (r != null)
             return r;
         timedOut = true;
     } catch (InterruptedException retry) {
         timedOut = false;
     }
  }

通過以上源碼分析，可以總結一下幾點。

addWorker(Runnable firstTask, boolean core)

1.如果firstTask為null，則會創建線程去執行隊列裡的任務。

2.如果不為null，則會去執行當前任務，然後再執行隊列裡的任務。

3.core 如果為true，則會創建核心線程，如果為false，則會創建非核心線程。

4.addWorker 會創建線程，啟動線程，執行任務。

在創建線程之前會判斷線程池的狀態、以及核心線程或最大線程數。

如果創建成功啟動線程的start方法，然後調用worker的runWorker()方法。

到此這篇關於Java線程池ThreadPoolExecutor源碼深入分析的文章就介紹到這瞭,更多相關Java ThreadPoolExecutor內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！

推薦閱讀：