今天一起學習下如何在Spring中進行異步編程。我們都知道,web服務器處理請求request的線程是從線程池中獲取的,這也不難解釋,因為當web請求並發數非常大時,如何一個請求進來就創建一條處理線程,由於創建線程和線程上下文切換的開銷是比較大的,web服務器最終將面臨崩潰。另外,web服務器創建的處理線程從頭到尾默認是同步執行的,也就是說,假如處理線程A負責處理請求B,那麼當B沒有return之前,處理線程A是不可以脫身去處理別的請求的,這將極大限制了web服務器的並發處理能力。
因此線程池解決了線程可循環利用的問題,那同步處理請求怎麼去解決呢?答案是異步處理。什麼是異步處理呢?異步處理主要是讓上面的B請求處理完成之前,能夠將A線程空閒出來繼續去處理別的請求。那麼我們可以這樣做,在A線程內部重新開啟一個線程C去執行任務,讓A直接返回給web服務器,繼續接受新進來的請求。
在開始下面的講解之前,我在這裡先區別下兩個概念:
1、處理線程
處理線程屬於web服務器,負責處理用戶請求,採用線程池管理
2、異步線程
異步線程屬於用戶自定義的線程,可採用線程池管理
spring中提供了對異步任務的支持,採用WebAsyncTask類即可實現異步任務,同時我們也可以對異步任務設置相應的回調處理,如當任務超時、拋出異常怎麼處理等。異步任務通常非常實用,比如我們想讓一個可能會處理很長時間的操作交給異步線程去處理,又或者當一筆訂單支付完成之後,開啟異步任務查詢訂單的支付結果。
一、正常異步任務
為了演示方便,異步任務的執行採用Thread.sleep(long)模擬,現在假設用戶請求以下接口:
http://localhost:7000/demo/getUserWithNoThing.json
異步任務接口定義如下:
/** * 測試沒有發生任何異常的異步任務*/@RequestMapping(value = "getUserWithNoThing.json", method = RequestMethod.GET)public WebAsyncTask<String> getUserWithNoThing() { // 打印處理線程名System.err.println("The main Thread name is " + Thread.currentThread().getName()); // 此處模擬開啟一個異步任務,超時時間為10s WebAsyncTask<String> task1 = new WebAsyncTask<String>(10 * 1000L, () -> { System.err.println("The first Thread name is " + Thread.currentThread().getName()); // 任務處理時間5s,不超時Thread.sleep(5 * 1000L); return "任務1順利執行成功!任何異常都沒有拋出!"; }); // 任務執行完成時調用該方法task1.onCompletion(() -> { System.err.println("任務1執行完成啦!"); }); System.err.println("task1繼續處理其他事情!"); return task1;}控制台打印如下:
The main Thread name is http-nio-7000-exec-1
task1繼續處理其他事情!
The first Thread name is MvcAsync1
任務1執行完成啦!
瀏覽器結果如下:
二、拋異常異步任務
接口調用: http://localhost:7000/demo/getUserWithError.json
/** * 測試發生error的異步任務* @return */@RequestMapping(value = "getUserWithError.json", method = RequestMethod.GET)public WebAsyncTask<String> getUserWithError() {System.err.println("The main Thread name is " + Thread.currentThread().getName());// 此處模擬開啟一個異步任務WebAsyncTask<String> task3 = new WebAsyncTask<String>(10 * 1000L, () -> {System.err.println("The second Thread name is " + Thread.currentThread().getName());// 此處拋出異常int num = 9 / 0;System.err.println(num);return "";});// 發生異常時調用該方法task3.onError(() -> {System.err.println("====================================" + Thread.currentThread().getName()+ "==============================");System.err.println("任務3發生error啦!");return "";});// 任務執行完成時調用該方法task3.onCompletion(() -> {System.err.println("任務3執行完成啦!");});System.err.println("task3繼續處理其他事情!");return task3;}控制台輸出如下:
The main Thread name is http-nio-7000-exec-1
task3繼續處理其他事情!
The second Thread name is MvcAsync1
2018-06-15 09:40:13.538 ERROR 9168 --- [nio-7000-exec-2] oaccC[.[.[.[dispatcherServlet] : Servlet.service() for servlet [dispatcherServlet] threw exceptionjava.lang.ArithmeticException: / by zero
at com.example.demo.controller.GetUserInfoController.lambda$5(GetUserInfoController.java:93) ~[classes/:na]
at org.springframework.web.context.request.async.WebAsyncManager.lambda$startCallableProcessing$4(WebAsyncManager.java:317) ~[spring-web-5.0.6.RELEASE.jar:5.0.6.RELEASE]
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511) ~[na:1.8.0_161]
at java.util.concurrent.FutureTask.run(FutureTask.java:266) ~[na:1.8.0_161]
at java.lang.Thread.run(Thread.java:748) [na:1.8.0_161]2018-06-15 09:40:13.539 ERROR 9168 --- [nio-7000-exec-2] oaccC[.[.[.[dispatcherServlet] : Servlet.service() for servlet [dispatcherServlet] in context with path [/demo] threw exception [Request processing failed; nested exception is java.lang.ArithmeticException: / by zero] with root cause
java.lang.ArithmeticException: / by zero
at com.example.demo.controller.GetUserInfoController.lambda$5(GetUserInfoController.java:93) ~[classes/:na]
at org.springframework.web.context.request.async.WebAsyncManager.lambda$startCallableProcessing$4(WebAsyncManager.java:317) ~[spring-web-5.0.6.RELEASE.jar:5.0.6.RELEASE]
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511) ~[na:1.8.0_161]
at java.util.concurrent.FutureTask.run(FutureTask.java:266) ~[na:1.8.0_161]
at java.lang.Thread.run(Thread.java:748) [na:1.8.0_161]====================================http-nio-7000-exec-2==============================
任務3發生error啦!
任務3執行完成啦!
當然你也可以對上面做一些異常處理,不至於在用戶看來顯得不友好,關於異常處理,可以查看我的另一篇文章Spring boot/Spring 統一錯誤處理方案的使用
瀏覽器輸出結果:
三、超時異步任務
接口調用: http://localhost:7000/demo/getUserWithTimeOut.json
/** * 測試發生任務超時的異步任務* @return */@RequestMapping(value = "getUserWithTimeOut.json", method = RequestMethod.GET)public WebAsyncTask<String> getUserWithTimeOut() { System.err.println("The main Thread name is " + Thread.currentThread().getName()); // 此處模擬開啟一個異步任務,超時10s WebAsyncTask<String> task2 = new WebAsyncTask<String>(10 * 1000L, () -> { System.err.println("The second Thread name is " + Thread.currentThread().getName()); Thread.sleep(20 * 1000L); return "任務2執行超時!"; }); // 任務超時調用該方法task2.onTimeout(() -> { System.err.println("====================================" + Thread.currentThread().getName() + "=============================="); return "任務2發生超時啦!"; }); // 任務執行完成時調用該方法task2.onCompletion(() -> { System.err.println("任務2執行完成啦!"); }); System.err.println("task2繼續處理其他事情!"); return task2;}控制台執行結果:
The main Thread name is http-nio-7000-exec-4
task2繼續處理其他事情!
The second Thread name is MvcAsync2
====================================http-nio-7000-exec-5==============================
任務2執行完成啦!
瀏覽器執行結果:
四、線程池異步任務
上面的三種情況中的異步任務默認不是採用線程池機制進行管理的,也就是說,一個請求進來,雖然釋放了處理線程,但是系統依舊會為每個請求創建一個異步任務線程,也就是上面我們看到的MvcAsync開頭的異步任務線程,那這樣不行啊,開銷特別大呀!所以我們可以採用線程池進行管理,直接在WebAsyncTask類構造器傳入一個ThreadPoolTaskExecutor對象實例即可。
下面我們先看看,當對上面第一種情況執行並發請求時會出現什麼情況(此處模擬對http://localhost:7000/demo/getUserWithNoThing.json進行並發調用):
控制台輸出如下:
The first Thread name is MvcAsync57
The first Thread name is MvcAsync58
The first Thread name is MvcAsync59
The first Thread name is MvcAsync60
The first Thread name is MvcAsync61
The first Thread name is MvcAsync62
The first Thread name is MvcAsync63
The first Thread name is MvcAsync64
The first Thread name is MvcAsync65
The first Thread name is MvcAsync66
The first Thread name is MvcAsync67
The first Thread name is MvcAsync68
The first Thread name is MvcAsync69
The first Thread name is MvcAsync70
The first Thread name is MvcAsync71
The first Thread name is MvcAsync72
The first Thread name is MvcAsync73
The first Thread name is MvcAsync74
The first Thread name is MvcAsync76
The first Thread name is MvcAsync75
The first Thread name is MvcAsync77
The first Thread name is MvcAsync78
The first Thread name is MvcAsync79
The first Thread name is MvcAsync80
由於沒有加入線程池,所以100個請求將開啟100個異步任務線程,開銷特別大,不推薦。
下面是採用線程池的實現:
調用接口: http://localhost:7000/demo/getUserWithExecutor.json
/** * 測試線程池* @return */@RequestMapping(value = "getUserWithExecutor.json", method = RequestMethod.GET)public WebAsyncTask<String> getUserWithExecutor() { System.err.println("The main Thread name is " + Thread.currentThread().getName()); // 此處模擬開啟一個異步任務,此處傳入一個線程池WebAsyncTask<String> task1 = new WebAsyncTask<String>(10 * 1000L, executor, () -> { System.err.println("The first Thread name is " + Thread.currentThread().getName()); Thread.sleep(5000L); return "任務4順利執行成功!任何異常都沒有拋出!"; }); // 任務執行完成時調用該方法task1.onCompletion(() -> { System.err.println("任務4執行完成啦!"); }); System.err.println("task4繼續處理其他事情!"); return task1;}線程池定義如下:
@Configurationpublic class MyExecutor { @Bean public static ThreadPoolTaskExecutor getExecutor() { ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor(); taskExecutor.setCorePoolSize(30); taskExecutor.setMaxPoolSize(30); taskExecutor.setQueueCapacity(50); taskExecutor.setThreadNamePrefix("huang");// 異步任務線程名以huang 為前綴return taskExecutor; }}對上面進行並發測試,可以得出下面結果:
本文示例代碼地址: https://github.com/SmallerCoder/WebAsyncTask
採用線程池可以節約服務器資源,優化服務器處理能力,要記得常用喲!謝謝閱讀!覺得對你有幫助,請給個start哦!
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持武林網。