前言:
最近在分析hadoop的RPC(Remote Procedure Call Protocol ,遠程過程調用協議,它是一種通過網絡從遠程計算機程序上請求服務,而不需要了解底層網絡技術的協議。可以參考:http://baike.baidu.com/view/32726.htm )機制時,發現hadoop的RPC機制的實現主要用到了兩個技術:動態代理(動態代理可以參考博客:http://weixiaolu.iteye.com/blog/1477774 )和java NIO。為了能夠正確地分析hadoop的RPC源碼,我覺得很有必要先研究一下java NIO的原理和具體實現。
這篇博客我主要從兩個方向來分析java NIO
目錄:
一. java NIO 和阻塞I/O的區別
1. 阻塞I/O通信模型
2. java NIO原理及通信模型二. java NIO服務端和客戶端代碼實現
具體分析:
一. java NIO 和阻塞I/O的區別
1. 阻塞I/O通信模型
假如現在你對阻塞I/O已有了一定了解,我們知道阻塞I/O在調用InputStream.read()方法時是阻塞的,它會一直等到數據到來時(或超時)才會返回;同樣,在調用ServerSocket.accept()方法時,也會一直阻塞到有客戶端連接才會返回,每個客戶端連接過來後,服務端都會啟動一個線程去處理該客戶端的請求。阻塞I/O的通信模型示意圖如下:
如果你細細分析,一定會發現阻塞I/O存在一些缺點。根據阻塞I/O通信模型,我總結了它的兩點缺點:
1. 當客戶端多時,會創建大量的處理線程。且每個線程都要佔用棧空間和一些CPU時間
2. 阻塞可能帶來頻繁的上下文切換,且大部分上下文切換可能是無意義的。
在這種情況下非阻塞式I/O就有了它的應用前景。
2. java NIO原理及通信模型
Java NIO是在jdk1.4開始使用的,它既可以說成“新I/O”,也可以說成非阻塞式I/O。下面是java NIO的工作原理:
1. 由一個專門的線程來處理所有的IO 事件,並負責分發。
2. 事件驅動機制:事件到的時候觸發,而不是同步的去監視事件。
3. 線程通訊:線程之間通過wait,notify 等方式通訊。保證每次上下文切換都是有意義的。減少無謂的線程切換。
閱讀過一些資料之後,下面貼出我理解的java NIO的工作原理圖:
(注:每個線程的處理流程大概都是讀取數據、解碼、計算處理、編碼、發送響應。)
Java NIO的服務端只需啟動一個專門的線程來處理所有的IO 事件,這種通信模型是怎麼實現的呢?呵呵,我們一起來探究它的奧秘吧。 java NIO採用了雙向通道(channel)進行數據傳輸,而不是單向的流(stream),在通道上可以註冊我們感興趣的事件。一共有以下四種事件:
| 事件名 | 對應值 |
| 服務端接收客戶端連接事件 | SelectionKey.OP_ACCEPT(16) |
| 客戶端連接服務端事件 | SelectionKey.OP_CONNECT(8) |
| 讀事件 | SelectionKey.OP_READ(1) |
| 寫事件 | SelectionKey.OP_WRITE(4) |
服務端和客戶端各自維護一個管理通道的對象,我們稱之為selector,該對象能檢測一個或多個通道(channel) 上的事件。我們以服務端為例,如果服務端的selector上註冊了讀事件,某時刻客戶端給服務端發送了一些數據,阻塞I/O這時會調用read()方法阻塞地讀取數據,而NIO的服務端會在selector中添加一個讀事件。服務端的處理線程會輪詢地訪問selector,如果訪問selector時發現有感興趣的事件到達,則處理這些事件,如果沒有感興趣的事件到達,則處理線程會一直阻塞直到感興趣的事件到達為止。下面是我理解的java NIO的通信模型示意圖:
二. java NIO服務端和客戶端代碼實現
為了更好地理解java NIO,下面貼出服務端和客戶端的簡單代碼實現。
服務端:
package cn.nio; import java.io.IOException; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.channels.SelectionKey; import java.nio.channels.Selector; import java.nio.channels.ServerSocketChannel; import java.nio.channels.SocketChannel; import java.util.Iterator; /** * NIO服務端* @author 小路*/ public class NIOServer { //通道管理器private Selector selector; /** * 獲得一個ServerSocket通道,並對該通道做一些初始化的工作* @param port 綁定的端口號* @throws IOException */ public void initServer(int port) throws IOException { // 獲得一個ServerSocket通道ServerSocketChannel serverChannel = ServerSocketChannel.open(); // 設置通道為非阻塞serverChannel.configureBlocking(false); // 將該通道對應的ServerSocket綁定到port端口serverChannel.socket().bind(new InetSocketAddress(port)); // 獲得一個通道管理器this.selector = Selector.open(); //將通道管理器和該通道綁定,並為該通道註冊SelectionKey.OP_ACCEPT事件,註冊該事件後, //當該事件到達時,selector.select()會返回,如果該事件沒到達selector.select()會一直阻塞。 serverChannel.register(selector, SelectionKey.OP_ACCEPT); } /** * 採用輪詢的方式監聽selector上是否有需要處理的事件,如果有,則進行處理* @throws IOException */ @SuppressWarnings("unchecked") public void listen() throws IOException { System.out.println("服務端啟動成功!"); // 輪詢訪問selector while (true) { //當註冊的事件到達時,方法返回;否則,該方法會一直阻塞selector.select(); // 獲得selector中選中的項的迭代器,選中的項為註冊的事件Iterator ite = this.selector.selectedKeys().iterator(); while (ite.hasNext()) { SelectionKey key = (SelectionKey) ite.next(); // 刪除已選的key,以防重複處理ite.remove(); // 客戶端請求連接事件if (key.isAcceptable()) { ServerSocketChannel server = (ServerSocketChannel) key .channel(); // 獲得和客戶端連接的通道SocketChannel channel = server.accept(); // 設置成非阻塞channel.configureBlocking(false); //在這裡可以給客戶端發送信息哦channel.write(ByteBuffer.wrap(new String("向客戶端發送了一條信息").getBytes())); //在和客戶端連接成功之後,為了可以接收到客戶端的信息,需要給通道設置讀的權限。 channel.register(this.selector, SelectionKey.OP_READ); // 獲得了可讀的事件} else if (key.isReadable()) { read(key); } } } } /** * 處理讀取客戶端發來的信息的事件* @param key * @throws IOException */ public void read(SelectionKey key) throws IOException{ // 服務器可讀取消息:得到事件發生的Socket通道SocketChannel channel = (SocketChannel) key.channel(); // 創建讀取的緩衝區ByteBuffer buffer = ByteBuffer.allocate(10); channel.read(buffer); byte[] data = buffer.array(); String msg = new String(data).trim(); System.out.println("服務端收到信息:"+msg); ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes()); channel.write(outBuffer);// 將消息回送給客戶端} /** * 啟動服務端測試* @throws IOException */ public static void main(String[] args) throws IOException { NIOServer server = new NIOServer(); server.initServer(8000); server.listen(); } }客戶端:
package cn.nio; import java.io.IOException; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.channels.SelectionKey; import java.nio.channels.Selector; import java.nio.channels.SocketChannel; import java.util.Iterator; /** * NIO客戶端* @author 小路*/ public class NIOClient { //通道管理器private Selector selector; /** * 獲得一個Socket通道,並對該通道做一些初始化的工作* @param ip 連接的服務器的ip * @param port 連接的服務器的端口號* @throws IOException */ public void initClient(String ip,int port) throws IOException { // 獲得一個Socket通道SocketChannel channel = SocketChannel.open(); // 設置通道為非阻塞channel.configureBlocking(false); // 獲得一個通道管理器this.selector = Selector.open(); // 客戶端連接服務器,其實方法執行並沒有實現連接,需要在listen()方法中調//用channel.finishConnect();才能完成連接channel.connect(new InetSocketAddress(ip,port)); //將通道管理器和該通道綁定,並為該通道註冊SelectionKey.OP_CONNECT事件。 channel.register(selector, SelectionKey.OP_CONNECT); } /** * 採用輪詢的方式監聽selector上是否有需要處理的事件,如果有,則進行處理* @throws IOException */ @SuppressWarnings("unchecked") public void listen() throws IOException { // 輪詢訪問selector while (true) { selector.select(); // 獲得selector中選中的項的迭代器Iterator ite = this.selector.selectedKeys().iterator(); while (ite.hasNext()) { SelectionKey key = (SelectionKey) ite.next(); // 刪除已選的key,以防重複處理ite.remove(); // 連接事件發生if (key.isConnectable()) { SocketChannel channel = (SocketChannel) key .channel(); // 如果正在連接,則完成連接if(channel.isConnectionPending()){ channel.finishConnect(); } // 設置成非阻塞channel.configureBlocking(false); //在這裡可以給服務端發送信息哦channel.write(ByteBuffer.wrap(new String("向服務端發送了一條信息").getBytes())); //在和服務端連接成功之後,為了可以接收到服務端的信息,需要給通道設置讀的權限。 channel.register(this.selector, SelectionKey.OP_READ); // 獲得了可讀的事件} else if (key.isReadable()) { read(key); } } } } /** * 處理讀取服務端發來的信息的事件* @param key * @throws IOException */ public void read(SelectionKey key) throws IOException{ //和服務端的read方法一樣} /** * 啟動客戶端測試* @throws IOException */ public static void main(String[] args) throws IOException { NIOClient client = new NIOClient(); client.initClient("localhost",8000); client.listen(); } }小結:
終於把動態代理和java NIO分析完了,呵呵,下面就要分析hadoop的RPC機制源碼了,博客地址:http://weixiaolu.iteye.com/blog/1504898 。不過如果對java NIO的理解存在異議的,歡迎一起討論。
如需轉載,請註明出處:http://weixiaolu.iteye.com/blog/1479656