- 一、BIO(Blocking IO)
- 1、单线程版本
- 1.1、服务端代码
- 1.2、客户端代码
- 1.3、telnet工具连接
- 2、多线程版本
- 3、缺点
- 4、应用场景
- 二、NIO(Non Blocking IO)使用实例
- 1、应用场景
- 2、服务端代码
- 2.1、总结与思考
- 3、NIO引入多路复用器代码示例
- 3.1、总结与思考
- 三、NIO介绍与理解
- 1、理解NioSelectorServer
- 2、Epoll函数详解
- 2.1、epoll_create
- 2.2、epoll_ctl
- 2.3、epoll_wait
- 3、I/O多路复用
- 4、Redis线程模型
- 四、AIO(NIO 2.0)
- 1、应用场景与代码实例
- 2、BIO、 NIO、 AIO 对比
- 3、为什么Netty使用NIO而不是AIO？
- 4、同步异步与阻塞非阻塞(段子)
IO模型就是说用什么样的通道进行数据的发送和接收，Java共支持3种网络编程IO模式：BIO，NIO，AIO。
一、BIO(Blocking IO)同步阻塞模型，一个客户端连接对应一个处理线程。
1、单线程版本 1.1、服务端代码public class SocketServer {
public static void main(String[] args) throws IOException {
ServerSocket serverSocket = new ServerSocket(9000);
while (true) {
System.out.println("等待连接...");
// 阻塞方法, 会卡在accept()这个方法处, 知道有客户端连接后代码才会继续向下执行
Socket clientSocket = serverSocket.accept();
System.out.printf("客户端%s连接成功%n%n", clientSocket.getInetAddress().toString());
// handler(clientSocket);
// 每次的连接都新建一个线程去处理
new Thread(new Runnable() {
@Override
public void run() {
try {
handler(clientSocket);
} catch (IOException e) {
e.printStackTrace();
}
}
}).start();
}
}
private static void handler(Socket clientSocket) throws IOException {
assert clientSocket != null;
byte[] bytes = new byte[1024];
System.out.println("准备read...");
// 接收客户端的数据, 阻塞方法, 没有数据可读时就阻塞
int read = clientSocket.getInputStream().read(bytes);
System.out.println("read完毕...");
if (read != -1)
System.out.println("客户端接收到的数据: " + new String(bytes, 0, read));
}
}
1.2、客户端代码
public class SocketClient {
public static void main(String[] args) throws IOException {
Socket socket = new Socket("localhost", 9000);
// 向服务端发送数据
socket.getOutputStream().write("Hello server".getBytes());
socket.getOutputStream().flush();
System.out.println("向服务端发送数据结束...");
byte[] bytes = new byte[1024];
// 接收服务端传回的数据
socket.getInputStream().read(bytes);
System.out.println("接收到服务端的数据：" + new String(bytes));
socket.close();
}
}
我们也可以使用windows自带的telnet工具来连接一个服务：
首先打开一个cmd窗口，然后输入telnet loclhost 9000来连接服务（telnet默认是关闭的，需要自己手动打开）：
连接以后，我们使用“Ctrl + ]” 组合键来执行操作：
可以使用send命令向服务端发送字符。
此时如果我同时使用连个客户端连接会怎么样呢？
发现单线程版本程序会首先处理第一个客户端的连接并接收数据。等第一个客户端的操作完成后，才会接着去处理第二个客户端的请求和操作。
那我们有没有办法让服务端可以同时连接和处理多个客户端呢？我们可以使用多线程，每一次有客户端连接之后，我们都新建一个线程去执行handler方法中的逻辑：
new Thread(new Runnable() {
@Override
public void run() {
try {
handler(clientSocket);
} catch (IOException e) {
e.printStackTrace();
}
}
}).start();
此时就可以同时处理多个客户端连接的请求了。
此时的结构图为：
那这样的改进是否还存在问题呢？
如果每一个请求都创建一个线程，如果请求过多就会创建过多的线程…这并不是我们期望的。所以我们可能会自然而然的想到使用线程池。
如果我们线程池的大小是100，但是并发又很大，同时可能会有1000甚至10W的请求，这同样会使得其他客户端请求不得不等待，甚至产生超时的错误。
还有一个最严重的问题是阻塞！如果有100个请求首先来占用了线程池中的100个线程资源，但是它们仅仅是连接上然后并没有发送任何数据，这就会导致100个线程都阻塞在那里，永远无法处理其他的请求，这是非常严重的问题！
所以说，在并发量较大的情况下，即使使用线程池也无法很好的解决这个问题。
3、缺点1、IO代码里read操作是阻塞操作，如果连接不做数据读写操作会导致线程阻塞，浪费资源
2、如果线程很多，会导致服务器线程太多，压力太大，比如C10K问题
4、应用场景BIO 方式适用于连接数目比较小且固定的架构， 这种方式对服务器资源要求比较高， 但程序简单易理解。
【总结】 BIO阻塞体现在两个地方，一个是服务端阻塞等到客户端的连接，另一个是服务端阻塞等待接收已连接客户端发送的消息。
二、NIO(Non Blocking IO)使用实例同步非阻塞，服务器实现模式为一个线程可以处理多个请求(连接)，客户端发送的连接请求都会注册到多路复用器selector上，多路复用器轮询到连接有IO请求就进行处理，JDK1.4开始引入。
1、应用场景NIO方式适用于连接数目多且连接比较短（轻操作） 的架构， 比如聊天服务器， 弹幕系统， 服务器间通讯，编程比较复杂。
2、服务端代码public class NioServer {
// save client connection
static List channels = new ArrayList<>();
public static void main(String[] args) throws IOException {
// create NIO server socket channel
ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();
// bind port, default host is any host
serverSocketChannel.socket().bind(new InetSocketAddress(9000));
// set this channel as a no blocking channel
serverSocketChannel.configureBlocking(false);
System.out.println("server start successfully...");
while (true) {
// 非阻塞模式accept方法不会阻塞 否则会阻塞
// NIO的非阻塞是由操作系统内部实现的 底层调用了linux内核的accept函数
SocketChannel socketChannel = serverSocketChannel.accept();
// 如果有客户端连接
if (null != socketChannel) {
System.out.println(serverSocketChannel.getLocalAddress() + " 连接成功...");
// 设置SocketChannel为非阻塞
socketChannel.configureBlocking(false);
// 保存客户端连接在List中
channels.add(socketChannel);
}
// 遍历连接进行数据读取
Iterator iterator = channels.iterator();
while (iterator.hasNext()) {
SocketChannel sc = iterator.next();
ByteBuffer byteBuffer = ByteBuffer.allocate(128);
// 非阻塞模式read方法不会阻塞
int len = sc.read(byteBuffer);
// 如果有数据 把数据打印出来
if (len > 0) {
System.out.println("接收到消息：" + new String(byteBuffer.array()));
} else if (len == -1) { // 如果客户端断开 把socket从集合中去掉
iterator.remove();
System.out.println("客户端断开连接");
}
}
}
}
}
我们使用telnet启动两个客户端，同时发送消息：
可以看到NIO设置为非阻塞之后，可以同时连接和处理多个客户端请求。
其实此时的代码执行情况是这样的，会一直循环while中的操作，如果有客户端连接进来，就将其加入到channels集合中，然后再遍历并处理集合中的请求。整个过程中是不会阻塞程序的。
2.1、总结与思考这种情况下虽然可以同时处理多个客户端请求，但是如果连接数太多的话，会有大量的无效遍历，假如有10000个连接，其中只有1000个连接有写数据，但是由于其他9000个连接并没有断开，我们还是要每次轮询遍历一万次，其中有十分之九的遍历都是无效的，这显然不是一个让人很满意的状态。
所以说现在最根本的问题是我们想处理有用的请求的时候，就不得不去遍历这个装有所有请求的集合，从而浪费很多时间和性能处理无用的请求。所以如果是我们自己来优化，有什么思路呢？
我们是否可以给客户端请求进行分类呢？比如连接的请求，读写的请求等等，这样请求就有了属于自己的标签，我们可以按照标签将请求放在不同的集合中，这样下一次处理的时候是否就可以根据标签只处理读写请求呢？
此时我们就需要使用到多路复用器。
3、NIO引入多路复用器代码示例public class NioSelectorServer {
public static void main(String[] args) throws IOException {
// 创建NIO ServerSocketChannel
ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();
serverSocketChannel.socket().bind(new InetSocketAddress(9000));
// 设置ServerSocketChannel为非阻塞
serverSocketChannel.configureBlocking(false);
// 打开Selector处理Channel，即创建epoll
Selector selector = Selector.open();
// 把ServerSocketChannel注册到selector上
serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT);
System.out.println("服务启动成功");
while (true) {
// 阻塞等待需要处理的事件发生
selector.select();
// 获取selector中注册的全部事件的SelectionKey实例
Set selectionKeys = selector.selectedKeys();
Iterator selectionKeyIterator = selectionKeys.iterator();
while (selectionKeyIterator.hasNext()) {
SelectionKey key = selectionKeyIterator.next();
// 如果是OP_ACCEPT事件, 则进行连接获取和事件注册
if (key.isAcceptable()) {
ServerSocketChannel server = (ServerSocketChannel) key.channel();
SocketChannel socketChannel = server.accept();
socketChannel.configureBlocking(false);
// 这里只注册了读事件,如果需要给客户端发送数据可以注册写事件
socketChannel.register(selector, SelectionKey.OP_READ);
} else if (key.isReadable()) { // 如果是OP_READ事件，则进行读取和打印
SocketChannel socketChannel = (SocketChannel) key.channel();
ByteBuffer byteBuffer = ByteBuffer.allocate(128);
int len = socketChannel.read(byteBuffer);
// 如果有数据把数据打印出来
if (len > 0) {
System.out.println("接收到消息：" + new String(byteBuffer.array()));
} else if (len == -1) { // 如果客户端断开连接，关闭Socket
System.out.println("客户端断开连接");
socketChannel.close();
}
}
//从事件集合里删除本次处理的key，防止下次select重复处理
selectionKeyIterator.remove();
}
}
}
}
3.1、总结与思考
我们引入多路复用去Selector之后，我们可以将服务端或者客户端的Channel都注册到这个多路复用器上去。
然后调用selector.select(); 方法，会根据事件驱动机制阻塞等待需要处理的事件发生。
一旦某个Channel上有事件发生，比如我们使用某个客户端进行连接。此时会将这个事件自动注册到Select上去。那么这个是如何实现的呢？其实是调用了Linux的epoll函数。接下来我们重点来看一下这部分的内容。
三、NIO介绍与理解NIO 有三大核心组件： Channel(通道)， Buffer(缓冲区)，Selector(多路复用器)
1、channel 类似于流，每个 channel 对应一个 buffer缓冲区，buffer 底层就是个数组
2、channel 会注册到 selector 上，由 selector 根据 channel 读写事件的发生将其交由某个空闲的线程处理
3、NIO 的 Buffer 和 channel 都是既可以读也可以写
NIO底层在JDK1.4版本是用linux的内核函数 select()或poll() 来实现，跟上面的NioServer代码类似，selector每次都会轮询所有的sockchannel看下哪个channel有读写事件，有的话就处理，没有就继续遍历，JDK1.5开始引入了epoll 基于事件响应机制来优化NIO。
NioSelectorServer 代码里如下几个方法非常重要，我们从Hotspot与Linux内核函数级别来理解下
//创建多路复用器 Selector.open() //将channel注册到多路复用器上 socketChannel.register(selector, SelectionKey.OP_READ) //阻塞等待需要处理的事件发生 selector.select()
总结：NIO整个调用流程就是Java调用了操作系统的内核函数来创建Socket，获取到Socket的文件描述符，再创建一个Selector对象，对应操作系统的Epoll描述符，将获取到的Socket连接的文件描述符的事件绑定到Selector对应的Epoll文件描述符上，进行事件的异步通知，这样就实现了使用一条线程，并且不需要太多的无效的遍历，将事件处理交给了操作系统内核(操作系统中断程序实现)，大大提高了效率。
int epoll_create(int size);
创建一个epoll实例，并返回一个非负数作为文件描述符，用于对epoll接口的所有后续调用。参数size代表可能会容纳size个描述符，但size不是一个最大值，只是提示操作系统它的数量级，现在这个参数基本上已经弃用了。
2.2、epoll_ctl服务端调用Selector.open() 方法来创建一个Selector实例，而真实的动作是调用操作系统的epoll_create内核函数来创建一个空的epoll对象实例。
epoll实例中有一个空的事件就绪列表rdlist
int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
使用文件描述符epfd引用的epoll实例，对目标文件描述符fd执行op操作。
参数epfd表示epoll对应的文件描述符，参数fd表示socket对应的文件描述符。
参数op有以下几个值：
- EPOLL_CTL_ADD：注册新的fd到epfd中，并关联事件event
- EPOLL_CTL_MOD：修改已经注册的fd的监听事件
- EPOLL_CTL_DEL：从epfd中移除fd，并且忽略掉绑定的event，这时event可以为null
参数event是一个结构体：
struct epoll_event {
__uint32_t events;
epoll_data_t data;
};
typedef union epoll_data {
void *ptr;
int fd;
__uint32_t u32;
__uint64_t u64;
} epoll_data_t;
events有很多可选值，这里只举例最常见的几个：
- EPOLLIN ：表示对应的文件描述符是可读的
- EPOLLOUT：表示对应的文件描述符是可写的
- EPOLLERR：表示对应的文件描述符发生了错误
成功则返回0，失败返回-1.
2.3、epoll_wait内核函数epoll_ctl会进行真正得将事件绑定到epoll实例上。
int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);
等待文件描述符epfd上的事件。
epfd是Epoll对应的文件描述符，events表示调用者所有可用事件的集合，maxevents表示最多等到多少个事件就返回，timeout是超时时间。
3、I/O多路复用当Select也就是操作系统内核中的epoll实例在调用epoll_wait函数的时候会去检查rdlist中是否存在数据，如果不存在就继续阻塞，否则就会将rdlist中的时间拿出来遍历执行。
I/O多路复用底层主要用的Linux 内核·函数（select，poll，epoll）来实现，windows不支持epoll实现，windows底层是基于winsock2的select函数实现的(不开源)
Redis就是典型的基于epoll的NIO线程模型(nginx也是)，epoll实例收集所有事件(连接与读写事件)，由一个服务端线程连续处理所有事件命令。
Redis底层关于epoll的源码实现在redis的src源码目录的ae_epoll.c文件里，感兴趣可以自行研究。
四、AIO(NIO 2.0)异步非阻塞， 由操作系统完成后回调通知服务端程序启动线程去处理， 一般适用于连接数较多且连接时间较长的应用
1、应用场景与代码实例AIO方式适用于连接数目多且连接比较长(重操作)的架构，JDK7 开始支持
AIO代码示例：
public class AIOServer {
public static void main(String[] args) throws Exception {
final AsynchronousServerSocketChannel serverChannel =
AsynchronousServerSocketChannel.open().bind(new InetSocketAddress(9000));
serverChannel.accept(null, new CompletionHandler() {
@Override
public void completed(AsynchronousSocketChannel socketChannel, Object attachment) {
try {
System.out.println("2--"+Thread.currentThread().getName());
// 再此接收客户端连接，如果不写这行代码后面的客户端连接连不上服务端
serverChannel.accept(attachment, this);
System.out.println(socketChannel.getRemoteAddress());
ByteBuffer buffer = ByteBuffer.allocate(1024);
socketChannel.read(buffer, buffer, new CompletionHandler() {
@Override
public void completed(Integer result, ByteBuffer buffer) {
System.out.println("3--"+Thread.currentThread().getName());
buffer.flip();
System.out.println(new String(buffer.array(), 0, result));
socketChannel.write(ByteBuffer.wrap("HelloClient".getBytes()));
}
@Override
public void failed(Throwable exc, ByteBuffer buffer) {
exc.printStackTrace();
}
});
} catch (IOException e) {
e.printStackTrace();
}
}
@Override
public void failed(Throwable exc, Object attachment) {
exc.printStackTrace();
}
});
System.out.println("1--"+Thread.currentThread().getName());
Thread.sleep(Integer.MAX_VALUE);
}
}
public class AIOClient {
public static void main(String... args) throws Exception {
AsynchronousSocketChannel socketChannel = AsynchronousSocketChannel.open();
socketChannel.connect(new InetSocketAddress("127.0.0.1", 9000)).get();
socketChannel.write(ByteBuffer.wrap("HelloServer".getBytes()));
ByteBuffer buffer = ByteBuffer.allocate(512);
Integer len = socketChannel.read(buffer).get();
if (len != -1) {
System.out.println("客户端收到信息：" + new String(buffer.array(), 0, len));
}
}
}
2、BIO、 NIO、 AIO 对比
3、为什么Netty使用NIO而不是AIO？
在Linux系统上，AIO的底层实现仍使用Epoll，没有很好实现AIO，因此在性能上没有明显的优势，而且被JDK封装了一层不容易深度优化，Linux上AIO还不够成熟。Netty是异步非阻塞框架，Netty在NIO上做了很多异步的封装。
4、同步异步与阻塞非阻塞(段子)老张爱喝茶，废话不说，煮开水。
出场人物：老张，水壶两把（普通水壶，简称水壶；会响的水壶，简称响水壶）。
1、老张把水壶放到火上，立等水开。（同步阻塞）
老张觉得自己有点傻
2、老张把水壶放到火上，去客厅看电视，时不时去厨房看看水开没有。（同步非阻塞）
老张还是觉得自己有点傻，于是变高端了，买了把会响笛的那种水壶。水开之后，能大声发出嘀~~~~的噪音。
3、老张把响水壶放到火上，立等水开。（异步阻塞）
老张觉得这样傻等意义不大
4、老张把响水壶放到火上，去客厅看电视，水壶响之前不再去看它了，响了再去拿壶。（异步非阻塞）
老张觉得自己聪明了。
所谓同步异步，只是对于水壶而言。
普通水壶，同步；响水壶，异步。
虽然都能干活，但响水壶可以在自己完工之后，提示老张水开了。这是普通水壶所不能及的。
同步只能让调用者去轮询自己（情况2中），造成老张效率的低下。
所谓阻塞非阻塞，仅仅对于老张而言。
立等的老张，阻塞；看电视的老张，非阻塞。
