栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

(四)Windows网络模型之完成端口模型详解

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

(四)Windows网络模型之完成端口模型详解

Windows网络模型之完成端口模型

完成端口模型是重叠IO模型的升级优化版,解决了重叠IO模型的不足,是Windows下效率最好的网络模型。


重叠IO模型有什么不足?

  • 对于事件通知:需要程序员进行循环询问,当并发量较高时,延迟增高,并且做了许多无用功;此外每次调用WSASend()、WSARecv()等函数投递给OS处理,其实都是在另开一根线程,这将不可变避免导致线程量增多,不好管理且效率下降。
  • 对于完成例程:此时程序员只需等待服务器socket的事件即可;但是仍会存在大量的线程,相比事件通知模型还多出了执行回调函数(完成例程中的例程)所需要创建的线程,因此在并发量很大时,线程数目会急剧增加,导致效率下降。

这就引申出了一个新问题:为什么线程数增加的时候,效率会降低呢?

  • 首先并不是线程数越多,CPU的利用效率就会越高
  • 因为线程切换时需要保存当前线程上下文、恢复目标线程上下文。如果线程过多,会让CPU忙于切换和调度,浪费过多的时间在线程切换上,由此降低了效率。因此程序的线程数目不能太多,理论上和CPU核心数目差不多或稍微多一点即可。

说句拓展:有时会说线程数增加时,会提高程序的执行速度?为啥?

  • 这是因为当增加当前程序的线程数时,会获得更多的CPU时间片,其挤压了其他程序或进程的CPU时间片。虽然当前程序执行速度可能会得到一定的提升,但是却牺牲了其他程序的执行效率且增加了CPU调度和线程切换的资源用量,本质上还是降低了计算机整体的执行效率,是一种"自私"的做法!

完成端口模型是如何解决线程过多问题的?

完成端口模型 是基于重叠IO模型的改进,该模型依然使用了重叠结构Overlapped、AcceptEx()、WSARecv()、WSASend()等异步函数。此外还使用了完成端口变量—需由CreateIoCompletionPort()创建。

该模型模仿消息队列,由OS维护一个通知队列,当上述的异步函数完成后就会产生通知,OS将通知放进通知队列中;程序员根据计算机的性能合理创建一定数目的线程,读取通知队列的头部通知,并进行分类处理。


完成端口模型的使用逻辑

  1. 开启网络库

  2. 创建服务器socket

  3. 绑定本地IP与port

  4. 创建完成端口,只需要一个完成端口,需要将每一个socket(服务器socket和客户端通信socket)都绑定到同一个完成端口上。

    // 功能1:创建完成端口
    HANDLE CreateIoCompletionPort(
      [in]           HANDLE    FileHandle,				// 填写INVALID_HANDLE_VALUE
      [in, optional] HANDLE    ExistingCompletionPort,	// 填写NULL
      [in]           ULONG_PTR CompletionKey,			// 忽略,填0即可
      [in]           DWORD     NumberOfConcurrentThreads// 最重要的参数:并发线程数目,填0表示默认
    );
    // 如:
    HANDLE hPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, 0, 0, 0);
    
    
    // 功能2:绑定socket到完成端口上
    HANDLE CreateIoCompletionPort(
      [in]           HANDLE    FileHandle,				// 需要绑定的socket的句柄
      [in, optional] HANDLE    ExistingCompletionPort,	// 完成端口的句柄
      [in]           ULONG_PTR CompletionKey,			// 传进去一个参数,它会在GetQueuedCompletionStatus()时传出,因此可以借助该参数标记以及识别socket
      [in]           DWORD     NumberOfConcurrentThreads// 忽略,填0即可
    );
    // 如:
    HANDLE hRes = CreateIoCompletionPort((HANDLE)sockListen, hPort, sockListen, 0);
    
  5. 绑定服务器socket与完成端口

  6. 启动服务器监听

  7. 然后创建合理数目的线程,在每个线程中使用GetQueuedCompletionStatus()函数,获取通知队列中的通知,然后根据传出参数进行分类,并处理。保证线程循环执行,不断读取通知队列中的通知并处理。

    BOOL GetQueuedCompletionStatus(
      [in]  HANDLE       CompletionPort,			// 完成端口句柄,只有与完成端口绑定的socket上发生的事件才可以被监测到
            LPDWORD      lpNumberOfBytesTransferred,// 接收或发送的字节数
      [out] PULONG_PTR   lpCompletionKey,			// 传出了在绑定socket与完成端口时,传入的一个参数3,可以用于标记socket
      [out] LPOVERLAPPED *lpOverlapped,				// 传出了与socket绑定在一起的重叠结构,注意重叠结构是在调用异步函数时传入的
      [in]  DWORD        dwMilliseconds				// 超时时间
    );
    
    // 返回值: true 执行成功  false 执行失败
    
  8. 对于线程处理函数,主要工作就是循环调用GetQueuedCompletionStatus()处理通知队列的通知

    • 对于建立连接的请求要及时对新的客户端socket绑定重叠结构以及完成端口,然后投递。
    • 对于收发数据的请求,要及时处理数据,并继续投递数据收发任务

如何回答:讲讲你理解的完成端口模型?

完成端口模型是重叠IO模型的升级版,它解决了重叠IO模型中线程过多导致效率下降的问题。

在完成端口模型中,我们新创建一个完成端口变量,并将所有的socket(包括服务器socket和客户端通信socket)都绑定到完成端口上。然后使用AcceptEx()、WSARecv()、WSASend()函数异步投递相应的任务,等任务完成后操作系统将完成通知放进通知队列中。

之后程序员创建合理数目的线程,在线程函数中取出通知队列的头部,然后分析并分类处理。

该模型所有函数执行部分都是异步的,而且不存在线程滥用问题,因此效率非常高!


完成端口模型的流程图


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1040577.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号