栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

对网络库协程的思考——读brpc有感

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

对网络库协程的思考——读brpc有感

bthread的作用之一:将Reactor中的同步IO改异步IO。

理论上Reactor效率不如Proactor,具体表现在虽然Reactor模型避免了等待可读/可写事件就绪的时间,但是read/write调用本身的时间是不可避免的(即内核缓冲区和用户缓冲区之间的数据拷贝是占用当前线程CPU时间的),而Proactor却可以避免这个时间,所以效率更高。

那么为什么说Proactor效率更高呢?虽然Proactor不需要等待read/write本身,但只是把读写处理时间转交给了操作系统内核线程,总的处理时间并不会减少。

关键在于通过把read/write的时间转交给操作系统,当前线程可以继续去处理下一个连接,虽然总的吞吐量没有变化,但是每条请求的平均处理时延降低了。所以brpc中把IO操作交给新的bthread执行(https://github.com/apache/incubator-brpc/blob/master/docs/cn/io.md#%E6%94%B6%E6%B6%88%E6%81%AF)就相当于交给支持异步IO的操作系统去执行,它们都可以降低请求平均时延。

hook系统调用

有了异步IO和bthread的启示,我们会想到将所有会发生阻塞的系统调用都以这种方式改写,这就引出了hook。

简单来说hook库代码是对系统调用的包装,目的是当系统调用要阻塞时,不是直接阻塞当前线程,而是阻塞当前bthread,当前线程立即去执行另一个bthread,从而避免了线程阻塞。

这相当于把系统调用 + 线程的模型下放为hook后的系统调用 + 协程。(系统调用阻塞时发生线程切换,hook后的系统调用阻塞时发生协程切换,而协程切换开销小于线程,所以后者性能更好)。

但是brpc并没有hook系统调用,这是因为:

  • bthread阻塞可能切换系统线程,依赖系统TLS的函数的行为未定义。
  • 和阻塞pthread的函数混用时可能死锁。
  • 这类hook函数本身的效率一般更差,因为往往还需要额外的系统调用,如epoll。
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/930577.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号