栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

并行文件写入效率高吗?

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

并行文件写入效率高吗?

我想知道并行文件写入是否有效。

简短的答案:从多个线程 物理上同时 写入同一磁盘,永远不会比从一个线程中写入同一磁盘快(在此谈论 普通 硬盘)。在某些情况下,它甚至可能慢很多。

但是,与往常一样,它取决于许多因素:

  • 操作系统磁盘缓存:写入通常由操作系统保存在缓存中,然后分块写入磁盘。因此,多个线程可以同时写入该高速缓存而不会出现问题,并且这样做具有速度优势。特别是如果数据的处理/准备时间比磁盘的写入速度长。

  • 在某些情况下,即使从多个线程直接写入物理磁盘,操作系统也会对此进行优化,并且仅将大块写入每个文件。

  • 但是,在最坏的情况下,每次都可能将较小的块写入磁盘,从而导致每个文件开关都需要进行硬盘寻道(在普通硬盘上为±10ms!)(在SSD上执行相同操作)太糟糕了,因为有更多直接访问权限,无需搜索)。

因此,通常,从多个线程同时写入磁盘时,最好在内存中准备(一些)数据,然后使用某种锁将最终数据以更大的块写入磁盘,或者从一个专用的磁盘中写入。
writer-thread 。如果文件在写入时不断增长(即,未设置文件大小),则将数据写入较大的块还可以防止磁盘碎片(至少尽可能多)。

在某些系统上,可能根本没有差异,但是在其他系统上,差异可能很大,并且变慢得多(甚至在具有不同硬盘的同一系统上)。

为了对使用单线程与多线程的写入速度的差异进行良好的测试,文件总大小必须大于可用内存-
或至少在测量结束时间之前将所有缓冲区刷新到磁盘。在这里,仅测量将数据写入OS磁盘缓存所需的时间并没有多大意义。

理想情况下,将所有数据写入磁盘的总时间应等于物理硬盘的写入速度。如果使用一个线程向磁盘写入速度慢于磁盘写入速度(这意味着处理数据要比写入数据花费更长的时间),则显然使用更多线程将加快处理速度。如果从多个线程进行的写入变得比磁盘的写入速度慢,则由于在不同文件(或同一大文件内的不同块)之间切换而导致的磁盘寻道时间将会浪费。

为了了解执行大量磁盘搜寻时所浪费的时间,让我们看一些数字:

假设我们有一个写入速度为50MB / s的硬盘:

  • 编写一个连续的50MB块将花费1秒(在理想情况下)。

  • 以1MB的块进行相同的操作,同时进行 文件切换, 并在两者之间进行磁盘寻道,将得到:20ms写入1MB + 10ms寻道时间。写入50MB需要1.5秒。时间增加了50%,只是在两者之间进行了 快速查找 (从磁盘读取也保持相同-考虑到更快的读取速度,差异甚至会更大)。

实际上,取决于系统,它将介于两者之间。

尽管我们希望操作系统能很好地处理所有这些问题(例如通过使用IOCP),但情况并非总是如此。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/645506.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号