Python多进程写入同一文件的方法_java并发写文件 - CSDN文库

python多线程并发

178 浏览量更新于2023-05-04 评论收藏 59KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

Python多进程写入同一文件的方法多进程写入同一文件的方法

最近用python的正则表达式处理了一些文本数据，需要把结果写到文件里面，但是由于文件比较大，所以运行起来花费的时间

很长。但是打开任务管理器发现CPU只占用了25%，上网找了一下原因发现是由于一个叫GIL的存在，使得Python在同一时间

只能运行一个线程，所以只占用了一个CPU，由于我的电脑是4核的，所以CPU利用率就是25%了。

既然多线程没有什么用处，那就可以使用多进程来处理，毕竟多进程是可以不受GIL影响的。Python提供了一个

multiprocessing的多进程库，但是多进程也有一些问题，比如，如果进程都需要写入同一个文件，那么就会出现多个进程争用

资源的问题，如果不解决，那就会使文件的内容顺序杂乱。这就需要涉及到锁了，但是加锁一般会造成程序的执行速度下降，

而且如果进程在多处需要向文件输出，也不好把这些代码整个都锁起来，如果都锁起来，那跟单进程还有什么区别。有一个解

决办法就是把向文件的输出都整合到一块去，在这一块集中加个锁，这样问题就不大了。不过还有一种更加优雅的解决方式：

使用multiprocessing库的回调函数功能。

具体思路跟把文件输出集中在一起也差不多，就是把进程需要写入文件的内容作为返回值返回给惠和的回调函数，使用回调函

数向文件中写入内容。这样做在windows下面还有一个好处，在windows环境下，python的多进程没有像linux环境下的多进程

一样，linux环境下的multiprocessing库是基于fork函数，父进程fork了一个子进程之后会把自己的资源，比如文件句柄都传递

给子进程。但是在windows环境下没有fork函数，所以如果你在父进程里打开了一个文件，在子进程中写入，会出现

ValueError: I/O operation on closed file这样的错误，而且在windows环境下最好加入if __name__ == ‘__main__’这样的判

断，以避免一些可能出现的RuntimeError或者死锁。

下面是代码：下面是代码：

from multiprocessing import Pool

import time

def mycallback(x):

with open('123.txt', 'a+') as f:

f.writelines(str(x))

def sayHi(num):

return num

if __name__ == '__main__':

e1 = time.time()

pool = Pool()

for i in range(10):

pool.apply_async(sayHi, (i,), callback=mycallback)

pool.close()

pool.join()

e2 = time.time()

print float(e2 - e1)

运行结果如下：运行结果如下：

以上这篇Python多进程写入同一文件的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支

持软件开发网。

您可能感兴趣的文章您可能感兴趣的文章:Python多进程分块读取超大文件的方法python多进程实现文件下载传输功能Python实现的多进程拷贝文

件并显示百分比功能示例python进程池实现的多进程文件夹copy器完整示例python实现批量修改文件名代码Python遍历目录

并批量更换文件名和目录名的方法python实现批量改文件名称的方法Python实现批量修改文件名实例Python多进程并发

(multiprocessing)用法实例详解浅析Python中的多进程与多线程的使用python实现多进程按序号批量修改文件名的方法示例

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余0页未读，立即下载

评论0

weixin_38710127

粉丝: 5
资源: 921

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈