如何在Python中无锁共享字典给多个进程
我需要在多个进程之间共享一个很大的字典(大约1GB大小),不过因为所有进程都是只读的,所以我不需要上锁。
有没有办法在不加锁的情况下共享这个字典呢?
Python的多进程模块提供了一个数组类,可以通过设置
lock=false
来实现不加锁的共享。不过,管理器提供的字典在多进程模块中没有这样的选项。
1 个回答
5
其实,管理器(Manager)上的字典(dict)根本没有锁!我想其他通过管理器创建的共享对象也是这样。我是怎么知道的呢?我试了一下:
from multiprocessing import Process, Manager
def f(d):
for i in range(10000):
d['blah'] += 1
if __name__ == '__main__':
manager = Manager()
d = manager.dict()
d['blah'] = 0
procs = [ Process(target=f, args=(d,)) for _ in range(10) ]
for p in procs:
p.start()
for p in procs:
p.join()
print d
如果在d
上有锁的话,结果应该是100000
。但是实际上,结果是相当随机的,这就很好地说明了为什么在修改东西的时候需要锁;-)
所以,尽管去使用manager.dict()
吧。