如何在Python中无锁共享字典给多个进程

6 投票
1 回答
3180 浏览
提问于 2025-04-15 23:19

我需要在多个进程之间共享一个很大的字典(大约1GB大小),不过因为所有进程都是只读的,所以我不需要上锁。

有没有办法在不加锁的情况下共享这个字典呢?

Python的多进程模块提供了一个数组类,可以通过设置
lock=false
来实现不加锁的共享。不过,管理器提供的字典在多进程模块中没有这样的选项。

1 个回答

5

其实,管理器(Manager)上的字典(dict)根本没有锁!我想其他通过管理器创建的共享对象也是这样。我是怎么知道的呢?我试了一下:

from multiprocessing import Process, Manager

def f(d):
    for i in range(10000):
        d['blah'] += 1

if __name__ == '__main__':
    manager = Manager()

    d = manager.dict()
    d['blah'] = 0
    procs = [ Process(target=f, args=(d,)) for _ in range(10) ]
    for p in procs:
        p.start()
    for p in procs:
        p.join()

    print d

如果在d上有锁的话,结果应该是100000。但是实际上,结果是相当随机的,这就很好地说明了为什么在修改东西的时候需要锁;-)

所以,尽管去使用manager.dict()吧。

撰写回答