我正在尝试使用 multiprocessing
的 Pool.map()
函数同时划分工作。当我使用以下代码时,它工作正常:
import multiprocessing
def f(x):
return x*x
def go():
pool = multiprocessing.Pool(processes=4)
print pool.map(f, range(10))
if __name__== '__main__' :
go()
但是,当我在更面向对象的方法中使用它时,它就不起作用了。它给出的错误信息是:
PicklingError: Can't pickle <type 'instancemethod'>: attribute lookup
__builtin__.instancemethod failed
当以下是我的主程序时会发生这种情况:
import someClass
if __name__== '__main__' :
sc = someClass.someClass()
sc.go()
以下是我的 someClass
类:
import multiprocessing
class someClass(object):
def __init__(self):
pass
def f(self, x):
return x*x
def go(self):
pool = multiprocessing.Pool(processes=4)
print pool.map(self.f, range(10))
任何人都知道问题可能是什么,或者解决它的简单方法?
最佳答案
问题是多处理必须 pickle 东西以将它们吊在进程之间,并且绑定(bind)的方法是不可 pickle 的。解决方法(无论您是否认为它“容易”;-) 是将基础结构添加到您的程序中以允许对此类方法进行 pickle ,并将其注册到 copy_reg标准库方法。
例如,Steven Bethard 对 this thread 的贡献(接近线程的末尾)展示了一种完全可行的方法来允许通过 copy_reg
进行方法 pickle/取消 pickle 。
关于python - 使用多处理 Pool.map() 时无法 pickle <type 'instancemethod' >,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/1816958/