amqp上map-reduce的纯python实现

poop的Python项目详细描述


poopy-一个不可用的map reduce引擎超过amqp

安装

来自pypi

  1. 安装rabitmq
  2. pip install poopy(请使用virtualenv)
  3. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/iris.arff?at=default
  4. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/randomforest.py 放在iris.arff
  5. 的同一目录中

来自回购

  1. 安装rabitmq
  2. 克隆此https://bitbucket.org/leliel12/poopy回购
  3. pip install -e .
  4. 归档文件iris.arffrandomforest.py位于examples/
  5. 中。

正在运行

  1. 打开两个控制台(控制台A、控制台B)
  2. consoleb中运行poopy deploy amqp://localhost
  3. consolea中执行 poopy upload amqp://localhost path/to/iris.arff poopFS://iris.arff 现在您的文件被上传到“分布式文件系统”
  4. consolea运行 poopy run amqp://localhost path/to/randomforest.py Script out
  5. 输出模型在out/localtime中序列化

读取模型

在python控制台中

frompoopyimportserializerswithopen("out/file")asfp:model=serializers.load(fp)

待办事项:

  • 正确执行超时。
  • 实现错误交换。
  • 真正的分布式文件系统。
  • 多个映射或减少。
  • 输出格式比b64 pkl多。
  • 不使用中心节点作为主内存。
  • 将一些模块重新排序到包中

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java将firebase数据放在JTable中   java如何使用ApacheWicket制作类似IOS的滑动开关?   java正在尝试查找漏洞!anon对pmap意味着什么?   java抽象与抽象类和接口   java日期+天数计算器   java查找数组中3个数字的最小乘积[代码错误?]   有没有办法创建一个标签,这样当编译器运行时,它会用java中的语句替换这个标签   无法解析java变量   Java Swing中正确的ModelViewController模式   java将数据推送到设备的最佳方式是什么?   java我可以在线程池中运行后台任务吗?   java如何将excel工作表复制到同一工作簿?   java如何在groovy spock中模拟新的class()调用   spring自动部署java(守护程序或web)应用程序工具   java使JTabbedPane居中,而不是实际的选项卡   java如何使这些简单而美丽?   java如何有选择地重写类的函数   如何将wkhtmltopdf集成到我的java Web应用程序中?   java Infinispan操作模式   拼图65java拼图。整数溢出可能发生在涉及负数减法、int.Max_值等的计算中。如何避免这种情况?