amqp上map-reduce的纯python实现

poop的Python项目详细描述


poopy-一个不可用的map reduce引擎超过amqp

安装

来自pypi

  1. 安装rabitmq
  2. pip install poopy(请使用virtualenv)
  3. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/iris.arff?at=default
  4. 下载此文件 https://bitbucket.org/leliel12/poopy/raw/tip/example/randomforest.py 放在iris.arff
  5. 的同一目录中

来自回购

  1. 安装rabitmq
  2. 克隆此https://bitbucket.org/leliel12/poopy回购
  3. pip install -e .
  4. 归档文件iris.arffrandomforest.py位于examples/
  5. 中。

正在运行

  1. 打开两个控制台(控制台A、控制台B)
  2. consoleb中运行poopy deploy amqp://localhost
  3. consolea中执行 poopy upload amqp://localhost path/to/iris.arff poopFS://iris.arff 现在您的文件被上传到“分布式文件系统”
  4. consolea运行 poopy run amqp://localhost path/to/randomforest.py Script out
  5. 输出模型在out/localtime中序列化

读取模型

在python控制台中

frompoopyimportserializerswithopen("out/file")asfp:model=serializers.load(fp)

待办事项:

  • 正确执行超时。
  • 实现错误交换。
  • 真正的分布式文件系统。
  • 多个映射或减少。
  • 输出格式比b64 pkl多。
  • 不使用中心节点作为主内存。
  • 将一些模块重新排序到包中

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java如何使用Spring和JSF向客户端授予临时权限   java除了Array/ArrayList之外,还有其他保存矩阵元素的方法吗   java BeanValidation不适用于单选按钮   通过java程序连接到配置单元数据库时出错   java如何使用maven解决二级依赖关系   JfreeChart/Java中带有图例的数据表   合并数组时发生java运行时错误   安全性如何在JavaEE中保护WebSocket端点?   java有没有一种方法可以使用insert方法为树插入值   java编程“静态”的另一种方式:代码可以吗?   java阅读文本文件时如何跳过3行   %04X在C中的含义以及如何在java中编写   java我如何验证一个方法不是仅在一个测试范围内对模拟调用的?   java如何在mac中使用启动appium desktop 1.6.1。球棒   仅匹配最多10位小数的java正则表达式