超并行多节点任务执行引擎

parallelic的Python项目详细描述


平行

Parallelic是一个具有共享数据和工作空间功能的超并行多节点任务执行引擎。

警告注释

并行不是集装箱化/沙箱引擎。它并不构成完全的任务隔离,也不提供这样的保证。这种情况在未来可能会发生变化,您可以随意为实现这一目标贡献代码,但同时,在向第三方提供访问并行系统的权限时,请考虑到这一点。

安装

从git

  1. 在本地克隆git repo。
  2. 下载python3(.7)和相应的pip
  3. 安装Poetry
  4. 运行poetry install创建virtualenv并安装依赖项
    此时,您可以使用parallelic through
    poetry run parallelic
  5. 运行poetry build以生成轮子
  6. 运行pip install dist/parallelic-[version]-py3-none-any.whl
    现在你可以不用诗歌来使用平行:
    python -m parallelic

来自PIP

  1. 运行pip install parallelic

用法

运行任务

若要运行已定义的任务,请通过Parallelic WebUI或Parallelic CLI客户端将任务包(压缩后的任务根目录)上载到Parallelic Manager实例。
根据并行系统配置,在允许上载任务包之前,您可能需要提供访问凭据。
从这里开始,parallelic manager实例将处理其他所有事情。

定义任务

任务根目录包含一个task.toml文件,该文件包含管理器为计算节点设置和准备资源以运行特定任务所需的元数据。
如果任务不需要其他文件,则任务定义只能是task.toml文件。

目录树不遵循特定的约定,并且可以不同于任务。任务定义文件应包含定义入口点和工作目录的部分。入口点和工作目录都必须相对于任务根目录。

学分

由骗子动画维护的包

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
反射Java反射:高负载下的NoSuchMethodException   java RxJava:one request>list of Integer>sequence of requests for each int>result to list   java为什么循环之前索引会增加   JavaSpring远程处理和RESTfulURL   java Hibernate搜索仅对我的实体的一部分进行索引   使用DPAD快速滚动时,java RecyclerView onCreateViewHolder调用过多   java将JSON解析到一个表中   java导航抽屉标题textview nullpointerexception   基于接口的Java链接队列   java Guice运行时依赖项参数重新注入   java展平/压缩ZSH中的深度嵌套目录   JavaSpring:Http406此请求标识的资源只能   java如何制作Android启动器图标   Java代码在windows上显示不正确(包含希腊语句子)   使用yourkit进行内存分析所用的java时间   java为什么可以序列化属性而不能序列化对象本身?