在aws现场实例和gcp抢占vms上训练深度学习模型

spott的Python项目详细描述


DocumentationPyPIPyPI - Python VersionPyPI - License

spotty极大地简化了AWS上的深度学习模型的培训 以及GCP

  • 它使gpu实例的培训与本地机器上的培训一样简单
  • 它自动管理所有必要的云资源,包括图像、卷、快照和ssh密钥
  • 它使您的模型可以在云中由每个人通过几个命令进行培训
  • 它使用tmux轻松地将远程进程与其终端分离
  • 使用AWS Spot Instances可以节省高达70%的成本 以及GCP Preemtible VMs

文档

安装

要求:

使用pip安装或升级spotty:

$ pip install -U spotty

开始

  1. 准备一个spotty.yaml文件并将其放到项目的根目录:

    • 请参阅文件规范here
    • 阅读this 文章为现实世界的例子。
  2. 启动实例:

    $ spotty start
    

    它将运行一个spot实例,恢复快照(如果有的话),将项目与正在运行的实例同步 用环境启动Docker容器。

  3. 训练一个模型或运行笔记本。

    要通过ssh连接到正在运行的容器,请使用以下命令:

    $ spotty ssh
    

    它运行一个tmux会话,因此您始终可以使用 Ctrl + b,然后d组合键。要稍后附加到该会话,只需使用 spotty ssh再次命令。

    此外,还可以使用spotty run <SCRIPT_NAME>命令在Docker容器中运行自定义脚本。阅读更多 关于文档中的自定义脚本: Configuration: "scripts" section

贡献

欢迎任何反馈或贡献!请查看guidelines

许可证

MIT License

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java如何将jaxb插件扩展与gradlejaxbplugin一起使用   java Hibernate列表<Object[]>到特定对象   java使用多态性显示arraylist的输出   java水平堆叠卡,带有一定偏移量   java错误:找不到符号方法liesInt()   java客户机/服务器文件收发中的多线程流管理   在java中可以基于访问重载方法吗?   包含空元素的java排序数组   swing Java按钮/网格布局   java BottomNavigationView getmaxitemcount   java空指针异常字符串生成器   java Xamarin升级导致“类文件版本错误52.0,应为50.0”错误   java我正在尝试打印它,而不只是对每一行进行println   Tomcat7中的java是否需要复制上下文。将xml转换为conf/Catalina/locahost以使其生效   带有注入服务的java REST端点在何处引发自定义WebServiceException?   在Java中使用GPS数据   java如何将JFreeChart ChartPanel导出到包含添加的CrosshairOverlay的图像对象?   内置Eclipse期间的Java 8堆栈溢出   java在GWT编译的JavaScript中如何表示BigDecimal