PyTorch模型的最优学习率搜索算法

pytorch-lr-tuner的Python项目详细描述


Pythorch学习速率调谐器

pythorch包用于绘制PyTorch神经网络模型的不同学习率下的损失图,并为特定优化器找到最佳学习率。在

安装:

pip install pytorch-lr-tuner

依赖性:

  • Python 3.6
  • Numpy公司
  • 熊猫
  • Matplotlib库
  • 火把

示例:

该包包括LearningRateFinder类,可以用pytorch模型引用、优化器、准则和训练集实例化。fit()方法通过乘法增量和指数加权平均和偏差校正来搜索最优学习率,并通过调用plot()方法获得该日志的可视化。在

^{pr2}$

输出:

在这里,损失梯度最大的学习速率可以推断为该特定架构的最佳学习速率。在

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
Java中ArrayList的超简单问题   Java 8在一段时间后过期   java如何创建具有用户定义维度的矩阵,并使用从上到下、从左到右的递增值填充它?   java从JDBC重启mysql   带有sqlite的java LiveData未更新UI   带有JDialog的java小程序在Mac OSX中未正确隐藏   java ActionListener无法从公共类引用数组?   java Apache Digester:NoSuchMethodException:没有这样的可访问方法   安卓中数据库中的java数据没有以正确的格式检索   java快速排序实现:使用random pivot时几乎排序   安卓 Java:高效的ArrayList过滤?   java如何在单独的文件中制作GUI程序   jasper报告如何从JSP或Java代码在JasperReport中传递参数值?