keras中的adabound优化器
keras-adabound的Python项目详细描述
Keras Adabound
AdaBound凯拉斯的优化器。
安装
pip install keras-adabound
用法
使用优化器
fromkeras_adaboundimportAdaBoundmodel.compile(optimizer=AdaBound(lr=1e-3,final_lr=0.1),loss=model_loss)
加载自定义对象
fromkeras_adaboundimportAdaBoundmodel=keras.models.load_model(model_path,custom_objects={'AdaBound':AdaBound})
关于体重下降
优化器没有名为weight_decay（与官方repo中一样）的参数，因为可以通过向权重中添加l2正则化器来完成此操作：
importkerasregularizer=keras.regularizers.l2(WEIGHT_DECAY/2)forlayerinmodel.layers:forattrin['kernel_regularizer','bias_regularizer']:ifhasattr(layer,attr)andlayer.trainable:setattr(layer,attr,regularizer)
欢迎加入QQ群-->： 979659372
