神经网络训练中阶梯现象的解释？

Question

我试图用自己的数据创建一个Keras模型。大约过了几个世纪之后，发生了一些奇怪的事情（比如楼梯），我无法向自己解释。你知道吗

Result of the training

你是否碰巧知道大约270个时代之后的事件意味着什么？你知道吗

Answer 1

不看代码很难回答你的问题

在我看来，这看起来像是您可能有一个学习率调度程序或其他调整您的学习率的东西（参见keras文档here）。你知道吗

keras.callbacks.callbacks.LearningRateScheduler(schedule, verbose=0)

如果你不知道调度程序是如何开始的（请参阅 这个blog post）：

Learning rate schedules seek to adjust the learning rate during training by reducing the learning rate according to a pre-defined schedule. Common learning rate schedules include time-based decay, step decay and exponential decay.