如何在CNTK中应用自定义正则化（使用python）？

Question

你知道我如何对CNTK应用自定义正则化函数吗？在

特别是，我想把functtino wrt的导数加到输入中，比如

newLoss = loss + lambda * gradient_F(inputs)

其中F是模型学习的函数，输入是模型的输入。在

如何在CNTK中实现这一点？我不知道如何获取输入的梯度，以及如何获取正则化器的权重。在

Answer 1

下面是执行此操作的代码：

    def cross_entropy_with_softmax_plus_regularization(model, labels, l2_regularization_weight):
        w_norm = C.Constant(0);
        for p in (model.parameters):
            w_norm = C.plus(w_norm, 0.5*C.reduce_sum(C.square(p)))

        return C.reduce_log_sum_exp(model.output) - 

C.reduce_log_sum_exp(C.times_transpose(labels, model.output)) + l2_regularization_weight*w_norm

以及我的博客文章