密层权矩阵的维数

Question

请参考所附图片。我正在学习一门课程，Python中的TensorFlow简介。在构造神经网络时，weights1 = Variable(ones((3, 2)))。我不知道权重1矩阵的维数是如何确定的？尤其是列值。为什么是2

Answer 1

这是因为第一层（3个节点）和第二层（2个节点）中的节点数。您的目标是计算下一层的输入矩阵，为此，您需要获得（1,2）的输出维度，以便能够计算最终层并获得单个结果

l层权重矩阵的尺寸公式为

dim(W_l) = [N_(l), N_(l-1)]

W_l-权重矩阵 N_u1（l）-层l上的节点数

用于计算下一层的公式：

Z_(l+1) = activation(W_l*Z_(l) + b_l)

Z_（l）-层l的输出 b_l-层l的偏置矢量 W_l-层l的权重矩阵

希望这能给我们一些启示