神经网络中，如果输入> 1或< -1，那么应该在传播之前应用激活函数吗？

Question

我正在创建我的第一个ANN，并使用“股票标准”鸢尾花数据表。一些输入如下：1.3、4.0、2.8等

这些值是否应通过激活函数放置，以便<；1如果不这样传播，会导致任何问题吗

提前欢呼

Answer 1

标准化消除了对数据向量某些维度的几何偏差。通过这种方式，每一位数据都得到了“公平”的处理。提出这一点的另一种方法是认识到所有的学习算法都依赖于数值特性，因此应该尽量避免小数值、大数值和大差异

如果不在（0,1）或（-1,1）之间规范化输入，则无法平均分配每个输入的重要性，因此，在ANN训练期间，大值自然会根据较小的值占主导地位

重要的是投入的可比性。例如，ann有两个输入，x1和x2。x1的变化范围为0至0.5，x2的变化范围为0至1000。x1的变化范围为0.5，即为100%的变化，其中x2的变化范围为0.5，仅为0.05%。因此，规范化有帮助