我们能规范化从预训练模型中提取的特征吗

2024-04-18 05:56:48 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在使用从预先训练的VGG16和VGG19模型中提取的特征。特征提取自上述网络的第二完全连接层(FC2)

结果特征矩阵(尺寸(80004096))的值在[0,45]范围内。因此,当我在基于梯度的优化算法中使用此特征矩阵时,损失函数、梯度、范数等的值取非常高的值

为了消除这样高的值,我对这个特征矩阵应用了最小-最大归一化,从那时起,这些值是可管理的。此外,优化算法运行正常。我的策略是否可行,即对从预先训练的模型中提取的特征进行规范化以进行进一步处理是否足够公平


Tags: 函数模型网络算法范数尺寸矩阵特征
1条回答
网友
1楼 · 发布于 2024-04-18 05:56:48

根据经验,只要您知道结果来自标准化值,就可以了。如果规范化可以帮助您更好地显示渐变、规范等,那么我支持它

但我要谨慎的是,对这些特征矩阵进行任何进一步的分析,因为它们是标准化的,而不是真正的值。比如说,如果你要研究这些分布,你应该没事,但我不确定你下一步要做什么,这是否会有害。 你能分享更多关于“进一步分析”的细节吗

相关问题 更多 >