神经结构学习中的“对抗性干扰”是什么意思？

Question

神经结构学习（NSL）最近被引入到tensorflow 2.0中。我已经通过了tensorflow站点上NSL上的this guide和this tutorial关于图像分类的对抗正则化。从概念上讲，我不清楚这是如何工作的。如何生成额外的对抗性样本，什么是对抗性训练，它如何帮助实现更高的准确性/性能？附加的代码确实很短，但是这个代码在幕后做了什么还不清楚。如果能从外行的角度一步一步地进行内部解释，我将不胜感激。你知道吗

Answer 1

典型的对抗性例子是通过获得输出的梯度w.r.t.和输入的梯度，然后最大化损失。例如，如果你有一个猫和狗的分类任务，你想创建一个对抗性的例子，你输入一个256 x 256猫图像到你的网络，得到损失的梯度w.r.t.输入，这也是一个256 x 256张量，然后添加负梯度（摄动）到你的图像，直到网络将它分类为狗。通过使用正确的标签再次对这些生成的图像进行训练，网络对噪声/扰动变得更加鲁棒。你知道吗

还有其他更复杂的方法。例如this paper解释了输入中的模式如何破坏光流估计网络的输出。你知道吗