训练3dconv神经网络失败；损失收敛于0.6931

Question

我编写了一个脚本来训练神经网络使用.nii文件作为输入，使用TensorFlow这里的教程https://www.tensorflow.org/tutorials/load_data/images。我稍微修改了它以处理NiBabel和.nii文件，但它仍然遵循相同的基本结构。然而，我遇到了一个问题，我的损失收敛到0.6931，我假设这是因为无论输入、图像形状或批量大小，模型开始猜测相同的东西。因此，我认为模式不是学习。任何人都可以识别我的代码中的致命缺陷；我已经累了：

• 更改LR的回调
• 更改数据、清理数据和重新组织数据
• 更改每个类的数量比例
• 使用不同的优化器和损失函数
• 使用一个简单的密集、密集、密集的模型，但这似乎不起作用，因为它甚至不想开始训练
• 使用重复数据集和固定大小（尽管我不清楚这有什么区别）

# Gets the label of the image, the label determines how tensorflow will classify the image
def get_label(file_path):
    # Convert the path to a list of path components
    parts = tf.strings.split(file_path, os.path.sep)
    # The fourth last is the class-directory
    return float(parts[-4] == "class1")


# Reads the data from a .nii file and returns a NumPy ndarray that is compatible with tensorflow
def decode_img(img):
    img = nib.load(img.numpy().decode('utf-8'))
    # convert the compressed string to a NumPy ndarray
    data = img.get_fdata()
    # Resize img
    data = np.resize(data, imgshape)
    # Normalize
    max = np.amax(data)
    min = np.amin(data)
    data = ((data-min)/(max-min))
    return data


# Processes a path to return a image data and label pair
def process_path(file_path):
    # Gets the files label
    label = get_label(file_path)
    img = decode_img(file_path)
    return img, label

我使用这些函数来处理我的数据，并将其映射到我的列表文件数据集来处理我的数据

def configure_for_performance(ds):
    #ds = ds.cache(filename='cachefile')
    ds = ds.cache()
    ds = ds.shuffle(buffer_size=1000)
    ds = ds.repeat()
    ds = ds.batch(BATCH_SIZE)
    ds = ds.prefetch(buffer_size=tf.data.experimental.AUTOTUNE)
    return ds

我直接从TensorFlow教程中提取了这个

# Create a sequential network
model = tf.keras.Sequential([
    tf.keras.layers.Convolution3D(
        4, 4, padding='same', data_format="channels_last", input_shape=imgshape, activation='tanh'),
    tf.keras.layers.MaxPooling3D(padding='same'),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Convolution3D(4, 4, padding='same', activation='tanh'),
    tf.keras.layers.MaxPooling3D(padding='same'),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Convolution3D(4, 4, padding='same', activation='tanh'),
    tf.keras.layers.MaxPooling3D(padding='same'),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Convolution3D(4, 4, padding='same', activation='tanh'),
    tf.keras.layers.MaxPooling3D(padding='same'),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Flatten(),
    tf.keras.layers.Dense(2048, activation='tanh'),
    tf.keras.layers.Dense(1024, activation='tanh'),
    tf.keras.layers.Dense(512, activation='tanh'),
    tf.keras.layers.Dense(256, activation='tanh'),
    tf.keras.layers.Dense(1, activation='sigmoid')
])
model.compile(optimizer='adam',
              loss=tf.keras.losses.BinaryCrossentropy(from_logits=True),
              metrics=['accuracy'])
model.summary()
model.fit(
    train_ds,
    validation_data=val_ds,
    epochs=500,
    steps_per_epoch=BATCH_SIZE,
    validation_steps=BATCH_SIZE
)

这是我的模型，我使用的3dconv与传统图像分类中使用的2D CONV类似

任何建议都将不胜感激

Answer 1

您获取图像的代码看起来不错，但是我无法亲自测试，因为我不确定您的数据是如何存储的。此外，您的模型将开始训练这一事实表明错误可能不在这里。如果要确保可以使用matplotlib显示图像，以确保正确加载图像

首先，我会让你的模型尽可能简单，并且仍然有效，测试它是否仍然收敛到0.6931或其他数字。然后尝试使用不同的激活功能ie relu。另一种方法可能是使用一些批量标准化。我的理论是，在tanh函数中有非常大或非常小的值，这会导致每次输出接近0或1。这也阻止了进一步的训练，因为训练时有很小的坡度。更改为relu可能会绕过大值的问题，但可能不是小值。使用批量归一化将使您的值远离tanh输出仅为0或1的极值

Answer 2

如果您一直在收敛到完全相同的损失，那么根据我的经验，只有一种解释——您对数据加载器的编码不正确。发生的情况是图像和标签不匹配。它试图学习纯粹的随机性。在这种情况下，它只需尽其所能输出“平均”正确答案。我怀疑0.69值来自您的数据标签，例如您有69%的1级和31%的0级