如何在Keras中定义DQN模型的输出层形状

Question

我在学DQN探员用Keras玩井字游戏。我的问题和我预期的不同。在

详细信息： 输入形状：(BOARD_SIZE ^ 2) * 3-->；这是一个热编码的游戏板 输出形状：我希望输出将是大小为(BOARD_SIZE^2)的列表，因为它应该有可用操作的数量

问题： 输出的形状大小为输入层[(BOARD_SIZE ^ 2) *3] * Number of actions (BOARD_SIZE^2)

我试图寻找解决方案，但是Keras的文档非常糟糕。Plz帮助

这是我的模型

    def create_model(self, game: GameController) -> Sequential:
    input_size = (game.shape ** 2) * 3

    model = Sequential()
    model.add(Dense(input_size, input_dim=1, activation='relu'))
    model.add(Dense(int(input_size / 2), activation='relu'))
    model.add(Dense(int(input_size / 2), activation='relu'))
    model.add(Dense((game.shape ** 2), activation='linear'))
    model.compile(loss="mean_squared_error", optimizer=Adam(self.alpha))

    return model

这就是我试图得到输出的方法

^{pr2}$

这是BOAD预处理（一个热编码）

def preprocess_input(self, game: GameController) -> list:
    encoded_x = copy.deepcopy(game.board)
    encoded_o = copy.deepcopy(game.board)
    encoded_blank = copy.deepcopy(game.board)

    for row in range(game.shape):
        for col in range(game.shape):
            if encoded_x[row][col] == 'X':
                encoded_x[row][col] = 1
            else:
                encoded_x[row][col] = 0

            if encoded_o[row][col] == 'O':
                encoded_o[row][col] = 1
            else:
                encoded_o[row][col] = 0

            if encoded_blank[row][col] == '-':
                encoded_blank[row][col] = 1
            else:
                encoded_blank[row][col] = 0

    chained_x = list(chain.from_iterable(encoded_x))
    chained_o = list(chain.from_iterable(encoded_o))
    chained_blank = list(chain.from_iterable(encoded_blank))

    string_board = list(chain(chained_x, chained_o, chained_blank))
    board_to_int = [int(element) for element in string_board]

    return board_to_int

Answer 1

好吧，经过几次尝试后，我发现我的输入已经被转置了，所以我将input_dim设置为（（BOARD_SIZE^2）*3），并将input_BOARD改为（1，（BOARD_SIZE^2）*3）修复了问题。希望以后能对其他人有所帮助：）