在PyTorch QAT中配置QConfig

-2 投票
0 回答
19 浏览
提问于 2025-04-11 23:28

我想设置qconfig,让我的权重值可以从这些数字中选择:-2、-1、0、1、2。

m.train()
m.qconfig = torch.quantization.QConfig(
    activation=MinMaxObserver.with_args(dtype=torch.qint8, quant_max=2, quant_min=-2), 
    weight=MinMaxObserver.with_args(dtype=torch.qint8, quant_max=2, quant_min=-2)
)
torch.quantization.prepare_qat(m, inplace=True)

m = train_model(m, train_loader, epochs=100)

m.eval()
torch.quantization.convert(m, inplace=True)

我尝试了所有的方法,但很遗憾没有成功。

0 个回答

暂无回答

撰写回答