在PyTorch QAT中配置QConfig
我想设置qconfig,让我的权重值可以从这些数字中选择:-2、-1、0、1、2。
m.train()
m.qconfig = torch.quantization.QConfig(
activation=MinMaxObserver.with_args(dtype=torch.qint8, quant_max=2, quant_min=-2),
weight=MinMaxObserver.with_args(dtype=torch.qint8, quant_max=2, quant_min=-2)
)
torch.quantization.prepare_qat(m, inplace=True)
m = train_model(m, train_loader, epochs=100)
m.eval()
torch.quantization.convert(m, inplace=True)
我尝试了所有的方法,但很遗憾没有成功。
0 个回答
暂无回答