如何在我的python代码中启用英特尔Pytorch扩展（IPEX）？

Question

我想在我的代码中使用针对Pytorch的英特尔扩展来提高整体性能。已将此GitHub（https://github.com/intel/intel-extension-for-pytorch）提交安装

目前，我正在尝试一个拥抱人脸摘要PyTorch样本（https://github.com/huggingface/transformers/blob/master/examples/pytorch/summarization/run_summarization.py）。以下是用于培训的培训师API

# Initialize our Trainer trainer = Seq2SeqTrainer( model=model, args=training_args, train_dataset=train_dataset if training_args.do_train else None, eval_dataset=eval_dataset if training_args.do_eval else None, tokenizer=tokenizer, data_collator=data_collator, compute_metrics=compute_metrics if training_args.predict_with_generate else None, )

Answer 1

要启用Pytorch的英特尔扩展，只需将其添加到代码中

import intel_extension_for_pytorch as ipex

导入以上内容可通过优化扩展PyTorch，从而在英特尔硬件上获得额外的性能提升

之后，您必须在代码中添加此项

model = model.to(ipex.DEVICE)