将图形冻结成十位数后推理速度变慢

2024-05-18 06:10:34 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在尝试优化Tacotron的推断this实现。在冻结和/或优化后,评估一句话大约需要30秒,而不是“优化”前的2-3秒。你知道吗

我遵循this(或任何类似的)指南。只需使用convert_variables_to_constants函数冻结图形,然后optimize_for_inference_lib.optimize_for_inference进行优化。你知道吗

要运行评估,我将导入图形并调用sess.run()。“优化”后,此调用的速度明显减慢

我做错什么了?你知道吗


Tags: to函数run图形convertforlib指南