如何加载一个矩阵来改变seqToseq演示中的注意力层?帕德

2024-06-07 15:09:49 发布

您现在位置:Python中文网/ 问答频道 /正文

{1}试图在cd1}中复制{1}

我尝试了一个静态矩阵,我需要将其加载到seqToseq培训管道中,例如:

>>> import numpy as np
>>> x = np.random.rand(3,2)  
>>> x
array([[ 0.64077103,  0.03278357],
       [ 0.47133411,  0.16309775],
       [ 0.63986919,  0.07130613]])
# where there is 3 target words and 2 source words, 
# and each cell in the matrix represents some co-occurrence probabilities.

seqToseq_net演示中,这个矩阵需要乘以^{}中的注意力层输出。原始演示:

^{pr2}$

目标是通过将注意力层与静态矩阵相乘来影响注意力层:

^{3}$

我试着浏览了^{}和{a4}中的代码,我还询问了PaddlePaddle's gitter。但是我找不到如何加载一个定制的静态矩阵,它不需要在训练过程中进行更新,并且可以与其中一个桨叶层进行交互。在

如何在seqToseq演示中加载矩阵来更改注意力层?

上例中some_sort_of_layer和{}应该是什么?


Tags: andimportnumpy管道asnp静态矩阵

热门问题