我在Gensim中使用来自维基百科的预先训练的单词向量。如this example documentation所示,您可以使用
model_gigaword.wv.most_similar(positive=['dirty','grimy'],topn=10)
但是,我想查询与指定为数组的给定向量最相似的单词(与预训练模型中的单词向量格式相同)。例如,在预训练模型中加上或减去两个词向量的结果,如
vec = model_gigaword['king']-model_gigaword['man']
输出:(用于vec
)
array([-0.696 , -1.26119 , -0.49109 , 0.91179 , 0.23077281,
-0.18835002, -0.65568995, -0.29686698, -0.60074997, -1.35762 ,
-0.11816999, 0.01779997, -0.74096 , 0.21192 , -0.407071 ,
-1.04871 , -0.480674 , -0.95541 , -0.06046999, 0.20678002,
-1.1516 , -0.98955095, 0.44508 , 0.32682198, -0.03306001,
-0.31138003, 0.87721 , 0.34279 , 0.78621 , -0.297459 ,
0.529243 , -0.07398 , 0.551844 , 0.54218 , -0.39394 ,
0.96368 , 0.22518003, 0.05197001, -0.912573 , -0.718755 ,
0.08056 , 0.421177 , -0.34256 , -0.71294 , -0.25391 ,
-0.65362 , -0.31369498, 0.216278 , 0.41873002, -0.21784998,
0.21340999, 0.480393 , 0.47077006, -1.00272 , 0.16624999,
-0.07340002, 0.09219003, -0.02021003, -0.58403 , -0.47306 ,
0.05066001, -0.64416003, 0.80061007, 0.224344 , -0.20483994,
-0.33785298, -1.24589 , 0.08900005, -0.08385998, -0.195515 ,
0.08500999, -0.55749 , 0.19473001, -0.0751 , -0.61184 ,
-0.08018 , -0.34303 , 1.03759 , -0.36085004, 0.93508005,
-0.00997001, -0.57282 , 0.33101702, 0.271261 , 0.47389007,
1.1219599 , -0.00199997, -1.609 , 0.57377803, -0.17023998,
-0.22913098, -0.33818996, -0.367797 , 0.367965 , -1.08955 ,
-0.664806 , 0.05213001, 0.40829998, 0.125692 , -0.44967002],
dtype=float32)
如何获得与vec
最相似的单词
您可以直接将其与
model_gigaword.wv.most_similar
一起使用正如预期的那样,这些结果几乎是垃圾。请阅读下面的原因。
但有一点很重要。我看到你在努力寻找类似于欧几里德空间中的差分向量的词。
king
和man
之间的差异导致向量类似于queen
和woman
之间的差异,这意味着差异向量的长度和方向编码了两对相应单词之间的上下文差异该向量的字面位置可能是垃圾,因为通过在欧几里德空间中检查它,可以将其锚定在原点上。上述两个差异向量(国王-男人和王后-女人)分别定位在“国王”和“王后”上。
你应该有这样的直觉:A->;B和C->;即使A、B和C、D可能在欧几里德空间的完全分离的部分中排列,如果它们之间有相似的上下文差异,D也可能有相似的向量连接它们。这就是经过适当训练的word2vec中的向量空间所编码的内容
相关问题 更多 >
编程相关推荐