leme-explainer显示了不同于分类器预测情感分析的预测概率

Question

我用Lime来追踪为什么模型决定预测这个句子是（NEG，POS或NEUTRAL）的原因，并且对于大多数情况，Lime解释正确，但是在这种情况下，为什么我输入NEG语句，模型预测它是中性的，但是Lime用NEG的最高百分比来形象化它，所以为什么我得到了逻辑错误，比如这个？在

Model prediction vs Lime prediction

Answer 1

你没有提供太多的细节，所以我的答案将是类似的一般：你原来的模型是在做错误的预测。然后莱姆对模型进行了线性近似。由于线性模型的近似性质，这与原始模型不完全相同，并且偏离了原始模型。在你的例子中，原始模型给出了一个错误的预测，而线性近似的偏差是-偶然的-在正确答案的方向上，所以你偶然地从近似中得到了正确的答案，尽管原始模型是错误的。在