scikit-learn朴素贝叶斯分类器的损失/风险函数

Question

我在想，是否可以为scikit-learn中的朴素贝叶斯分类器定义一个损失函数。比如说，我们想要区分垃圾邮件和正常邮件。在这个情况下，定义这样的损失函数可以帮助我们降低误报率（也就是把正常邮件错误地分类为垃圾邮件，这种错误比把垃圾邮件分类为正常邮件要“严重”）。

为了简单起见，我这里有一个使用随机数据的例子，数据来自高斯分布，具体内容可以在这里查看。

Answer 1

朴素贝叶斯的损失函数总是负的联合对数似然，表示为 -log p(X, Y)。选择这个损失函数是因为在朴素贝叶斯假设特征之间是独立的情况下，这样做可以让朴素贝叶斯变得很快：最大似然训练只需要进行一次矩阵乘法和几次加法。其他我能想到的损失函数都会让你进入需要反复优化的复杂情况。

关于你实际的问题：你可以尝试用 GridSearchCV 来调整学习器的参数，使用 scoring='precision' 或者基于 sklearn.metric.fbeta_score 或 roc_auc_score 的自定义评分函数。不过，我不太确定这对朴素贝叶斯会有很大帮助，所以你可能想考虑换成逻辑回归。