线性回归偏差和方差计算

Question

如果我们有4个参数X_train、y_train、X_test和y_test，如何计算线性回归等机器学习算法的偏差和方差？在

我已经搜索了很多，但没有找到一个代码。在

Answer 1

这是我的看法

偏差-偏差是你预测的目标值和实际值之间的平均差。在

方差-这定义了数据从一个中心点（如平均值或中值）的分布。在

理想情况下，在建立模型时，你会希望选择一个低偏差和低方差的模型。在

高偏差模型是一个欠拟合的模型，也就是说，它没有正确理解你的数据，而高方差模型意味着模型过度拟合了训练数据，不能很好地概括未来的预测。在

因此，如果你选择的参数不好或输入参数太少，那么你可能会看到一个高偏差和低方差的模型，而如果你选择太多的参数，你的模型可能会过度拟合。在

为了识别过拟合和欠拟合模型，您可以观察您的训练/测试分数模式，并确定您拥有的模型。在

欠拟合模型在列车数据上的准确度得分也会较低，这意味着模型没有很好地学习，而过拟合模型将在列车数据上显示出非常好的准确性，并且在测试数据上预测能力较差。在

不要认为有任何这样的工具来处理你所问的背景下的偏差和差异，但是交叉验证你的数据，并用不同的模型或相同的模型但不同的参数来检查它的准确性，可能会给你一个好主意。在这里你可以找到一些好的example

Answer 2

所以在近似总体的函数中，高偏差意味着欠拟合，高方差超拟合。将数据集划分为训练集、交叉验证集和测试集。在

训练误差小但交叉验证误差大意味着训练误差过大。 高的训练错误意味着它不适合。在

高偏差：添加多项式特征，获得更多样本。高方差：增加正则化（压缩较小的多项式参数），或收集更多的数据，以便更好地训练