我无法得到正确的梯度下降解

2024-05-16 09:15:14 发布

您现在位置:Python中文网/ 问答频道 /正文

考虑N=3和D=1的线性回归模型,输入输出对如下:

yl=22,X1=1,y2=3,x2=1,y3=3,x3=2

关于B1(当Bo=0和B1=1时),均方误差(MSE)的梯度是多少?请给出两位小数点后的正确答案


Tags: 模型线性b1误差梯度box1x2
1条回答
网友
1楼 · 发布于 2024-05-16 09:15:14
MSE Loss = sum((h - y) ** 2) / 2m

Gradient wrt b1 will be sum[(h - y) . x)] / m:

hypothesis: h = b0 + b1.x

for b0 = 0, b1 = 1:

h = x

input(x)        : [  1,  1,  2]

prediction(h)   : [  1,  1,  2]

Ground truth(y) : [ 22,  3,  3]

h - y           : [-21, -2, -1]

(h - y). x      : [-21, -2, -2]

gradient(b1)    : (-21 - 2 - 2) / 3 = -25 / 3 = -8.3333

 

 

相关问题 更多 >