如何正确使用scikit-learn的高斯过程进行二维输入、一维输出回归？

Question

在发布之前，我做了很多搜索，发现了this question这可能正是我的问题。不过，我尝试了答案中的建议，但不幸的是，这并没有解决问题，我无法添加评论以要求进一步解释，因为我是这里的新成员。

无论如何，我想在Python中使用高斯进程和scikit learn来开始一个简单但真实的案例（使用scikit learn文档中提供的示例）。我有一个名为X的二维输入集（8对2参数）。我有8个相应的输出，收集在1D数组中。

#  Inputs: 8 points 
X = np.array([[p1, q1],[p2, q2],[p3, q3],[p4, q4],[p5, q5],[p6, q6],[p7, q7],[p8, q8]])

# Observations: 8 couples
y = np.array([r1,r2,r3,r4,r5,r6,r7,r8])

我定义了一个输入测试空间：

# Input space
x1 = np.linspace(x1min, x1max) #p
x2 = np.linspace(x2min, x2max) #q
x = (np.array([x1, x2])).T

然后我实例化GP模型，将其与我的训练数据进行拟合，并在我的输入空间进行1D预测

from sklearn.gaussian_process import GaussianProcessRegressor
from sklearn.gaussian_process.kernels import RBF, ConstantKernel as C

kernel = C(1.0, (1e-3, 1e3)) * RBF([5,5], (1e-2, 1e2))
gp = GaussianProcessRegressor(kernel=kernel, n_restarts_optimizer=15)
gp.fit(X, y)
y_pred, MSE = gp.predict(x, return_std=True)

然后我画了一个3D图：

fig = pl.figure()
ax = fig.add_subplot(111, projection='3d')
Xp, Yp = np.meshgrid(x1, x2)
Zp = np.reshape(y_pred,50)

surf = ax.plot_surface(Xp, Yp, Zp, rstride=1, cstride=1, cmap=cm.jet,
linewidth=0, antialiased=False)
pl.show()

这就是我得到的：

当我修改内核参数时，我得到了类似的结果，就像我上面提到的海报一样：

这些曲线图甚至与原始训练点的观察结果不匹配（对于[65.1,37]得到的响应较低，对于[92.3,54]得到的响应最高）。

我对2D中的GPs还很陌生（不久前也开始使用Python），所以我想我在这里遗漏了一些东西。。。任何回答都会有帮助，非常感谢，谢谢！

Answer 1

我也是相当新的使用scikit学习高斯过程。但经过一番努力，我成功地实现了三维高斯过程回归。有很多一维回归的例子，但在更高的输入维度上没有。

或许你可以展示你正在使用的价值观。

我发现有时候发送输入的格式会产生一些问题。尝试将输入X格式化为：

X = np.array([param1, param2]).T

并将输出格式化为：

gp.fit(X, y.reshape(-1,1))

而且，正如我所理解的，实现假定平均函数m=0。如果您试图回归的输出呈现的平均值与0显著不同，则应将其规范化（这可能会解决您的问题）。标准化参数空间也会有帮助。