Python：精确定位斜坡的线性部分

Question

我有几个情节如下：

我想知道有什么方法可以找到x轴在5.5到8之间的斜率。如果有几个这样的图，我更想知道是否有一种方法可以自动找到斜率值。

有什么建议吗？

我在想polyFit（），或者线性回归。问题是我不确定如何自动找到这些值。

Answer 1

在数据集中寻找线性部分的一种通用方法是计算函数的二阶导数，并查看它在哪里（接近）为零。在寻求解决方案的过程中，需要考虑以下几点：

• 如何计算噪声数据的二阶导数？一种快速而简单的方法是用一个等于高斯二阶导数的卷积核对数据进行卷积，这种方法可以很容易地适应不同的噪声水平、数据集大小和线性面片的预期长度。可调部分是内核的宽度。

• 在你的上下文中，“接近零”是什么意思？要回答这个问题，你必须用你的数据做实验。

• 该方法的结果可以作为上述chi^2方法的输入，以识别数据集中的候选区域。

下面是一些可以帮助您开始的源代码：

from matplotlib import pyplot as plt

import numpy as np

# create theoretical data
x_a = np.linspace(-8,0, 60)
y_a = np.sin(x_a)
x_b = np.linspace(0,4,30)[1:]
y_b = x_b[:]
x_c = np.linspace(4,6,15)[1:]
y_c = np.sin((x_c - 4)/4*np.pi)/np.pi*4. + 4
x_d = np.linspace(6,14,120)[1:]
y_d = np.zeros(len(x_d)) + 4 + (4/np.pi)

x = np.concatenate((x_a, x_b, x_c, x_d))
y = np.concatenate((y_a, y_b, y_c, y_d))


# make noisy data from theoretical data
y_n = y + np.random.normal(0, 0.27, len(x))

# create convolution kernel for calculating
# the smoothed second order derivative
smooth_width = 59
x1 = np.linspace(-3,3,smooth_width)
norm = np.sum(np.exp(-x1**2)) * (x1[1]-x1[0]) # ad hoc normalization
y1 = (4*x1**2 - 2) * np.exp(-x1**2) / smooth_width *8#norm*(x1[1]-x1[0])



# calculate second order deriv.
y_conv = np.convolve(y_n, y1, mode="same")

# plot data
plt.plot(x,y_conv, label = "second deriv")
plt.plot(x, y_n,"o", label = "noisy data")
plt.plot(x, y, label="theory")
plt.plot(x, x, "0.3", label = "linear data")
plt.hlines([0],-10, 20)
plt.axvspan(0,4, color="y", alpha=0.2)
plt.axvspan(6,14, color="y", alpha=0.2)
plt.axhspan(-1,1, color="b", alpha=0.2)
plt.vlines([0, 4, 6],-10, 10)
plt.xlim(-2.5,12)
plt.ylim(-2.5,6)
plt.legend(loc=0)
plt.show()

结果是：

smooth_width是卷积核的宽度。为了调整噪声量，将random.normal中的值0.27更改为不同的值。请注意，这种方法在靠近数据空间边界的地方不太有效。

如您所见，二阶导数（蓝线）的“接近零”要求对黄色部分适用得很好，其中数据是线性的。

Answer 2

这只是一个可能的解决方案，它将找到点的直线段，其最小chi^2值大于预设的最小值

from matplotlib.pyplot import figure, show
from numpy import pi, sin, linspace, exp, polyfit
from matplotlib.mlab import stineman_interp

x = linspace(0,2*pi,20);
y = x + sin(x) + exp(-0.5*(x-2)**2);

num_points = len(x)

min_fit_length = 5

chi = 0

chi_min = 10000

i_best = 0
j_best = 0

for i in range(len(x) - min_fit_length):
    for j in range(i+min_fit_length, len(x)):

        coefs = polyfit(x[i:j],y[i:j],1)
        y_linear = x * coefs[0] + coefs[1]
        chi = 0
        for k in range(i,j):
            chi += ( y_linear[k] - y[k])**2

        if chi < chi_min:
            i_best = i
            j_best = j
            chi_min = chi
            print chi_min

coefs = polyfit(x[i_best:j_best],y[i_best:j_best],1)
y_linear = x[i_best:j_best] * coefs[0] + coefs[1]


fig = figure()
ax = fig.add_subplot(111)
ax.plot(x,y,'ro')
ax.plot(x[i_best:j_best],y_linear,'b-')


show()

我可以看到，对于更大的数据集来说，这会变得有问题。。。

Answer 3

可以使用Ramer Douglas Peucker algorithm将数据简化为一组较小的线段。该算法允许您指定一个epsilon，这样每个数据点与某些线段的距离都不会超过epsilon。线段的坡度可以粗略估计曲线的坡度。

有一个Python implementation of the RDP algorithm here.