web-dev-qa-db-ja.com

pythonを使用した非線形回帰-このデータをより適切にフィットさせるための簡単な方法は何ですか？

特定の温度が与えられた場合の物理パラメーターの値を推定できるように、フィットさせたいデータがあります。

二次モデルにnumpy.polyfitを使用しましたが、近似は希望するほどよくなく、回帰の経験もあまりありません。

私は散布図とnumpyによって提供されるモデルを含めました： S vs温度;青い点は実験データ、黒い線はモデルです

X軸は温度（C）で、y軸はパラメーターであり、Sと呼びます。これは実験データですが、理論的には、温度が上がるとSは0に近づき、温度が下がると1に達するはずです。

私の質問は次のとおりです。このデータをどのように適合させることができますか？どのライブラリを使用する必要がありますか、どのような関数がこのデータを多項式よりも適切に近似する可能性がありますか？

役立つ場合は、コード、多項式の係数などを提供できます。

ここに私のデータへのDropboxリンクがあります。 （混乱を避けるために多少重要なメモですが、実際の回帰は変わりませんが、このデータセットの温度列はTc-Tです。Tcは転移温度（40C）pandasを使用してこれを40-xを計算することによりTに変換しました）。

pythonregressioncurve-fitting
4
Jinx

このコード例では、2つの形状パラメーターaおよびbとオフセット項（曲率には影響しない）を含む方程式を使用しています。方程式は「y = 1.0 /（1.0 + exp（-a（xb）））+オフセット」であり、パラメーター値はa = 2.1540318329369712E-01、b = -6.6744890642157646E + 00、およびOffset = -3.5241299859669645E-01です。 0.988のR二乗と0.0085のRMSEを与えます。

この例には、scipy.optimize.differential_evolution遺伝的アルゴリズムを使用した自動初期パラメーター推定を使用したPythonコードを使用したフィッティングとグラフ化のコードが含まれています。微分進化のscipy実装は、ラテンハイパーキューブアルゴリズムを使用してパラメータスペースを徹底的に検索します。これには、検索する範囲が必要です。このサンプルコードでは、これらの範囲は最大および最小のデータ値に基づいています。

sigmoidal

import numpy, scipy, matplotlib
import matplotlib.pyplot as plt
from scipy.optimize import curve_fit
from scipy.optimize import differential_evolution
import warnings

xData = numpy.array([19.1647, 18.0189, 16.9550, 15.7683, 14.7044, 13.6269, 12.6040, 11.4309, 10.2987, 9.23465, 8.18440, 7.89789, 7.62498, 7.36571, 7.01106, 6.71094, 6.46548, 6.27436, 6.16543, 6.05569, 5.91904, 5.78247, 5.53661, 4.85425, 4.29468, 3.74888, 3.16206, 2.58882, 1.93371, 1.52426, 1.14211, 0.719035, 0.377708, 0.0226971, -0.223181, -0.537231, -0.878491, -1.27484, -1.45266, -1.57583, -1.61717])
yData = numpy.array([0.644557, 0.641059, 0.637555, 0.634059, 0.634135, 0.631825, 0.631899, 0.627209, 0.622516, 0.617818, 0.616103, 0.613736, 0.610175, 0.606613, 0.605445, 0.603676, 0.604887, 0.600127, 0.604909, 0.588207, 0.581056, 0.576292, 0.566761, 0.555472, 0.545367, 0.538842, 0.529336, 0.518635, 0.506747, 0.499018, 0.491885, 0.484754, 0.475230, 0.464514, 0.454387, 0.444861, 0.437128, 0.415076, 0.401363, 0.390034, 0.378698])


def func(x, a, b, Offset): # Sigmoid A With Offset from zunzun.com
    return  1.0 / (1.0 + numpy.exp(-a * (x-b))) + Offset


# function for genetic algorithm to minimize (sum of squared error)
def sumOfSquaredError(parameterTuple):
    warnings.filterwarnings("ignore") # do not print warnings by genetic algorithm
    val = func(xData, *parameterTuple)
    return numpy.sum((yData - val) ** 2.0)


def generate_Initial_Parameters():
    # min and max used for bounds
    maxX = max(xData)
    minX = min(xData)
    maxY = max(yData)
    minY = min(yData)

    parameterBounds = []
    parameterBounds.append([minX, maxX]) # search bounds for a
    parameterBounds.append([minX, maxX]) # search bounds for b
    parameterBounds.append([0.0, maxY]) # search bounds for Offset

    # "seed" the numpy random number generator for repeatable results
    result = differential_evolution(sumOfSquaredError, parameterBounds, seed=3)
    return result.x

# generate initial parameter values
geneticParameters = generate_Initial_Parameters()

# curve fit the test data
fittedParameters, pcov = curve_fit(func, xData, yData, geneticParameters)

print('Parameters', fittedParameters)

modelPredictions = func(xData, *fittedParameters) 

absError = modelPredictions - yData

SE = numpy.square(absError) # squared errors
MSE = numpy.mean(SE) # mean squared errors
RMSE = numpy.sqrt(MSE) # Root Mean Squared Error, RMSE
Rsquared = 1.0 - (numpy.var(absError) / numpy.var(yData))
print('RMSE:', RMSE)
print('R-squared:', Rsquared)



##########################################################
# graphics output section
def ModelAndScatterPlot(graphWidth, graphHeight):
    f = plt.figure(figsize=(graphWidth/100.0, graphHeight/100.0), dpi=100)
    axes = f.add_subplot(111)

    # first the raw data as a scatter plot
    axes.plot(xData, yData,  'D')

    # create data for the fitted equation plot
    xModel = numpy.linspace(min(xData), max(xData))
    yModel = func(xModel, *fittedParameters)

    # now the model as a line plot 
    axes.plot(xModel, yModel)

    axes.set_xlabel('X Data') # X axis data label
    axes.set_ylabel('Y Data') # Y axis data label

    plt.show()
    plt.close('all') # clean up after using pyplot

graphWidth = 800
graphHeight = 600
ModelAndScatterPlot(graphWidth, graphHeight)
8
James Phillips

非線形回帰問題の場合は、sklearnからSVR（）、KNeighborsRegressor（）、またはDecisionTreeRegression（）を試し、テストセットのモデルパフォーマンスを比較できます。

2
Sunny Liu

scipyをチェックアウトすることをお勧めします。それらには、データを任意の関数に適合させるための非線形オプティマイザーがあります。 scipy.optimize.curve_fithere のドキュメントを参照してください。関数が複雑になるほど、フィットに時間がかかることに注意してください。

1
PMende

多項式カーネルで support vector machine を試してください。

Scikit-learnを使用すると、モデルの適合は次のように簡単になります。

from sklearn.svm import SVC
#... load the data into X,y
model = SVC(kernel='poly')
model.fit(X,y)
#plot the model...
0
Kevin Koehler