web-dev-qa-db-ja.com

相互検証を使用したロジスティック回帰の評価

クロス検証を使用してデータセットをテスト/トレーニングし、テストセットだけでなくデータセット全体（たとえば25％）でロジスティック回帰モデルのパフォーマンスを評価します。

これらの概念は私にとって全く新しいものであり、それを正しく行っているかどうかはよくわかりません。誰かが私が間違ってしまった場所をとる正しい手順についてアドバイスしてくれたら感謝します。私のコードの一部を以下に示します。

また、現在のグラフと同じグラフに「y2」と「y3」のROCをプロットするにはどうすればよいですか？

ありがとうございました

import pandas as pd 
Data=pd.read_csv ('C:\\Dataset.csv',index_col='SNo')
feature_cols=['A','B','C','D','E']
X=Data[feature_cols]

Y=Data['Status'] 
Y1=Data['Status1']  # predictions from elsewhere
Y2=Data['Status2'] # predictions from elsewhere

from sklearn.linear_model import LogisticRegression
logreg=LogisticRegression()
logreg.fit(X_train,y_train)

from sklearn.cross_validation import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)

from sklearn import metrics, cross_validation
predicted = cross_validation.cross_val_predict(logreg, X, y, cv=10)
metrics.accuracy_score(y, predicted) 

from sklearn.cross_validation import cross_val_score
accuracy = cross_val_score(logreg, X, y, cv=10,scoring='accuracy')
print (accuracy)
print (cross_val_score(logreg, X, y, cv=10,scoring='accuracy').mean())

from nltk import ConfusionMatrix 
print (ConfusionMatrix(list(y), list(predicted)))
#print (ConfusionMatrix(list(y), list(yexpert)))

# sensitivity:
print (metrics.recall_score(y, predicted) )

import matplotlib.pyplot as plt 
probs = logreg.predict_proba(X)[:, 1] 
plt.hist(probs) 
plt.show()

# use 0.5 cutoff for predicting 'default' 
import numpy as np 
preds = np.where(probs > 0.5, 1, 0) 
print (ConfusionMatrix(list(y), list(preds)))

# check accuracy, sensitivity, specificity 
print (metrics.accuracy_score(y, predicted)) 

#ROC CURVES and AUC 
# plot ROC curve 
fpr, tpr, thresholds = metrics.roc_curve(y, probs) 
plt.plot(fpr, tpr) 
plt.xlim([0.0, 1.0]) 
plt.ylim([0.0, 1.0]) 
plt.xlabel('False Positive Rate') 
plt.ylabel('True Positive Rate)') 
plt.show()

# calculate AUC 
print (metrics.roc_auc_score(y, probs))

# use AUC as evaluation metric for cross-validation 
from sklearn.cross_validation import cross_val_score 
logreg = LogisticRegression() 
cross_val_score(logreg, X, y, cv=10, scoring='roc_auc').mean()
pythonscikit-learnlogistic-regressioncross-validation
8
S.H

あなたはそれをほとんど正しくしました。 cross_validation.cross_val_predictは、データセット全体の予測を提供します。削除する必要があるのはlogreg.fit前のコード。具体的には、データセットをnフォールドに分割し、各反復でフォールドの1つをテストセットとして残し、残りのフォールドでモデルをトレーニングします（n-1折り畳み）。したがって、最終的にはデータ全体の予測を取得できます。

これを、sklearnの組み込みデータセットの1つであるirisで説明しましょう。このデータセットには、4つの機能を備えた150のトレーニングサンプルが含まれています。 iris['data']はXおよびiris['target']はyです

In [15]: iris['data'].shape
Out[15]: (150, 4)

クロス検証を使用してセット全体の予測を取得するには、次を実行できます。

from sklearn.linear_model import LogisticRegression
from sklearn import metrics, cross_validation
from sklearn import datasets
iris = datasets.load_iris()
predicted = cross_validation.cross_val_predict(LogisticRegression(), iris['data'], iris['target'], cv=10)
print metrics.accuracy_score(iris['target'], predicted)

Out [1] : 0.9537

print metrics.classification_report(iris['target'], predicted) 

Out [2] :
                     precision    recall  f1-score   support

                0       1.00      1.00      1.00        50
                1       0.96      0.90      0.93        50
                2       0.91      0.96      0.93        50

      avg / total       0.95      0.95      0.95       150

それでは、コードに戻りましょう。必要なのはこれだけです：

from sklearn import metrics, cross_validation
logreg=LogisticRegression()
predicted = cross_validation.cross_val_predict(logreg, X, y, cv=10)
print metrics.accuracy_score(y, predicted)
print metrics.classification_report(y, predicted)

マルチクラス分類でROCをプロットするには、 このチュートリアル に従ってください。次のようになります。

一般に、sklearnには非常に優れたチュートリアルとドキュメントがあります。 cross_validationのチュートリアル を読むことを強くお勧めします。

7
CentAu