Qual é a diferença entre cross_val_score com scoring = 'roc_auc' e roc_auc_score?
Estou confuso sobre a diferença entre a métrica de pontuação cross_val_score 'roc_auc' e a roc_auc_score que posso importar e ligar diretamente.
A documentação (http://scikit-learn.org/stable/modules/model_evaluation.html#scoring-parameter) indica que especificar scoring = 'roc_auc' usará o sklearn.metrics.roc_auc_score. No entanto, ao implementar GridSearchCV ou cross_val_score com scoring = 'roc_auc', recebo números muito diferentes dos que quando chamo roc_auc_score diretamente.
Aqui está o meu código para ajudar a demonstrar o que vejo:
# score the model using cross_val_score
rf = RandomForestClassifier(n_estimators=150,
min_samples_leaf=4,
min_samples_split=3,
n_jobs=-1)
scores = cross_val_score(rf, X, y, cv=3, scoring='roc_auc')
print scores
array([ 0.9649023 , 0.96242235, 0.9503313 ])
# do a train_test_split, fit the model, and score with roc_auc_score
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33)
rf.fit(X_train, y_train)
print roc_auc_score(y_test, rf.predict(X_test))
0.84634039111363313 # quite a bit different than the scores above!
Sinto que estou perdendo algo muito simples aqui - provavelmente um erro na maneira como estou implementando / interpretando uma das métricas de pontuação.
Alguém pode esclarecer o motivo da discrepância entre as duas métricas de pontuação?