Como obter previsões com o XGBoost e o XGBoost usando o Scikit-Learn Wrapper para combinar?
Eu sou novo no XGBoost em Python, então peço desculpas se a resposta aqui é óbvia, mas estou tentando pegar um dataframe do panda e fazer com que o XGBoost no Python me dê as mesmas previsões que recebo quando uso o wrapper Scikit-Learn da mesma forma exercício. Até agora, fui incapaz de fazê-lo. Apenas para dar um exemplo, aqui eu pego o conjunto de dados de Boston, converto para um quadro de dados do panda, treino nas primeiras 500 observações do conjunto de dados e, em seguida, prevejo as últimas 6. Eu o faço primeiro com o XGBoost e depois com o wrapper Scikit-Learn e Recebo previsões diferentes, embora tenha definido os parâmetros do modelo para serem os mesmos. Especificamente, as previsões de matriz são muito diferentes das previsões de matriz2 (consulte o código abaixo). Qualquer ajuda seria muito apreciada!
from sklearn import datasets
import pandas as pd
import xgboost as xgb
from xgboost.sklearn import XGBClassifier
from xgboost.sklearn import XGBRegressor
### Use the boston data as an example, train on first 500, predict last 6
boston_data = datasets.load_boston()
df_boston = pd.DataFrame(boston_data.data,columns=boston_data.feature_names)
df_boston['target'] = pd.Series(boston_data.target)
#### Code using XGBoost
Sub_train = df_boston.head(500)
target = Sub_train["target"]
Sub_train = Sub_train.drop('target', axis=1)
Sub_predict = df_boston.tail(6)
Sub_predict = Sub_predict.drop('target', axis=1)
xgtrain = xgb.DMatrix(Sub_train.as_matrix(), label=target.tolist())
xgtest = xgb.DMatrix(Sub_predict.as_matrix())
params = {'booster': 'gblinear', 'objective': 'reg:linear',
'max_depth': 2, 'learning_rate': .1, 'n_estimators': 500, 'min_child_weight': 3, 'colsample_bytree': .7,
'subsample': .8, 'gamma': 0, 'reg_alpha': 1}
model = xgb.train(dtrain=xgtrain, params=params)
predictions = model.predict(xgtest)
#### Code using Sk learn Wrapper for XGBoost
model = XGBRegressor(learning_rate =.1, n_estimators=500,
max_depth=2, min_child_weight=3, gamma=0,
subsample=.8, colsample_bytree=.7, reg_alpha=1,
objective= 'reg:linear')
target = "target"
Sub_train = df_boston.head(500)
Sub_predict = df_boston.tail(6)
Sub_predict = Sub_predict.drop('target', axis=1)
Ex_List = ['target']
predictors = [i for i in Sub_train.columns if i not in Ex_List]
model = model.fit(Sub_train[predictors],Sub_train[target])
predictions2 = model.predict(Sub_predict)