尽管设置了随机状态和种子，但无法从持久XGBClassifier复制概率分数

Question

我正在尝试重用保存的XGBClassifier，它在训练后通过.predict_proba（）方法进行以下预测：

ID——得分

1——0.072253475

2——0.165827038

3--0.098182471

4--0.148302316

但是，在酸洗对象或使用Skleans Joblib模块后重新加载对象后，即使使用完全相同的测试集，预测也会完全关闭：

ID——得分

1——0.46986327

2——0.63513994

3——0.45958066

4——0.8958819

这是分类器：

XGBClassifier(base_score=0.5, booster='gbtree',colsample_bylevel=1, 
colsample_bytree=0.8, gamma=1, learning_rate=0.01, max_delta_step=0,
   max_depth=4, min_child_weight=1, missing=nan, n_estimators=1500,
   n_jobs=-1, nthread=None, objective='binary:logistic',
   random_state=777, reg_alpha=2, reg_lambda=1,
   scale_pos_weight=0.971637216356233, seed=777, silent=True,
   subsample=0.6, verbose=2)

我使用两种不同的方法来pickle对象，sklearn包中提供的Joblib和标准pickle.dump公司使用这些功能：

def save_as_pickled_object(obj, filepath):
    import pickle
    import os
    import sys
    """
    This is a defensive way to write pickle.write, allowing for very large files on all platforms
    """
    max_bytes = 2**31 - 1
    """
    Adding protocol = 4 as an argument to pickle.dumps because it allows for seralizing data greater than 4GB
    reference link: https://stackoverflow.com/questions/29704139/pickle-in-python3-doesnt-work-for-large-data-saving
    """    
    bytes_out = pickle.dumps(obj, protocol=4)
    n_bytes = sys.getsizeof(bytes_out)
    with open(filepath, 'wb') as f_out:
        for idx in range(0, n_bytes, max_bytes):
            f_out.write(bytes_out[idx:idx+max_bytes])

def try_to_load_as_pickled_object_or_None(filepath):
    import pickle
    import os
    import sys
    """
    This is a defensive way to write pickle.load, allowing for very large files on all platforms
    """
    max_bytes = 2**31 - 1
    try:
        input_size = os.path.getsize(filepath)
        bytes_in = bytearray(0)
        with open(filepath, 'rb') as f_in:
            for _ in range(0, input_size, max_bytes):
                bytes_in += f_in.read(max_bytes)
        obj = pickle.loads(bytes_in)
    except:
        return None
    return obj

无论我如何保存文件（joblib或pickle），结果都是相同的；也就是说，predict proba分数与我在训练后立即对XGBClassifier对象使用该方法时完全不同。你知道吗

另一方面，在同一个内核上，我使用sgdclassizer做同样的事情，我没有遇到同样的问题。你知道吗

我注意到的一件奇怪的事情是，如果我在训练分类器之后保存它，然后在同一个内核会话中加载它（使用Jupyterlab），概率是相同的。但是，如果我重新启动内核，并通过上面描述的两种方法中的任何一种加载对象，那么我将不再获得相同的概率。你知道吗

我的期望是，使用XGBClassifier上的predict proba方法可以得到相同或几乎相同的概率。你知道吗

谢谢

Answer 1

我想，您转储和读取模型的方式可能有点滑稽，或者您使用的是xgboost版本的一个特性。你知道吗

我可以通过在笔记本中使用以下代码简单地加载持久化的XGB模型（重复“加载模型”部分和内核重启后的初始导入）来完全重现预测的概率

import os
import numpy as np
import pandas as pd
import pickle
import joblib
import xgboost as xgb


## Training a model
np.random.seed(312)
train_X = np.random.random((10000,10))
train_y = np.random.randint(0,2, train_X.shape[0])
val_X = np.random.random((10000,10))
val_y = np.random.randint(0,2, train_y.shape[0])

xgb_model_mpg = xgb.XGBClassifier(max_depth= 3)
_ = xgb_model_mpg.fit(train_X, train_y)
print(xgb_model_mpg.predict_proba(val_X))


## Save the model
with open('m.pkl', 'wb') as fout:
    pickle.dump(xgb_model_mpg, fout)

joblib_dump(xgb_model_mpg, 'm.jlib')


## Load the model
m_jlb = joblib.load('m.jlib')
m_pkl = pickle.load( open( "m.pkl", "rb" ) )

print(m_jlb.predict_proba(val_X))
print(m_pkl.predict_proba(val_X))

我在python 3.5.5的普通jupyter笔记本中使用xgboost 0.71和joblib 0.12.4