因果推断之Uplift Model | Pylift实战篇

明其道

/ 基于类别转换的Uplift模型原理

上回说到，uplift模型的目标是预测营销对客户响应的增益，而难点在于对同一个体营销和不营销的结果不能同时观测。对此，类别转换的解决思路是将营销结果（outcome：0/1）转换为如下矩阵：

转换的关系式如下（Y*为转换后的变量，Y为营销结果，W为是否干预，p为营销组占比）：

之所以做这种转换，是因为根据推导可知对Y*的预测结果即为对uplift的预测结果，uplift问题被转化为对Y*的回归问题。推导过程如下：

这样一来，预测Uplift的难题就转化为了简单的两个步骤：（1）将Y转换为Y*（2）对新响应变量Y*进行回归预测。一般使用Python的pylift库，将营销结果进行转换，再对转换后的变量进行回归预测。

 利其器

/ Python开发环境搭建

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
[install]
trusted-host = pypi.tuna.tsinghua.edu.cn

善其事

/ 模型搭建

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
import pylift
import xgboost as xgb
from sklearn.ensemble import RandomForestRegressor
from pylift import TransformedOutcome
from pylift.generate_data import dgp 


#生成训练数据集df
df = dgp(N=10000, n_features=3, discrete_outcome=True) #设置特征数量为3个，outcome是是离散型，数据量、treatment分布等其他参数都按照默认值设置
df

df['Outcome'] = df.apply(lambda x: 0.0 if x['Treatment'] and x[0] < 0.5 else x['Outcome'], axis=1)
df['Outcome'] = df.apply(lambda x: 0.0 if (not x['Treatment']) and x[0] > 0.5 else x['Outcome'], axis=1)

STEP2 类别转换：这里我们利用pylift中的TransformedOutcome函数对outcome变量进行转换，再对转换后的变量进行回归预测。

##test_size控制测试集比例；
##sklearn_model控制所使用的模型(默认使用xgboost中的树模型，也可以使用sklearn库的模型)；
##scoring_method，控制评价机制，参数值可选qini，aqini，cgains(默认)；
df_transform_RF = TransformedOutcome(df, col_treatment='Treatment', col_outcome='Outcome', stratify=df['Treatment']
                 ,test_size=0.2,col_transformed_outcome='TransformedOutcome', sklearn_model=RandomForestRegressor)

df_transform_RF.NIV(feats_to_use=None, n_bins=10, n_iter=3)

STEP4 模型拟合：pylift较好地复用了sklearn库的超参数搜索接口，因此可以利用超参数搜索函数选定不同的参数进行模型训练，并利用搜索得到的最优超参数组合进行模型创建。超参数搜索主要可分为GridSearch与RandomizedSearch方法。

✔GridSearch：通过interval划分，选取网格点上的参数进行实验，最终选取最优结果；

✔RandomizedSearch：通过等概率采样或给定分布的采样选取参数组合。GridSearch只能选取网格点上的参数，参数空间上排列规律相同，有时候不利于找到局部最优的参数组合，RandomizedSearch一定程度上克服了这一问题。

❌一个bug：在选用默认的XGBRegressor作为模型时，模型参数不能设置初始值，在参数搜索后出现模型参数为None的情况。没找到解决方法，所以尝试使用RandomForest训练。

df_transform_RF.randomized_search(param_distributions={'max_depth': range(1,80), 'min_samples_split': range(1,500)}, n_iter=10)

df_transform_RF.rand_search_.best_params_
df_transform_RF.fit(**df_transform_RF.rand_search_.best_params_)

STEP5 模型评估：pylift提供qini, aqini, Cumulative Gain, Cumulative Uplift等多种曲线以评估uplift模型的效果，评估指标的含义可参见上一篇。主要用到以下函数：

✔shuffle_fit函数：可以将训练集与验证集打乱多次得到曲线簇，并通过plot函数的show_shuffle_fits参数控制shuffle曲线的显示，show_noise_fits可以控制误差拟合曲线的显示；

✔plot函数：通过plot_type参数控制图像类型，可选qini, aqini, cgains, cuplift参数；

df_transform_RF.shuffle_fit(iterations=5, plot_type='cgains')
df_transform_RF.noise_fit(iterations=5)
df_transform_RF.plot(plot_type='cgains', show_noise_fits=True, 
                      show_shuffle_fits=True, shuffle_avg_line_kwargs={'color':[1,0,0]})

df_transform_RF.plot(plot_type='aqini', show_theoretical_max=True+, show_practical_max=True, show_no_dogs=True)