【深度学习实验】第三次：Python汽车行业偷漏税行为预测

实验介绍

企业做假账偷税漏税的行为普遍存在，汽车行业通过“多开发票”、“做双份报表”、“减少支出”等方式进行偷漏税。随着企业偷漏税现在泛滥，也影响国家经济基础。

实验目的

通过数据挖掘能自动识别企业偷漏税行为，提高稽查效率减少经济损失。汽车销售行业在税收上存在少开发票金额、少记收入，上牌、按揭、保险不入账，不及时确认保修索赔款等情况，导致政府损失大量税收。汽车销售企业的部分经营指标数据能在一定程度上评估企业的偷漏税倾向。样本数据提供了汽车销售行业纳税人的各种属性和是否偷漏税标识，提取纳税人经营特征可以建立偷漏税行为识别模型。

实验过程

在建立偷漏税识别模型前需要先整理流程（如下图），主要包含以下步骤：

• 从后台业务系统抽取企业经营指标静态数据，保证建模样本数据稳定性。

• 对样本数据进行探索性分析，查看指标分布情况。

• 对样本数据进行预处理，包括数据集清洗、缺失值处理和数据规则化。

• 选取特征建立样本集和测试集。

• 构建识别模型对样本数据进行模型训练，并对模型进行评价。

• 使用多种模型并挑选最优模型进行自动识别。

实验步骤

1. 将实验所需数据下载到目录

链接：https://pan.baidu.com/s/1hy4nXGfOvTPVQYzqSyjwiA
提取码：ygtl

2. 实验中所需依赖库在Terminal安装

conda activate tensorflow
pip install xlrd==1.1.0
pip install keras==2.2.4

3. 新建python3文件

数据探索分析

样本数据包含15个特征属性，分别为14个输入特征和1个输出特征，有纳税人基本信息和经营指标数据。数据探索性分析能及早发现样本数据是否存在较大差异和对数据的整体情况有基本的认识。具体代码如下：

import pandas as pd
import matplotlib.pyplot as plt
import matplotlib.font_manager as fm

fontPath = "C:\Windows\Fonts\simfang.ttf"
font = fm.FontProperties(fname=fontPath, size=10)
inputfile = 'D:\大三下\深度学习实验\第二次：Python汽车行业偷漏税行为预测\carsales_data.csv'
data = pd.read_csv(inputfile, index_col='纳税人编号')

fig, axes = plt.subplots(1, 2)
fig.set_size_inches(12, 4, )
ax0, ax1 = axes.flat
a = data['销售类型'].value_counts().plot(kind='barh', ax=ax0, title='销售类型分布情况', )
a.xaxis.get_label().set_fontproperties(font)
a.yaxis.get_label().set_fontproperties(font)
a.legend(loc='upper right', prop=font)
for label in ([a.title] + a.get_xticklabels() + a.get_yticklabels()):
	label.set_fontproperties(font)

b = data['销售模式'].value_counts().plot(kind='barh', ax=ax1, title='销售模式分布情况', )
b.xaxis.get_label().set_fontproperties(font)
b.yaxis.get_label().set_fontproperties(font)
b.legend(loc='upper right', prop=font)
for label in ([b.title] + b.get_xticklabels() + b.get_yticklabels()):
	label.set_fontproperties(font)
print(data.describe().T)

plt.show()

运行结果如下图所示：

从数据的分布情况上看，销售类型主要集中在国产轿车和进口轿车，销售模式主要集中在4S店和一级代理商。

构建偷税漏税行为识别模型

抽取数据，对数据预处理，在得到预处理数据的样本数据，需要对数据进行划分训练集和测试集，随机选取20%的数据作为测试集，其余80%的数据作为训练集。使用分类预测模型来实现偷税漏税自动识别，比较常用的分类模型：LM神经网咯和CART决策树，两种模型都有优点，故采用两种模型进行训练从中选择最优的分类模型。

定义cm_plot，用于构建混淆矩阵可视图

def cm_plot(y, yp):
	from sklearn.metrics import confusion_matrix
	cm = confusion_matrix(y, yp)
	import matplotlib.pyplot as plt
	plt.matshow(cm, cmap=plt.cm.Greens)
	plt.colorbar()
	for x in range(len(cm)):
		for y in range(len(cm)):
			plt.annotate(cm[x, y], xy=(x, y), horizontalalignment='center', verticalalignment='center')
	plt.ylabel('True label')
	plt.xlabel('Predicted label')
	return plt

数据抽取

由于已经有现成的数据集可供使用，故这里省略从后台系统抽取数据集的过程。先用pandas库读取Excel文件的原始数据，具体代码如下：

import pandas as pd

inputfile = 'D:\大三下\深度学习实验\第二次：Python汽车行业偷漏税行为预测\carsales_data.csv'
data = pd.read_csv(inputfile, index_col='纳税人编号')
print(data)

数值变量统计描述，统计结果显示各个数据指标均无缺失值，个别指标数据如（整体税负控制数、办牌率、单台办牌手续费收入等）最小值为零。

数据预处理

考虑建模的需要，前面样本数据中类别型特征需要进行转换成数值型特征，故对销售类型和销售模式进行重编码处理，输出特征进行二值化处理。由于数据中并无缺失值，则不需要进行缺失值处理。

data['销售类型'] = data['销售类型'].map({'国产轿车': 1, '进口轿车': 2, '大客车': 3, '卡车及轻卡': 4, '微型面包车': 5, '商用货车': 6, '工程车': 7, u'其它': 8})
data['销售模式'] = data['销售模式'].map({'4S店': 1, '一级代理商': 2, '二级及二级以下代理商': 3, '其它': 5, '多品牌经营店': 4})
data['输出'] = data['输出'].map({'正常': 1, '异常': 0})

数据划分

使用scikit_learn交叉验证随机将数据集划分为训练集与测试集。具体代码如下:

from sklearn.model_selection import train_test_split

p = 0.2
data = data.values
train_x, test_x, train_y, test_y = train_test_split(data[:, :14], data[:, 14], test_size=p)

CART决策树

使用scikit-learn库构建CART决策树模型，并构建决策树模型，具体的代码如下：

# 构建CART决策树模型
from sklearn.tree import DecisionTreeClassifier
# 导入决策树模型
import joblib

tree_file = 'tree.pkl'  # 模型输出路径
tree = DecisionTreeClassifier(criterion='entropy', max_depth=3)  # 建立决策树模型
tree.fit(train_x, train_y)  # 训练模型
joblib.dump(tree, tree_file)  # 保存模型
cm_plot(train_y, tree.predict(train_x)).show()  # 显示混淆矩阵可视化图

训练模型后得到混淆矩阵如下图，分类的准确率为 (57+41) / (57+41+1+0) = 98.98%

LM神经网络

使用Keras库可以来构建神经网络模型，设定LM神经网络的输入节点数为14，输出节点数为1，隐藏层节点数为10，使用Adam方法求解。在隐藏层使用Relu(x) = max(x, 0) 做为激活函数。构建LM神经网络模型的代码如下:

# 构建LM神经网络模型
from keras.models import Sequential
# 导入神经网络初始函数
from keras.layers.core import Dense, Activation  # 导入神经网络网络层函数及激活函数

net_file = 'net.model'  # 构建的神经网络模型存储路径
net = Sequential()  # 建立神经网络
net.add(Dense(10, input_shape=(14,)))  # 添加输入层（14节点）到隐藏层（10节点）的连接
net.add(Activation('relu'))  # 隐藏层使用relu激活函数
net.add(Dense(1, input_shape=(10,)))  # 添加隐藏层（10节点） 到输出层（1节点）的连接
net.add(Activation('sigmoid'))  # 输出层使用sigmoid激活函数
net.compile(loss='binary_crossentropy', optimizer='adam')  # 编译模型，使用adam方法求解
net.fit(train_x, train_y, nb_epoch=1000, batch_size=10)  # 训练模型循环一千次
net.save_weights(net_file)  # 保存模型
predict_result = net.predict_classes(train_x).reshape(len(train_x))  # 预测结果
cm_plot(train_y, predict_result).show()  # 显示混淆矩阵可视化图

训练模型后得到混淆矩阵如下图，分类的准确率为 (55+39) / (55+39+3+2) = 94.94%

模型评价

对于训练集，LM神经网络模型和CART决策树的分类准确率都比较好，分别为89.90%和92.93%。为了进一步评估模型分类的效果，需要使用测试集对两个模型进行评价，采用ROC线评价方法进行评估，优秀的分类器所对应的ROC曲线应该经历靠近左上角。分别画出LM神经网络和CART决策树在测试集下的ROC曲线。

CART决策树模型测试集数据的ROC曲线代码如下：

# 绘制决策树模型的ROC曲线
from sklearn.metrics import roc_curve
fpr, tpr, thresholds = roc_curve(test_y, tree.predict_proba(test_x)[:, 1], pos_label=1)
plt.plot(fpr, tpr, linewidth=2, label='ROC of CHAR')  # 绘制ROC曲线
plt.xlabel('False Positve Rate')  # 坐标轴标签
plt.ylabel('True Postive Rate')
plt.xlim(0, 1.05)  # 设定边界范围
plt.ylim(0, 1.05)
plt.legend(loc=4)  # 设定图例位置
plt.show()  # 显示绘图结果

运行结果如下所示：

LM神经网络对测试集数据的ROC曲线代码如下：

# 绘制LM神经网络模型的ROC曲线
from sklearn.metrics import roc_curve

# 导入ROC曲线函数
predict_result = net.predict(test_x).reshape(len(test_x))  # 预测结果
fpr, tpr, thresholds = roc_curve(test_y, predict_result, pos_label=1)
plt.plot(fpr, tpr, linewidth=2, label='ROC of LM')  # 绘制ROC曲线
plt.xlabel('False Positive Rate')  # 坐标轴标签
plt.ylabel('True POstive Rate')
plt.xlim(0, 1.05)  # 设定边界范围
plt.ylim(0, 1.05)
plt.legend(loc=4)  # 设定图例位置
plt.show()  # 显示绘图结果

运行结果如下所示：

对比两个模型的ROC曲线可以发现LM神经网络的ROC曲线比CART决策树的ROC曲线更加靠近左上角，LM神经网络的ROC曲线下的面积更大，说明LM神经网络模型的分类性能更好，能用来识别偷漏税行为。