现在的位置: 首页 > 综合 > 正文

决策树 & SAS

2017年11月12日 ⁄ 综合 ⁄ 共 1766字 ⁄ 字号 评论关闭

决策树

决策树主要用来描述将数据划分为不同组的规则。第一条规则首先将整个数据集划分为不同大小的子集,然后将另外的规则应用在子数据集中,数据集不同相应的规则也不同,这样就形成第二层数据集的划分。一般来说,一个子数据集或者被继续划分或者单独形成一个分组。

1问题背景

预测模型案例概述

一家金融服务公司为客户提供房屋净值贷款。该公司在过去已经拓展了数千净值贷款服务。但是,在这些申请贷款的客户中,大约有20%的人拖欠贷款。通过使用地理、人口和金融变量,该公司希望为该项目建立预测模型判断客户是否拖欠贷款。

2输入数据源

         分析数据之后,该公司选择了12个预测变量来建立模型判断贷款申请人是否拖欠。回应变量(目标变量)标识房屋净值贷款申请人是否会拖欠贷款。变量,以及它们的模型角色、度量水平、描述,在下表中已经显示。SAMPSIO.HMEQ数据集中的变量,

(连载)SAS决策树

 

SAMPSIO库中的数据集HMEQ包括5960个观测值,用来建立和比较模型。该数据集被划分为训练集、验证集和测试集,从而对数据进行分析。

3创建处理流程图

(连载)SAS决策树

添加结点

 

连接结点

 

定义输入数据

为了定义输入数据,右键输入数据源结点,选择打开菜单,弹出输入数据对话框。默认情况下,数据选项卡是激活的。

(连载)SAS决策树

 

点击select按钮选择数据集,

(连载)SAS决策树
4理解原数据样本

所有分析包在分析过程中必须定义如何使用这些变量。为了先对这些变量进行评估,EM采用元数据方式处理。默认方式下,它从原始数据集中随即抽取2000个观测样本,用这些信息给每个变量设置模型角色和度量水平。它也计算一些简单统计信息显示在附加选项卡中。

如果需要更多的样本量,点击右下角的Change按钮,设置样本量。(连载)SAS决策树

 

评估这些元数据创建的赋值信息,可以选择变量选项卡查看相关信息。

 

从图中可以发现,Name列和Type列不可用。这些列表示来自SAS数据集的信息在这个结点中不能修改。名称必须遵循命名规范。类型分为字符型和数值型,它将影响该变量如何使用。EM使用Type的值和元数据样本中级别的数量初始化每个变量的模型角色和度量级别。(连载)SAS决策树

5定义目标变量

在该分析中,BAD是一个响应变量,将BAD变量的模型角色设置为target类型。右键BAD变量的Model
Role
列,设置模型角色。

(连载)SAS决策树

 

6观察变量分布

我们可以根据元数据样本观察每个变量的分布情况。譬如,查看BAD变量的分布情况,右键BAD变量的Name列查看BAD的分布情况。(连载)SAS决策树

(连载)SAS决策树

 

 

7修改变量信息

为了保证剩下的变量拥有正确的模型角色和度量级别,将DEROGDELINQ的度量级别设置为有序(Ordinal)。右键DEROG变量的Measurement列,设置为Ordinal

(连载)SAS决策树

 

8查看描述性统计信息

点击Interval Variables选项卡和class
variables
选项卡可以查看变量的基本统计信息。

(连载)SAS决策树

(连载)SAS决策树

 

 

9观察数据划分结点的默认设置

打开数据划分结点,默认方式下,划分选项卡是被激活的。数据划分方法显示在方法显示面板。

(连载)SAS决策树

 

EM对输入数据集进行抽样,将原数据集分成训练、验证和测试数据集。默认情况下,采用简单随机抽样方法。并且,可以选择层次抽样或者自定义抽样方法。另外,还可以为初始随机抽样过程定义随机种子。

 

在选项卡的右边,可以设置训练、验证和测试数据集的比例,它们之和为100%

(连载)SAS决策树

(连载)SAS决策树

 

10创建决策树

 

打开树节点,设置决策树模型,在变量选项卡中查看变量的状态、模型角色和度量方式。(如果度量方式不准确,在树节点中是不能修改的。需要在数据源输入节点中进行更正)并且,树节点可以处理缺失值现象。

(连载)SAS决策树

 

选择基本选项卡,很多构建决策树的选项在该选项卡设定。划分标准依赖于目标变量的度量方式。对于二值或者名义目标变量,默认的划分标准是重要水平为0.2的卡方检验。另外,也可以选择熵方法或者基尼系数方法作为划分标准。对于顺序目标变量,只有熵和基尼方法可选。对于区间变量,有两种划分标准选择,默认方法和F检验或者方差检验。

(连载)SAS决策树

在设置树的增长和大小中,默认方式下,只有二值划分是允许的,树的最大深度是6,最小的观测值数量是1。然而,为了划分节点依旧需要设置节点中观测值数量。默认的在训练集中的观测值数量是100

(连载)SAS决策树

(连载)SAS决策树

 

关闭树节点,运行树节点,查看运行结果。

 

在查看菜单,点击树状结构,查看决策树型图

(连载)SAS决策树

 

在该图中,可以发现6个叶子节点。

抱歉!评论已关闭.