ФИО

Казачук Мария Андреевна

data develop;

set mydata.develop;

run;

proc sort data=develop out=develop;

by ins;

run;

proc surveyselect noprint ranuni

data = develop

samprate=.7

out=develop

seed=44444

outall;

strata ins;

run;

data train valid;

set develop;

if selected then output train;

else output valid;

run;

data develop1;

set train;

/* name the missing indicator variables */

array mi{*} MIAcctAg MIPhone MIPOS MIPOSAmt

MIInv MIInvBal MICC MICCBal

MICCPurc MIIncome MIHMOwn MILORes

MIHMVal MIAge MICRScor;

/* select variables with missing values */

array x{*} acctage phone pos posamt

inv invbal cc ccbal

ccpurc income hmown lores

hmval age crscore;

do i=1 to dim(mi);

mi{i}=(x{i}=.);

end;

run;

/* Impute missing values with the median */

proc stdize data=develop1

reponly

method=median

out=imputed;

var ATM ATMAmt AcctAge Age CC CCBal CCPurc CD CDBal CRScore CashBk Checks DDA DDABal Dep DepAmt DirDep HMOwn

HMVal ils ILSBal InArea Income ira IRABal ins inv InvBal loc LOCBal LORes mm MMBal MMCred mtg MTGBal Moved

nsf NSFAmt pos POSAmt Phone sdb sav SavBal Teller;

run;

Для набора Valid – аналогично.

data develop3;

set train;

run;

proc stdize data=develop3 reponly method=mean pstat out=train2;

var phone;

by ins;

run;

data develop4;

set valid;

run;

proc stdize data=develop4 reponly method=mean pstat out=valid2;

var phone;

by ins;

run;

Это — для переменной Phone.

proc rank data=train out=train3 groups=3;

var ins;

ranks ins;

run;

proc sort data=train3 out=train3;

by ins;

run;

proc stdize data=train3 method=median

reponly out=train3;

by ins;

run;

proc rank data=valid out=valid3 groups=3;

var ins;

ranks ins;

run;

proc sort data=valid3 out=valid3;

by ins;

run;

proc stdize data=valid3 method=median

reponly out=valid3;

by ins;

run;

Использую expb:

proc logistic data=train1;

class dda pos;

model ins= dda pos dda*pos/ expb;

run;

В итоге — закодированные переменные dda и pos:

proc means data=train1 noprint nway;

class branch;

var ins;

output out=level mean=prop;

run;

proc print data=level;

run;

ods output clusterhistory=cluster;

proc cluster data=level method=ward outtree=fortree

plots=(dendrogram(vertical height=rsq));

freq _freq_;

var prop;

id branch;

run;

proc freq data=train1 noprint;

tables branch*ins / chisq;

output out=chi(keep=_pchi_) chisq;

run;

data cutoff;

if _n_ = 1 then set chi;

set cluster;

chisquare=_pchi_*rsquared;

degfree=numberofclusters-1;

logpvalue=logsdf('CHISQ',chisquare,degfree);

run;

proc sgplot data=cutoff;

scatter y=logpvalue x=numberofclusters

/ markerattrs=(color=blue symbol=circlefilled);

xaxis label="Number of Clusters";

yaxis label="Log of P-Value" min=-170 max=-130;

title "Plot of the Log of the P-Value by Number of Clusters";

run;

title;

proc sql;

select NumberOfClusters into :ncl

from cutoff

having logpvalue=min(logpvalue);

quit;

proc tree data=fortree nclusters=&ncl out=clus;

id branch;

run;

proc sort data=clus;

by clusname;

run;

proc print data=clus;

by clusname;

id clusname;

run;

data train1_5;

set train1;

brclus1=(branch in ('B6','B9','B19','B8','B1','B17','B3',

'B5','B13','B12','B4','B10'));

brclus2=(branch='B15');

brclus3=(branch='B16');

brclus4=(branch='B14');

run;

Получили пять кластеров:

По Spearman и Hoeffding наиболее значимыми переменными являются LORes, MicrScor, HMOwn,MllNcome, CRScore, LOC:

Для оригинальных переменных получили следующий график:

Для сгруппированных — такой:

Как и предполагалось, группировка практически поборола нелинейность.

/*stepwise selection*/

proc reg data= train1_5 plots(only)=adjrsq;

FORWARD: model ins=ATM ATMAmt AcctAge Age CC CCBal CCPurc CD CDBal CRScore CashBk Checks DDA DDABal Dep DepAmt DirDep HMOwn

HMVal ils ILSBal InArea Income ira IRABal inv InvBal loc LOCBal LORes mm MMBal MMCred mtg MTGBal Moved

nsf NSFAmt pos POSAmt Phone sdb sav SavBal Teller

/selection=forward;

BACKWARD: model ins=ATM ATMAmt AcctAge Age CC CCBal CCPurc CD CDBal CRScore CashBk Checks DDA DDABal Dep DepAmt DirDep HMOwn

HMVal ils ILSBal InArea Income ira IRABal inv InvBal loc LOCBal LORes mm MMBal MMCred mtg MTGBal Moved

nsf NSFAmt pos POSAmt Phone sdb sav SavBal Teller

/selection=backward;

STEPWISE: model ins=ATM ATMAmt AcctAge Age CC CCBal CCPurc CD CDBal CRScore CashBk Checks DDA DDABal Dep DepAmt DirDep HMOwn

HMVal ils ILSBal InArea Income ira IRABal inv InvBal loc LOCBal LORes mm MMBal MMCred mtg MTGBal Moved

nsf NSFAmt pos POSAmt Phone sdb sav SavBal Teller

/selection=stepwise;

title 'Best Models Using Stepwise Selection';

run;

quit;

При Forward значимыми оказались переменные: CRScore, DirDep, HMVal, LORes, HMOwn, MMBal.

При Backword: HMVal, HMOwn, LORes, CRScore, DepAmt, InArea.

/*all*/

proc reg data=train1_5

plots(only)=(rsquare adjrsq cp);

ALL_REG: model ins=ATM ATMAmt AcctAge Age CC CCBal CCPurc CD CDBal CRScore CashBk Checks DDA DDABal Dep DepAmt DirDep HMOwn

HMVal ils ILSBal InArea Income ira IRABal inv InvBal loc LOCBal LORes mm MMBal MMCred mtg MTGBal Moved

nsf NSFAmt pos POSAmt Phone sdb sav SavBal Teller

/ selection=rsquare

adjrsq cp best=10;

title 'Best Models Using All-Regression Option';

run;

quit;

Наиболее значимыми оказались переменные ATM, ATMAmt, AcctAge, CC, CCBal, CD, CashBk, Checks, DDA, DDABal, Dep, ILS, ILSBal, InAres, Ira, Inv, LOC, LOCBal, MM, MTG, MTGBal, Moved, POS, POSAmt, Phone, SDB Sav, SavBal, Teller.

Модель1:

proc npar1way edf data=train1_5;

class ins;

var CRScore DirDep HMVal LORes HMOwn MMBal;

title "K-S Statistic for the Validation Data Set";

run;

Для данной модели получены следующие результаты прохождения тестов:

Модель2:

proc npar1way edf data=train1_5;

class ins;

var HMVal HMOwn LORes CRScore DepAmt InArea;

title "K-S Statistic for the Validation Data Set";

run;

Для данной модели получены следующие результаты прохождения тестов:

Модель3:

proc npar1way edf data=train1_5;

class ins;

var ATM ATMAmt AcctAge CC CCBal CD CashBk Checks DDA DDABal

Dep ILS ILSBal InArea Ira Inv LOC LOCBal MM MTG MTGBal Moved

POS POSAmt Phone SDB Sav SavBal Teller;

title "K-S Statistic for the Validation Data Set";

run;

Здесь тест прошли 10 переменных из 29.

Следовательно, из этих трех моделей на наборе train лучшей является вторая модель.

Теперь рассмотрим набор Validate(аналогично).

Для модели1 тест прошло 3 переменных.

Для модели2 тест прошло 4 переменных.

Для модели3 тест прошло 9 переменных.

Следовательно, наилучшей снова является вторая модель.

Проверим для ROC:

Для данных моделей получаем:

Чем больше площадь под ROC-кривой, тем точнее модель. Получаем, что самой точной является третья модель. Наиболее устойчивой является вторая модель.