Bayesian Logistic Regression Models for Credit Scoring by Gregg Webster

 Variable 
Coefficients 
including 
Coefficients 
excluding
(Intercept) 
-7.19E+00 
-7.09E+00 
LOAN 
-2.37E-05 
-2.21E-05 
MORTDUE 
-3.71E-06 
-2.94E-06 
VALUE 
3.03E-06 
1.49E-06 
REASONHomeImp 
2.03E-01 
2.07E-01 
JOBOffice 
-6.82E-01 
-6.61E-01 
JOBOther 
1.72E-02 
6.31E-03 
JOBProfExe 
4.76E-02 
9.34E-02 
JOBSales 
4.02E-01 
4.42E-01 
JOBSelf 
4.02E-01 
4.68E-01 
YOJ 
-1.62E-02 
-1.42E-02 
DEROG 
7.33E-01 
7.33E-01 
DELINQ 
8.04E-01 
8.09E-01 
CLAGE 
-5.22E-03 
-5.95E-03 
NINQ 
1.37E-01 
1.36E-01 
CLNO 
-2.81E-02 
-2.56E-02 
DEBTINC 
1.91E-01 
1.91E-01 

---

75 
4.3 Determining an Optimal Cut-off Probability 
We wish to minimize the error rate of the classification performance of the model. Because 
the data is skewed towards the good loans, we need to make sure that the model classifies the 
bad loans sufficiently. In order to do this, the minimization of the following function is 
proposed 
function 
error
 = α 
(
error 
total
) + (1 – α)(
error
bad
). 
This means that we consider a weighted function of the total error and the error on the bad 
loans. It is very important that the model classifies bad loans correctly. This is because 
people who are incorrectly classified as good cost the financial institution by not receiving 
payment. A person who is incorrectly classified as bad also costs the financial institution 
because the financial institution now loses out on payments and thus reduces the institution’s 
profit. The choice of α is subjective depending on how much weight you wish to put on the 
total error and the error on the bad loans. When α = 1 only the total error is minimized and 
when α = 0 only the error on the bad loans is considered. A value between 1 and 0 is 
suggested so that the total error and the error on the bad loans are both taken into account. 
The use of this error function results in a more risk averse approach because it results in a 
lower cut-off probability choice. The error function was calculated on the validation data set 
when α = 1 and α = 0.8. Figure 4.15 is obtained when the total error probability is minimized 
using α = 1. 

---

76