Bayesian Logistic Regression Models for Credit Scoring by Gregg Webster

 
Markov chain Monte Carlo diagnostics 
 
The Markov chain, from which we take samples, needs to have converged to the target 
distribution. If the Markov chain has not converged, samples will be taken which are not 
from the desired target distribution. In order to make sure that samples are taken only from 
the stationary distribution, a burn-in period is used (Ntzoufras, 2009). The burn-in period 
is the number of samples which are eliminated to ensure we only sample from the 
stationary distribution.

---

61 
Dobson and Barnett (2008) state that a way to assess the convergence of a Markov chain is 
by looking at time series (trace) plots. These graphs plot the history of the Markov chain. 
A chain that has converged should be stable and show a reasonable degree of randomness 
between iterations.
Another way to assess convergence is by looking at the autocorrelation function (ACF) of 
the chain. Ideally we would want samples to be independent, but with MCMC algorithms 
this cannot happen. We therefore accept some autocorrelation. If the ACF values are low it 
indicates that the Markov chain has converged successfully. 
Geweke (1992) proposed a diagnostic test for assessing the convergence of the mean of 
each parameter. He considers the simulated Markov chain (obtained from the MCMC 
output) as a time series and applies a z-test to check whether the means from two different 
subsamples are equal. These subsamples come from the beginning and end of the 
generated chain. Typically, the first 10% of the chain is used as the beginning sample and 
the last 50% is used as the end sample. Using this z-test, parameters with 
| |
indicate 
evidence of significant differences between the means of the first and last set of iterations 
and means non-convergence of the chain.