04. Predecir la quiebra con la regresión logística
1) ¿Para qué sirve la regresión logística?
Una regresión lineal es muy adecuada para expresar la relación entre dos variables continuas como son la rentabilidad y la liquidez. En el siguiente gráfico tenemos seis empresas y, en ellas, cuanto mayor es la rentabilidad mayor es la liquidez. Obtenemos sin problema la recta que mejor ajusta esos puntos por el método de mínimos cuadrados ordinarios. Pero en nuestro caso queremos determinar la relación entre la rentabilidad y una variable binaria, como es la quiebra o no de una empresa (que toma valores 0 o 1). Ahí es más adecuado usar una regresión logística, técnica similar al análisis discriminante, que estima los parámetros de la función por el método de máxima verosimilitud. Comparando con el análisis discriminante, tiene la ventaja de que se interpreta de forma similar a la regresión lineal y es menos exigente en cuanto a la calidad de la información.
Ohlson (1980) fue pionero en utilizar esta capacidad de la regresión logística para modelizar la quiebra de las empresas a partir de un conjunto de ratios financieros.
2) Aplicación al estudio de la quiebra
La regresión logística es la técnica estadística multivariante
más utilizada a la hora de diseñar modelos matemáticos
para la predicción de la quiebra. Cuando alguien utiliza una nueva técnica suele comparar los resultados con los que proporciona la regresión logística, es decir, se utiliza como benchmark o punto de referencia.En el SPSS -> [ANALIZAR]-> [REGRESION] -> [LOGISTICA BINARIA]
- como [DEPENDIENTES] seleccionamos Output
como [COVARIABLES] seleccionamos los ratios
- como [METODO] dejamos por defecto introducir
Obtenemos los siguientes resultados:
Validación de los modelos predictivos
Cuando se desarrolla un modelo predictivo es necesario validarlo, es decir, evaluar su rendimiento comprobando si el modelo predice bien la variable dependiente ante nuevos casos.
- Validación aparente. Es lo que hemos hecho anteriormente: utilizar
toda la muestra disponible para obtener el modelo de regresión logística y sobre esos mismos datos realizar la predicción.
Los porcentajes de clasificación correcta pueden ser elevados,
pero no es un procedimiento válido debido a que todos
los casos que nos sirven para el test han servido para obtener el modelo. No es un procedimiento adeduado, sobre todo en técnicas que tienen una gran capacidad para ajustar datos, es decir, que tienen al sobreaprendizaje: el modelo ajusta tanto los datos que no tiene capacidad para generalizar los resultados. Imagina que mirando las notas de clase veo que Juan y Pedro han sacado las mejores y de ahí modelizo que todos los estudiantes de próximos cursos que sean como ellos (altos, morenos y con un reloj Casio) sacarán buenas notas. Por tanto, tenemos un modelo aparentemente muy bueno... pero solo sirve para explicar los datos que hemos usado. Si los probamos con otras empresas no predicen nada. Decimos que es validación aparente porque en realidad no estamos validando nada.
Existen varias formas de realizar una validación del modelo desarrollado.
- Validación externa. Consiste en poner a prueba nuestro modelo predictivo utilizando otra muestra distinta. Lo mejor es es que sea de ser de otro periodo de tiempo. En ese caso se llama validación temporal. También puede probarse con empresas de otro sector o de otro país. Es la mejor validación ya que si el modelo funciona bien (predice con un alto nievl de acierto) con datos de otros sectores y otros años hemos encontrado algo grande. Si no predice también diremos que el modelo tiene validez limitada.
Validación interna. No siempre tenemos datos de otras empresas, otros países u otros años. Entonces tendremos una única muestra de datos de empresas y a partir de ellos tendremos que desarrollar el modelo predictivo y realizar la validación. Como es "gratis" (porque no tenemos que buscar nuevos datos y solo debemos hacer click en algún opción del software elegido) al menos vamos a aplicar algunas técnicas de validación interna que sean rigurosas.
- Validación simple mediante una muestra de entrenamiento y de test. Partimos de forma aleatoria la muestra en dos. En una desarrollamos el modelo y en otra donde se valida. A la primera se le denomina train y la otra test. Este método es el más básico y se denomina también data split. Se suele dividir la muestra en dos, cada una con el 50% o bien entrenar con un 70% y predecir con el 30% restante.
- Validación cruzada. Lo mismo que el anterior pero lo hacemos varias veces, con varias muestras. Se llama cross-validation. Puede ser, por ejemplo, 10-fold cross-validation entonces realizas 10 interacciones.
- Validación dejando uno atrás o jackknife. A
partir de las 66 empresas de la muestra original, se obtiene 66
muestras con 65 empresas.
La primera muestra se compone de todos los casos a excepción
del primero, que sirve para realizar el test. La segunda estaba
formada por todos los casos excepto el segundo, con el que hacimos
el test, y así sucesivamente.
- Validación bootstrap. En este caso el muestreo se lleva a cabo con reemplazamiento, por lo que una misma observación puede ser seleccionada más de una vez dentro de un mismo conjunto de datos del bootstrap, y de cada una de las muestras bootstrap tiene el mismo tamaño que la muestra original [etimología].
Vamos a probar la metodología del bootstrap para validar los resultados.
- En el SPSS -> [ANALIZAR]-> [REGRESION] -> [LOGISTICA BINARIA]
como [DEPENDIENTES] seleccionamos Output
como [COVARIABLES] seleccionamos los ratios
como [METODO] dejamos por defecto Introducir
- como [BOOTSTRAP], realizar muestreo bootstrap, número de muestras 100.
Comprueba el porcentaje de acierto.
Probemos ahora la metodología del validación simple. Hemos de crear una variable nueva, que le llamaremos Train y le ponemos unos y ceros alternativamente. Algo como la figura siguiente.
- En el SPSS -> [ANALIZAR]-> [REGRESION] -> [LOGISTICA BINARIA]
como [DEPENDIENTES] seleccionamos Output
como [COVARIABLES] seleccionamos los ratios
como [METODO] dejamos por defecto Introducir
- como [VARIABLE DE SELECCION], seleccionamos Train, y se elige como regla = 1.
Comprueba el porcentaje de acierto en la Tabla de Clasificación. Ha acertado el 100% de la submuestra de entrenamiento o aprendizaje. Pero el porcentaje baja al 69.7% en la muestra de test.
Regresión logística con los datos de los préstamos P2P
La base de datos de préstamos personales P2P de Lending Club contiene datos de clientes que van devolviendo el préstamo solictado y otros que no. La variable dependiente es LOAN_STATUS_FULLY_PAID (0 fracaso - 1 pagando). Las variables independientes continuas son:
- subgrade_ord (el grado o calificación que le he puesto la entidad) int_rate (el tipo de interés) annual_inc (ingresos anuales) LOANAMOUNT_TO_ANNUALINCOME (cantidad prestada dividido entre ingresos anuales)dti (monto de la deuda dividido por el ingreso anual)PAGOSPRESTAMO_ANNUAL_INC (la mensualidad que devuelve dividido entre ingresos anuales) inq_last_6mths (El número de consultas del prestatario por parte de los acreedores en los últimos 6 meses) delinq_2yrs (El número de veces que el prestatario se ha demorado en pagar más de 30 días en un pago en los últimos 2 años) pub_rec (El número de registros públicos negativos del prestatario, como declaraciones de quiebra, gravámenes fiscales o sentencias)
- revol_util (La tasa de utilización de la línea rotatoria del prestatario, es decir, la cantidad de la línea de crédito utilizada en relación con el crédito total disponible en tarjetas de crédito)
No hay problema en utilizar variables independientes binarias, como el destino del préstamo y la vivienda.
- PURPOSE_CAR (préstamo para comprar un coche) PURPOSE_CREDIT_CARD (para cancelar una deuda contraida con tarjeta de crédito) PURPOSE_DEBT_CONSOLIDATION (préstamo para consolidar deudas) PURPOSE_EDUCATIONAL (préstamo para estudiar) PURPOSE_HOME_IMPROVEMENT (para reformar la vivienda) PURPOSE_HOUSE (préstamo para comprar una casa) PURPOSE_MAJOR_PURCHASE (préstamo para comprar algo grande) PURPOSE_MEDICAL (préstamo para gastos médicos) PURPOSE_MOVING (préstamo para un traslado) PURPOSE_OTHER (préstamo para otras causas) PURPOSE_SMALL_BUSINESS (préstamo para poner en marcha un pequeño negocio) PURPOSE_WEDDING (préstamo para casarse) HOME_OWNERSHIP_OWN (el prestatario es propietario de una vivienda)
HOME_OWNERSHIP_MORTGAGE (tiene una hipoteca) HOME_OWNERSHIP_RENT (vive de alquiler)
- HOME_OWNERSHIP_OTHER (otras formas)
EJERCICIO: Realiza una regresión logística. Puedes utilizar la validación simple porque la ultima de las variables es precisamente la variable Train. ¿Qué porcentaje de aciertos has obtenido en la muestra de entrenemianto y en el test?
DatosP2P.sav 
3) Modelos parsimoniosos (sencillos...)
En
la regresión logística también es deseable tratar de seleccionar un modelo sencillo, parsimonioso, en vez de incluir todas las variables independientes. Con ello mejora la capacidad de explicación, aunque podemos perder algo de capacidad predictiva.
En SPSS hay varios métodos disponibles. El más común es el fordward stepwise regression (adelante-condicional). La primera variable que se introduce en el modelo es la de mayor correlación con la variable dependiente. A continuación se considera la variable independiente cuya correlación parcial sea la mayor y que no esté en la ecuación. El procedimiento se detiene cuando el incremento en el grado de ajuste del modelo debido a incluir una nueva variable explicativa ya es muy pequeño. También se puede hacer al revés, es decir, empezar con un modelo que tenga todas las variables e ir quitando una a una, las menos importantes.
- En SPSS está en: [METODO] -[ADELANTE CONDICIONAL].
Aunque son métodos sencillos de utilizar presentan muchos inconvenientes, porque a veces ignoran variables importantes. Existen métodos de selección de modelos más adecuados como el Método LASSO (Least Absolute Shrinkage and Selection Operator) de Robert Tibshirani que aproxima a cero los coeficientes de las variables independientes, llegando a excluir algunos de ellos. Así se consiguen modelos con menos variables.
4) Probabilidad de quiebra
En
la regresión logística podemos obtener la probabilidad de quiebra de cada empresa. Utilizaremos la opción [GUARDAR] -> Probabilidades y Grupo de Pertenencia.
Practica con la base de datos de seguros
En la base de datos que
contiene características de los clientes de una compañía de seguros y de sus automóviles, los clientes han sido clasificados en "buenos"
y "malos" según hayan tenido o no accidentes.
EJERCICIO: ¿Qué variables son importantes? ¿Cuál es el porcentaje de acierto con la regresión logística? ¿Se te ocurre alguna variable más?.
Seguros.sav