Regresión de resúmenes en el análisis de regresión

Question

¿Por qué R-cuadrado y ajustado R-cuadrado no están cerca el uno del otro, en muchos casos, en la regresión de los resúmenes de tabla en el análisis de regresión?

Answer 1

Ajusta $R^2$ es un método de penalización de la $R^2$ por la complejidad del modelo.

Específicamente,

$\bar{R^2} = R^2 - (1-R^2)\frac{p}{n-p-1}$

donde n es el tamaño de la muestra y p es el número de predictores.

Por lo tanto, si n es pequeño en relación con el número de factores, habrá una gran diferencia entre las dos medidas.

Answer 2

$R^2$ se calcula como $$R^2 = \frac{RSS}{TSS}$$ así es la suma residual de los cuadrados (RSS) dividido por el total de la suma de los cuadrados (TSS). Esta medida es el aumento en el número de regresores incluidos en el modelo, por lo que el más variables que agregar esto aumentará su $R^2$ (o por lo menos no va a disminuir).

La versión ajustada del $\bar{R}^2$ toma en cuenta este aspecto mediante el cálculo de $$\bar{R}^2 = 1 - \frac{\frac{RSS}{N-K}}{\frac{TSS}{N-1}}$$ donde $N$ es el número de observaciones y $K$ es el número de variables explicativas, incluyendo la constante. A partir de esto se puede ver que el $\bar{R}^2$ penaliza el número de regresores en el modelo en relación a su poder explicativo. En este caso, $\bar{R}^2$ es permitido disminuir cuando se agrega otra variable del modelo. Tenga en cuenta que $\bar{R}^2$ es siempre menor o igual a $R^2$.

Cuando usted tiene una mayor diferencia entre estas dos medidas, esto es indicativo de que tiene demasiadas variables en la regresión que no ayudan mucho en la explicación de la variable dependiente.