R-cuadrado en la regresión cuantílica

Question

Estoy utilizando la regresión cuantílica para encontrar predictores del percentil 90 de mis datos. Estoy haciendo esto en R utilizando el quantreg paquete. ¿Cómo puedo determinar $r^2$ para la regresión cuantílica que indicará qué parte de la variabilidad está siendo explicada por las variables predictoras?

Lo que realmente quiero saber: "¿Algún método que pueda utilizar para encontrar qué parte de la variabilidad se está explicando?". Los niveles de significación por valores P están disponibles en la salida del comando: summary(rq(formula,tau,data)) . ¿Cómo puedo obtener la bondad del ajuste?

Answer 1

Koenker y Machado $^{[1]}$ describir $R^1$ una medida local de la bondad del ajuste en el ( $\tau$ ) cuantil.

Dejemos que $V(\tau) = \min_{b}\sum \rho_\tau(y_i-x_i'b)$

Dejemos que $\hat{\beta}(\tau)$ y $\tilde{\beta}(\tau)$ son las estimaciones de los coeficientes para el modelo completo, y un modelo restringido, y sea $\hat{V}$ y $\tilde{V}$ sea el correspondiente $V$ términos.

Definen el criterio de bondad de ajuste $R^1(\tau) = 1-\frac{\hat{V}}{\tilde{V} }$ .

Koenker da el código para $V$ ici ,

rho <- function(u,tau=.5)u*(tau - (u < 0))
V <- sum(rho(f$resid, f$tau))

Así que si calculamos $V$ para un modelo con una intercepción ( $\tilde{V}$ - o V0 en el siguiente fragmento de código) y luego un modelo no restringido ( $\hat{V}$ ), podemos calcular un R1 <- 1-Vhat/V0 que es - al menos teóricamente - algo así como el habitual $R^2$ .

Edición: En su caso, por supuesto, el segundo argumento, que se pondría donde f$tau en la llamada de la segunda línea de código, será el valor de tau que usaste. El valor de la primera línea simplemente establece el valor por defecto.

Explicar la varianza en torno a la media" no es realmente lo que se hace con la regresión cuantílica, por lo que no se debería esperar tener una medida realmente equivalente.

No creo que el concepto de $R^2$ se traduce bien en la regresión cuantílica. Se pueden definir varias cantidades más o menos análogas, como aquí, pero no importa lo que elijas, no tendrás la mayoría de las propiedades reales $R^2$ tiene en la regresión OLS. Debe tener claro qué propiedades necesita y cuáles no: en algunos casos puede ser posible tener una medida que haga lo que usted quiere.

--

$[1]$ Koenker, R y Machado, J (1999),
Bondad de ajuste y procesos de inferencia relacionados para la regresión cuantil,
Revista de la Asociación Americana de Estadística, 94 :448, 1296-1310

Answer 2

El pseudo- $R^2$ medida sugerida por Koenker y Machado (1999) en JASA mide la bondad del ajuste comparando la suma de desviaciones ponderadas para el modelo de interés con la misma suma de un modelo en el que sólo aparece el intercepto. Se calcula como

$$R_1(\tau) = 1 - \frac{\sum_{y_i \ge \hat y_i} \tau \cdot \vert y_i-\hat y_i \vert +\sum_{y_i<\hat y_i} (1-\tau) \cdot \vert y_i-\hat y_i \vert}{\sum_{y_i \ge \bar y} \tau \cdot \vert y_i-\bar y \vert +\sum_{y_i<\bar y_i} (1-\tau) \cdot \vert y_i-\bar y \vert},$$

donde $\hat y_i =\alpha_{\tau}+\beta_{\tau}x$ es el ajuste $\tau$ cuantil de la observación $i$ y $\bar y=\beta_{\tau}$ es el valor ajustado del modelo de sólo intercepción.

$R_1(\tau)$ debe estar en $[0,1]$ donde 1 correspondería a un ajuste perfecto ya que el numerador que consiste en la suma ponderada de las desviaciones sería cero. Es un local medida de ajuste para el QRM ya que depende de $\tau$ a diferencia del global $R^2$ de OLS. Podría decirse que ese es el origen de las advertencias sobre su uso: si el modelo se ajusta en la cola, no hay garantía de que se ajuste bien en cualquier otra parte. Este enfoque también podría utilizarse para comparar modelos anidados.

Aquí hay un ejemplo en R:

library(quantreg)
data(engel)

fit0 <- rq(foodexp~1,tau=0.9,data=engel)
fit1 <- rq(foodexp~income,tau=0.9,data=engel)

rho <- function(u,tau=.5)u*(tau - (u < 0))
R1 <- 1 - fit1$rho/fit0$rho

Probablemente esto podría lograrse de forma más elegante.