¿Cómo derivar beta de mi línea de regresión?

Question

Me cuesta entender la fórmula para obtener el coeficiente beta en un modelo de regresión univariante.

Digamos que Y = 1 + 2x

Aquí beta sería 2.

La fórmula dice

$$ b = \dfrac{\sum xy} {\sum x^2} $$

Pero tomando valores de x=1,2,3 e y=3,5,7 y luego intentando calcular beta, no obtengo 2. Obtengo 34/14?

Answer 1

Su ecuación es cierta en el caso especial en que la media de $x$ es $0$ y la media de $y$ es $0$ como cuando centras tus variables. En general, usted quiere la siguiente ecuación.

$$ \beta = \dfrac{ \text{cov}(X, Y) }{ \text{var}(X) } = \dfrac{\sum\big( x_i - \bar x \big) \big( y_i - \bar y \big)}{\sum\big( x_i - \bar x \big)^2} $$

En $\bar x=0$ et $\bar y=0$ obtenemos la ecuación que has dado, pero tu $\bar x=2$ et $\bar y=5$ .

Esto puede comprobarse en programas como R .

x <- c(1, 2, 3)
y <- c(3, 5, 7)
cov(x, y)/var(x)
sum((x - mean(x))*(y - mean(y)))/sum((x - mean(x))^2)

Ambos cálculos me dan $2$ .