Teorema fundamental del cálculo.

Question

Actualmente estoy pasando por un conjunto de diapositivas que tengo para "análisis de factores" (PCA, por lo que puedo decir).

En ella, el "teorema fundamental del análisis factorial" se deriva que afirma que la matriz de correlación de los datos de entrar en el análisis de ($\bf R$) pueden ser recuperados utilizando la matriz de factor de cargas ($\bf A$):

$$\bf R = AA^\top$$

Sin embargo, esto me confunde. En la PCA de la matriz de "factor de cargas" está dada por la matriz de vectores propios de la covarianza/matriz de correlación de los datos (ya que estamos suponiendo que los datos han sido normalizados, que son lo mismo), con cada autovector escala para tener la longitud uno. Esta matriz es ortogonal, lo $\bf AA^\top = I$ a que, en general, no es igual a $\bf R$.

Answer 1

Esta es una pregunta razonable (+1) que se deriva de la terminología de la ambigüedad y la confusión.

En el contexto de la PCA, la gente suele llamar a los ejes principales (vectores propios de la covarianza/matriz de correlación) "cargas". Este es descuidado la terminología. Lo que más bien debería ser llamado "cargas" en el PCA, son los ejes principales de escala por las raíces cuadradas de los respectivos autovalores. Entonces el teorema se está refiriendo a que se mantenga.

De hecho, si los eigen-descomposición de la matriz de correlación es $$\mathbf R = \mathbf V \mathbf S \mathbf V^\top$$ where $\mathbf V$ are eigenvectors (principal axes) and $\mathbf S$ is a diagonal matrix of eigenvalues, and if we define loadings as $$\mathbf A = \mathbf V \mathbf S^{1/2},$$ then one can easily see that $$\mathbf R = \mathbf A \mathbf A^\top.$$ Moreover, the best rank-$r$ approximation to the correlation matrix is given by the first $r$ PCA loadings: $$\mathbf R \approx \mathbf A_r \mathbf A_r^\top.$$

Por favor vea mi respuesta aquí para obtener más información sobre la reconstrucción de las matrices de covarianza con el análisis de los factores y de la PCA de cargas.