¿Cómo interpretar correctamente un análisis paralelo en el análisis factorial exploratorio?

Question

Algunos trabajos científicos informan de resultados de análisis paralelos de análisis de factores de eje principal de una manera incompatible con mi comprensión de la metodología. ¿Qué me estoy perdiendo? ¿Estoy equivocado o ellos.

Ejemplo:

• Data: Se ha observado el rendimiento de 200 humanos individuales en 10 tareas. Para cada individuo y cada tarea, uno tiene una puntuación de rendimiento. La cuestión ahora es determinar cuántos factores son la causa del rendimiento en las 10 tareas.
• Método: análisis paralelo para determinar el número de factores a retener en un análisis de factores de eje principal.
• Ejemplo de resultado comunicado: "El análisis paralelo sugiere que sólo deben conservarse los factores con un valor propio de 2,21 o más".

Eso es una tontería, ¿no?

A partir del documento original de Horn (1965) y de tutoriales como Hayton y otros (2004) entiendo que el análisis paralelo es una adaptación del criterio de Kaiser (valor propio > 1) basado en datos aleatorios. Sin embargo, la adaptación no consiste en sustituir el valor de corte 1 por otro número fijo, sino un valor de corte individual para cada factor (y dependiente del tamaño del conjunto de datos, es decir, 200 veces 10 puntuaciones). Si se observan los ejemplos de Horn (1965) y Hayton y otros (2004) y el resultado de las funciones R fa.paralelo en el psicológico paquete y paralelo en el nFactores veo que el análisis paralelo produce una curva de pendiente descendente en el gráfico de Scree para compararla con los valores propios de los datos reales. Más bien "Retener el primer factor si su valor propio es > 2,21; adicionalmente retener el segundo si su valor propio es > 1,65; ".

¿Existe algún entorno sensato, alguna escuela de pensamiento o alguna metodología que haga que "el análisis paralelo sugiere que sólo los factores con un valor propio de 2,21 o más deben ser retenidos" sean correctos?

Referencias:

Hayton, J.C., Allen, D.G., Scarpello, V. (2004). Factor retention decisions in exploratory factor analysis: a tutorial on parallel analysis. Organizational Research Methods, 7(2):191-205.

Horn, J.L. (1965). Una justificación y prueba del número de factores en el análisis de factores. Psychometrika, 30(2):179-185.

Answer 1

Hay dos formas equivalentes de expresar el criterio de análisis paralelo. Pero primero tengo que ocuparme de un malentendido que prevalece en la literatura.

El malentendido
La llamada regla de Kaiser (en realidad a Kaiser no le gustaba la regla si se lee su artículo de 1960) los valores propios mayores que uno se conservan para el análisis de componentes principales . Utilizando la llamada regla de Kaiser los valores propios mayores que cero se conservan para el análisis factorial principal/análisis factorial común . Esta confusión ha surgido a lo largo de los años porque varios autores han sido descuidados al utilizar la etiqueta "análisis factorial" para describir el "análisis de componentes principales", cuando no son lo mismo.

Ver Aclaración de la aplicación del análisis paralelo de Horn al análisis de componentes principales frente al análisis factorial para las matemáticas de la misma si necesitas convencerte de este punto.

Análisis paralelo Criterios de retención
Para el análisis de componentes principales basado en la matriz de correlación de $p$ número de variables, tienes varias cantidades. En primer lugar, tiene los valores propios observados de una eigendecomposición de la matriz de correlación de sus datos, $\lambda_{1}, \dots, \lambda_{p}$ . En segundo lugar, se tienen los valores propios medios de las eigendecomposiciones de las matrices de correlación de "un gran número" de conjuntos de datos aleatorios (no correlacionados) del mismo $n$ y $p$ como propio, $\bar{\lambda}^{\text{r}}_{1},\dots,\bar{\lambda}^{\text{r}}_{p}$ .

Horn también enmarca sus ejemplos en términos de "sesgo de muestreo" y estima este sesgo para el $q^{\text{th}}$ valor propio (para el análisis de componentes principales) como $\varepsilon_{q} = \bar{\lambda}^{\text{r}}_{q} - 1$ . Este sesgo puede utilizarse para ajustar los valores propios observados: $\lambda^{\text{adj}}_{q} = \lambda_{q} - \varepsilon_{q}$

Dadas estas cantidades se puede expresar el criterio de retención para el $q^{\text{th}}$ valor propio observado de un análisis paralelo de componentes principales de dos maneras matemáticamente equivalentes:

$\lambda^{\text{adj}}_{q} \left\{\begin{array}{cc} > 1 & \text{Retain.} \\\\ \le 1 & \text{Not retain.} \end{array}\right.$

$\lambda_{q} \left\{\begin{array}{cc} > \bar{\lambda}^{\text{r}}_{q} & \text{Retain.} \\\\ \le \bar{\lambda}^{\text{r}}_{q} & \text{Not retain.} \end{array}\right.$

¿Y para el análisis factorial principal/el análisis factorial común? Aquí tenemos que tener en cuenta que el sesgo es el valor propio medio correspondiente: $\varepsilon_{q} = \bar{\lambda}^{\text{r}}_{q} - 0 = \bar{\lambda}^{\text{r}}_{q}$ (menos cero porque la regla de Kaiser para la eigendecomposición de la matriz de correlación con la diagonal sustituida por las comunalidades es conservar los valores propios mayores que cero). Por lo tanto, aquí $\lambda^{\text{adj}}_{q} = \lambda_{q} - \bar{\lambda}^{\text{r}}_{q}$ .

Por lo tanto, los criterios de retención para el análisis factorial principal/el análisis factorial común deberían expresarse como

$\lambda^{\text{adj}}_{q} \left\{\begin{array}{cc} > 0 & \text{Retain.} \\\\ \le 0 & \text{Not retain.} \end{array}\right.$

$\lambda_{q} \left\{\begin{array}{cc} > \bar{\lambda}^{\text{r}}_{q} & \text{Retain.} \\\\ \le \bar{\lambda}^{\text{r}}_{q} & \text{Not retain.} \end{array}\right.$

Obsérvese que la segunda forma de expresar el criterio de retención es coherente tanto para el análisis de componentes principales como para el análisis factorial común (es decir, porque la definición de $\lambda^{\text{adj}}_{q}$ cambia en función de los componentes/factores, pero la segunda forma de criterio de retención no se expresa en términos de $\lambda^{\text{adj}}_{q}$ ).

una cosa más...
Tanto el análisis de componentes principales como el análisis factorial principal/el análisis factorial común pueden basarse en el matriz de covarianza en lugar de la matriz de correlación. Dado que esto cambia las suposiciones/definiciones sobre la varianza total y común, sólo deberían utilizarse las segundas formas del criterio de retención cuando se basa el análisis en la matriz de covarianza.

Answer 2

Sí, es posible tener un valor de 2,21 si el tamaño de la muestra no es infinitamente grande (o suficientemente grande...). Esta es, de hecho, la motivación detrás del desarrollo del Análisis Paralelo como un aumento de la regla del valor propio 1.

Cito a Valle 1999 en esta respuesta y he puesto en cursiva la parte que habla directamente de su pregunta.

Selección del número de componentes principales:  La varianza del criterio de error de reconstrucción con una comparación con otros métodos † Sergio Valle,Weihua Li, y, y S. Joe Qin* Investigación en química industrial y de ingeniería 1999 38 (11), 4389-4401

Análisis paralelo . El método PA básicamente construye modelos PCA para dos matrices: una es la matriz de datos original matriz de datos original y la otra es una matriz de datos con el mismo tamaño que la matriz original. Este método método fue desarrollado originalmente por Horn para mejorar el rendimiento de la prueba Scree. Cuando los valores propios de cada matriz se representan en la misma figura, todos los valores por encima de la intersección representan el proceso información del proceso y los valores por debajo de la intersección se se consideran ruido. Debido a esta intersección, el método de análisis paralelo de análisis paralelo no es ambiguo en la selección del el número de PC. Para un gran número de muestras, los valores propios de una matriz de correlación de variables no correlacionadas son 1. En este caso, el método PA es idéntico al método AE. Sin embargo, cuando las muestras se generan con un número de muestras, los valores propios iniciales superan el 1 mientras que los valores propios finales son inferiores a 1. Por eso Horn sugirió comparar la matriz de correlación de variables no correlacionadas con los de una matriz de datos reales basada en el mismo tamaño de muestra.

Answer 3

Su ejemplo no es ciertamente claro, pero tampoco puede ser un disparate. Brevemente, considere la posibilidad de que el ejemplo esté basando su regla de decisión en el valor propio del primer factor simulado que sea mayor que el factor real del mismo número de factor. Aquí hay otro ejemplo en r :

d8a=data.frame(y=rbinom(99,1,.5),x=c(rnorm(50),rep(0,49)),z=rep(c(1,0),c(50,49)))
require(psych);fa.parallel(d8a)

Los datos son aleatorios y sólo hay tres variables, por lo que un segundo factor ciertamente no tendría sentido, y eso es lo que indica el análisis paralelo. * Los resultados también corroboran lo dicho por @Alexis respecto a " El malentendido ".

Digamos que interpreto este análisis de la siguiente manera: "El análisis paralelo sugiere que sólo los factores [ no componentes] con un valor propio de 1,2E-6 o más deben conservarse". Esto tiene cierto sentido porque ese es el valor del primer valor propio simulado que es mayor que el valor propio "real", y todos los valores propios posteriores disminuyen necesariamente. Es una forma incómoda de informar de ese resultado, pero al menos es coherente con el razonamiento de que uno debería mirar con mucho escepticismo cualquier factor (o componente) con valores propios que no sean mucho mayores que los correspondientes valores propios de los datos simulados y no correlacionados. Este debería ser el caso después de la primera instancia en el diagrama de dispersión donde el valor propio simulado excede el valor propio real correspondiente. En el ejemplo anterior, el tercer factor simulado es ligeramente menor que el tercer factor "real", pero nadie en su sano juicio va a retener una solución de tres factores aquí.

---

*En este caso, R dice: "El análisis paralelo sugiere que el número de factores = 1 y el número de componentes = 2", pero es de esperar que la mayoría de nosotros sepamos que no debemos confiar en nuestro software para que interprete nuestros gráficos por nosotros... Definitivamente no retendría el segundo componente sólo porque es infinitesimalmente mayor que el segundo componente simulado.