Medidas de similitud o distancia entre dos matrices de covarianza

Question

¿Existe alguna medida de similitud o distancia entre dos matrices de covarianza simétricas (ambas con las mismas dimensiones)?

Estoy pensando en análogos a la divergencia KL de dos distribuciones de probabilidad o a la distancia euclidiana entre vectores, pero aplicada a las matrices. Imagino que habría bastantes medidas de similitud.

Idealmente también me gustaría probar la hipótesis nula de que dos matrices de covarianza son idénticas.

Answer 1

Puede utilizar cualquiera de las normas $\| A-B \|_p $ (ver Wikipedia en una variedad de normas; nótese que la raíz cuadrada de la suma de las distancias al cuadrado, $\sqrt{\sum_{i,j} (a_{ij}-b_{ij})^2}$ se llama norma de Frobenius, y es diferente de $L_2$ que es la raíz cuadrada del mayor valor propio de $(A-B)^2$ aunque, por supuesto, generarían la misma topología). La distancia K-L entre las dos distribuciones normales con las mismas medias (digamos cero) y las dos matrices de covarianza específicas también está disponible en Wikipedia como $\frac12 [ \mbox{tr} (A^{-1}B) - \mbox{ln}( |B|/|A| ) ]$ .

Editar: si una de las matrices es una matriz implícita en el modelo, y la otra es la matriz de covarianza de la muestra, entonces, por supuesto, se puede formar una prueba de razón de verosimilitud entre las dos. Mi colección favorita de pruebas de este tipo para estructuras simples se encuentra en Rencher (2002) Métodos de análisis multivariante . Los casos más avanzados se tratan en la modelización de la estructura de covarianza, en la que un punto de partida razonable es Bollen (1989) Ecuaciones estructurales con variables latentes .

Answer 2

Una medida introducida por Herdin (2005) Correlation Matrix Distance, a Meaningful Measure para la evaluación de canales MIMO no estacionarios es $$d = 1 - \frac{\text{tr}(R_1 \cdot R_2)}{\|R_1\| \cdot \|R_2\|},$$ donde la norma es la norma de Frobenius.

Answer 3

Denote $\varSigma_1$ y $\varSigma_2$ sus matrices, ambas de dimensión $p$ .

1. Número de condominio: $\log(\lambda_1)-\log(\lambda_p)$ donde $\lambda_1$ ( $\lambda_p$ ) es el mayor (menor) valor propio de $\varSigma^*$ , donde $\varSigma^*$ se define como: $\varSigma^*:=\varSigma_1^{-1/2}\varSigma_2\varSigma_1^{-1/2}$

Edición: He editado la segunda de las dos propuestas. Creo que había entendido mal la pregunta. La propuesta basada en los números de condición se utiliza mucho en la estadística robusta para evaluar la calidad del ajuste. Una fuente antigua que pude encontrar para ello es:

Yohai, V.J. y Maronna, R.A. (1990). The Maximum Bias of Robust Covarianza robusta. Communications in Statistics-Theory and Methods, 19, 3925-2933.

Originalmente había incluido la medida de la proporción de Det:

2. Relación de detección: $\log(\det(\varSigma^{**})/\sqrt{\det(\varSigma_2)*\det(\varSigma_1)})$ donde $\varSigma^{**}=(\varSigma_1+\varSigma_2)/2$ .

que sería el Distancia de Bhattacharyya entre dos distribuciones gaussianas que tienen el mismo vector de localización. En un principio debí leer la pregunta como perteneciente a un escenario en el que las dos covarianzas procedían de muestras de poblaciones que se suponía que tenían medias iguales.

Answer 4

La distancia de la matriz de covarianza se utiliza para el seguimiento de objetos en la visión por ordenador.

La métrica utilizada actualmente se describe en el artículo: "Una métrica para las matrices de covarianza" de Förstner y Moonen.