¿Cuál es la intuición detrás de / ¿Cómo podemos interpretar los valores propios y vectores propios de las Matrices de Distancia Euclidianas?

Question

Dado un conjunto de puntos $x_1,x_2,\dots,x_m$ en el espacio euclidiano $\mathbb{R}^n$, podemos formar una matriz de Distancia Euclidiana $D$ de $m\times m$ donde $D_{ij}={\|x_i-x_j\|}^2$.

Sabemos un poco sobre estas matrices como:

1. Es simétrica.
2. Su traza es $0$.
3. Tiene (a lo sumo) $n+2$ eigenvalores no nulos;
4. Tiene exactamente $n+2$ eigenvalores no nulos cuando $m > n;

Fuente: Relación entre eigenvalores de dos matrices de distancia euclidiana relacionadas

¿Cuál es la intuición detrás de los eigenvalores y eigenvectores de estas matrices?

1. En el caso de una matriz de covarianza formada a partir de puntos de datos, podemos decir que los eigenvectores son las direcciones en las que la dispersión de datos es máxima y se llaman componentes principales.

2. En el caso de las matrices de adyacencia de grafos también, parece haber una interpretación para los eigenvectores como se muestra aquí: http://daylateanddollarshort.com/math/pdfs/spectral.pdf

¿Existe una interpretación similar para estas Matrices de Distancia Euclidiana (EDM's)?

Gracias.

Incluso respuestas parciales e ideas son bienvenidas.

Answer 1

Introducción

Presentaré un marco de interpretación incompleto.

Comencemos considerando dos puntos en una dimensión. Podemos generalizar fácilmente los resultados a más de una dimensión.

Nuestra matriz es dada por,

$$M=\begin{bmatrix} 0 & |x_1-x_2| \\ |x_1-x_2| & 0 \end{bmatrix}$$

Los valores propios son $$\lambda_1=-\lambda_2=|x_1-x_2|$$ Los eigenvectores son $$v_1=\begin{bmatrix} 1 \\ 1 \end{bmatrix} \quad v_2=\begin{bmatrix} 1 \\ -1 \end{bmatrix}$$

Hay tres partes para proporcionar una interpretación de lo anterior. Primero necesitamos saber qué hace $M$. En segundo lugar, debemos ser conscientes de qué son los valores propios y los eigenvectores.

Interpretación

¿Qué hace $M? Bueno, la mejor manera de averiguarlo es expresarlo en términos de las cosas que sabemos. Al compararlo con una matriz de reflexión, vemos que nuestra matriz refleja componentes de vectores. En otras palabras, los componentes de los vectores se intercambian. Además, la matriz también escala el vector por la distancia entre los puntos de datos.

Entonces nuestra matriz $M$ opera sobre un vector $v$. ¿Qué es $v? Dado que no fue especificado en la pregunta, me he tomado la libertad de elegir el significado de $v$. El vector $v$ representa la cantidad de viajes realizados para cada punto de datos. Como ejemplo, consideremos,

$$v=\begin{bmatrix} n_1 \\ n_2 \end{bmatrix}$$

Tenemos $n_1$ para denotar la cantidad de viajes entre $x_1$ y los otros puntos de datos. $n_2$ denota la cantidad de viajes realizados entre $x_2$ y otros puntos de datos. Si interpretamos $x_i$ como puntos reales en un espacio físico, entonces $M(v)=d$ es un vector cuyos componentes $d_i$ denotan la distancia total recorrida desde $x_i$ hacia otros puntos en el espacio.

Ejemplo

Aquí hay un ejemplo explícito. Imagina que eres un joven adulto ocupado pensando en dónde vivir para equilibrar los viajes entre el trabajo, la casa de tu mamá y la casa de un amigo. El trabajo está ubicado en $x_1=55$, la casa de mamá en $x_2=0$ y la casa de tu amigo está en $x_3=30$. Tenemos,

$$M=\begin{bmatrix} 0 & 55 & 25 \\ 55 & 0 & 30 \\ 25 & 30 & 0 \end{bmatrix}$$

Entonces imagina que quieres decidir dónde vivir. Estos son los únicos lugares a los que siempre vas, así que realmente quieres elegir un lugar cerca de una de las ubicaciones, efectivamente justo al lado de una de ellas si es posible. Sabes que tienes que ir y venir del trabajo 14 veces a la semana, independientemente de dónde vivas. También sabes que mamá querrá verte dos veces a la semana, por lo que harás 4 viajes de ida y vuelta a su casa. Finalmente, estás en una banda con tu amigo, así que necesitas tres veces de práctica a la semana, por lo que son otros seis viajes de ida y vuelta. También sabes que siempre tendrás que pasar por donde vives para prepararte para volver a salir. La ropa de trabajo no es buena para la práctica de la banda o la cena con mamá, llevar una guitarra no es conveniente, y mamá estará furiosa si sales para el trabajo o para ver a tu amigo. Juntando todo esto tenemos,

$$v=\begin{bmatrix} 14 \\ 4 \\ 6 \end{bmatrix}$$

Entonces, para obtener la distancia total que tendrás que viajar si vives en cada una de estas ubicaciones, necesitamos multiplicar $M$ por $v$.

$$M \cdot v=d=\begin{bmatrix} d_1 \\ d_2 \\ d_3 \end{bmatrix}=\begin{bmatrix} 370 \\ 950 \\ 470 \end{bmatrix}$$

Por lo tanto, si vives cerca del trabajo, tendrás que viajar $d_1=370$ unidades por semana. Si vives cerca de mamá, tendrás que viajar $d_2=950$ unidades por semana. Si vives cerca de tu amigo, tendrás que viajar $d_3=470$ unidades por semana.

Por lo tanto, claramente es mejor vivir cerca del trabajo. ¡Nota que esto es muy similar a lo que sucede en la vida real!

Sin embargo, también puede ser importante encontrar $v$ tal que,

$$M \cdot v=\lambda \cdot v$$

Por ejemplo, imagina el escenario anterior con una ligera modificación. En lugar de preguntarte dónde vivir, nuestro joven adulto tenía un trabajo menos agitado que le permitía hacer su propio horario, ¡algo más razonable que trabajar 7 días a la semana! En este caso, podrían querer hacer una cierta cantidad de visitas a cada ubicación de modo que la distancia total recorrida, basada en cualquier ubicación, sea directamente proporcional a la cantidad de viajes que deseas hacer. Suena un poco idealista, sin embargo, es genial para la planificación semanal.

Generalización

Hablando en términos generales, la situación que involucró fue un grafo ponderado. Cada arista estaba ponderada con la distancia entre vértices. Cada vértice representaba una ubicación. La Matriz de Distancia, con aplicaciones, es simplemente la matriz de adyacencia del grafo con los pesos incluidos.

Usando esto, podemos definir nuevas situaciones utilizando gráficos. De hecho, también hay otros publicaciones que tratan sobre el significado de los valores propios de la matriz de adyacencia. Por ejemplo, mira aquí.