¿Es la similitud coseno idéntica a la distancia euclídea normalizada l2?

Question

Idéntico es decir, que producirá resultados idénticos para una clasificación de similitud entre un vector u y un conjunto de vectores V .

Tengo un modelo de espacio vectorial que tiene como parámetros la medida de distancia (distancia euclídea, similitud coseno) y la técnica de normalización (ninguna, l1, l2). Según tengo entendido, los resultados de los parámetros [coseno, ninguno] deberían ser idénticos o, al menos, muy similares a los de [euclídeo, l2], pero no lo son.

En realidad, es muy posible que el sistema siga teniendo fallos, ¿o tengo algún error crítico sobre los vectores?

edit: Olvidé mencionar que los vectores se basan en el recuento de palabras de los documentos de un corpus. Dado un documento de consulta (que también transformo en un vector de recuento de palabras), quiero encontrar el documento de mi corpus que sea más similar a él.

Calcular su distancia euclídea es una medida sencilla, pero en el tipo de tarea en el que trabajo, a menudo se prefiere la similitud coseno como indicador de similitud, porque los vectores que sólo difieren en longitud siguen considerándose iguales. El documento con la menor distancia/semejanza coseno se considera el más similar.

Answer 1

Para $\ell^2$ -vectores normalizados $\mathbf{x}, \mathbf{y}$ , $$||\mathbf{x}||_2 = ||\mathbf{y}||_2 = 1,$$ tenemos que el al cuadrado La distancia euclidiana es proporcional a la distancia coseno , \begin{align} ||\mathbf{x} - \mathbf{y}||_2^2 &= (\mathbf{x} - \mathbf{y})^\top (\mathbf{x} - \mathbf{y}) \\ &= \mathbf{x}^\top \mathbf{x} - 2 \mathbf{x}^\top \mathbf{y} + \mathbf{y}^\top \mathbf{y} \\ &= 2 - 2\mathbf{x}^\top \mathbf{y} \\ &= 2 - 2 \cos\angle(\mathbf{x}, \mathbf{y}) \end{align} Es decir, aunque normalizara los datos y su algoritmo fuera invariable a la escala de las distancias, seguiría esperando diferencias debido a la cuadratura.

Answer 2

La similitud coseno estándar se define del siguiente modo en un espacio euclidiano, suponiendo vectores columna $\mathbf{u}$ y $\mathbf{v}$ : $$ \cos(\mathbf{u}, \mathbf{v}) = \frac{\langle \mathbf{u}, \mathbf{v} \rangle}{\|\mathbf{u}\| \cdot \|\mathbf{v}\|} = \frac{\mathbf{u}^T\mathbf{v}}{\|\mathbf{u}\| \cdot \|\mathbf{v}\|} \in [-1, 1]. $$ Esto se reduce al producto interior estándar si los vectores están normalizados a norma unitaria (en l2). En la minería de texto este tipo de normalización no es inaudito, pero yo no lo consideraría el estándar.