distancia de un punto a un hiperplano

Question

Tengo un hiperplano n-dimensional: $w'x + b = 0$ y un punto $x_0$ . La distancia más corta de este punto a un hiperplano es $d = \frac{|w \cdot x_0+ b|}{||w||}$ . No tengo ningún problema en demostrar esto para un espacio de 2 y 3 dimensiones utilizando manipulaciones algebraicas, pero no consigo hacerlo para un espacio de n dimensiones. ¿Alguien puede dar una buena explicación?

Answer 1

Hay muchas formas de resolver este problema. En principio, se pueden utilizar multiplicadores de Lagrange y resolver un gran sistema de ecuaciones, pero mi intento de hacerlo se topó con un obstáculo. Sin embargo, puesto que está trabajando en $\mathbb{R}^n$ tenemos el privilegio de la proyección ortogonal mediante el producto punto. Para ello necesitamos construir un vector desde el plano a $x_0$ para proyectar sobre un vector perpendicular al plano. A continuación, calculamos el longitud de la proyección para determinar la distancia del plano al punto.

En primer lugar, se tiene un hiperplano afín definido por $w \cdot x + b=0$ y un punto $x_0$ . Supongamos que $X \in \mathbb{R}^n$ es un punto que cumple $w \cdot X+b=0$ es decir, es un punto del plano. Debes construir el vector $x_0 - X$ que apunta desde $X$ à $x_0$ para poder proyectarlo sobre el vector único perpendicular al avión. Algún razonamiento rápido debería decirte que este vector es, de hecho, $w$ . Así que queremos calcular $\| \text{proj}_{w} (x_0-X)\|$ . Algunas fórmulas prácticas nos dan $$ d=\| \text{proj}_{w} (x_0-X)\| = \left\| \frac{(x_0-X)\cdot w}{w \cdot w} w \right\| = |x_0 \cdot w - X \cdot w|\frac{\|w\|}{\|w\|^2} = \frac{|x_0 \cdot w - X \cdot w|}{\|w\|}$$ Elegimos $X$ tal que $w\cdot X=-b$ por lo que obtenemos $$ d=\| \text{proj}_{w} (x_0-X)\| = \frac{|x_0 \cdot w +b|}{\|w\|} $$ como desee.

Esto casi parece trampa y puramente heurística basada en la geometría euclidiana. De hecho, yo estaría más satisfecho con una solución a través de multiplicadores de Lagrange, ya que no habría requerido el hecho de que $\mathbb{R}^n$ tiene un producto interior y sólo necesitaba la topología de $\mathbb{R}^n$ en su lugar. Pero tenemos el producto interior, así que quizá la geometría nos baste esta vez.

Para que este argumento sea más concreto, debes realizar cada paso en $\mathbb{R}^2$ para una línea $y=mx+b$ y un punto $(x_0,y_0)$ .

Answer 2

He aquí una solución basada en el multiplicador de Lagrange.

El objetivo es minimizar $ (x_0 - x)'(x_0 - x) $ sujeto a $ w'x + b = 0 $

El lagrangiano es $ (x_0 - x)'(x_0 - x) - L(w'x + b) $

La derivada del Lagrangiano es $ 2(x_0 - x) - Lw = 0 $

Punto con $ w $ obtenemos $ 2w'(x_0 - x) - Lw'w = 0 \implies L = \frac{2w'(x_0 - x)}{w'w} $

Punto con $ (x_0 - x) $ obtenemos $ 2(x_0 - x)'(x_0 - x) - L(x_0 - x)'w = 0 \implies 2(x_0 - x)'(x_0 - x) = \frac{2w'(x_0 - x)}{w'w} (x_0 - x)'w \implies (x_0 - x)'(x_0 - x) = \frac{\left(w'(x_0 - x)\right)^2}{w'w} \implies (x_0 - x)'(x_0 - x) = \frac{\left(w'x_0 + b\right)^2}{w'w} $

Sacando la raíz cuadrada obtenemos la respuesta que queríamos.

Answer 3

El problema tiene una solución sencilla mediante geometría elemental. En efecto, consideremos la recta por $x_0$ y paralelo al vector $w$ a saber $L := \{x_0 + tw \mid t \in \mathbb R\} \subseteq \mathbb R^n$ . Esta línea corta su hiperplano cuando $w^\top(x_0+tw) + b = 0$ es decir $t = -(w^\top x_0 + b)/\|w\|^2$ . La distancia entre este punto de intersección y el punto de partida $x_0$ es $$ d := \|x_0 + tw - x_0\| = \|tw\|=|t|\|w\| = \frac{|w^\top x_0+b|}{\|w\|^2}\cdot\|w\| = \frac{|w^\top x_0 + b|}{\|w\|}, $$ como se afirma.