¿Hay variaciones en aproximaciones de mínimos cuadrados?

Question

En menos plazas aproximaciones de las ecuaciones normales ley para proyectar un vector existente en el espacio N-dimensional en un menor espacio tridimensional, donde nuestro problema reside realmente, proporcionando así la "mejor" solución que podemos esperar (la proyección ortogonal de los N-vectores en nuestro espacio de solución). La "mejor" solución es la que minimiza la distancia Euclidiana (dos-norma) entre los N-dimensional de vectores y la disminución de espacio tridimensional.

Existen otras normas y otros espacios además de a$\mathbb{R}^d$, ¿cuáles son los análogos de mínimos cuadrados, bajo otra norma, o en un espacio diferente?

Answer 1

Los casos generalmente tratados aparte de mínimos cuadrados son una norma y norma infinito (Chebyshev) casos; ellos surgen en la aproximación de la función por ejemplo.

Generalmente ambos son resueltos mediante técnicas de programación lineales.

Answer 2

Regresión, menos suma de criterio plazas intentó montar su función a través de la media de los datos. En otras palabras, con suficientes grados de libertad, valor de la función equipada para x será que el promedio de todos los valores observados en x lo menos suma de valores absolutos en lugar de otro produce una función que irá a través de la mediana de los valores observados. Alguna discusión sobre este

Answer 3

Seguro, hay variaciones en mínimos cuadrados aproximados.

Aquí está una ingeniería de respuesta (no es realmente un puro respuesta de matemáticas): En un proyecto que hice en mi empresa, hemos tenido un modelo térmico que se aproxime a la térmica de la función de transferencia de potencia medidos a la temperatura del dispositivo. El costo del error en la dirección positiva (subestimación de la temperatura) fue peor que el costo de el mismo error en la dirección negativa (sobreestimación de la temperatura) --, así que utiliza una función de ponderación que fue (K * error ^ 2) donde K es 1 negativo de temperatura de error y mayor que 1 (por ejemplo, 1,5 o 2) para temperatura positiva de error.

Se pensó en utilizar la más complicada de las asignaciones (10 grados subestimar mucho peor que el de 1 grado subestimar), pero no quieren ir allí... supongo que esto tiene algo de lo analógico a una función de utilidad (por ejemplo, se espera obtener un beneficio monetario de un sistema con un resultado aleatorio ha asignación no lineal a la "felicidad" o "la compañía"), donde la no linealidad es la introducción deliberada.

Se podría hacer algo similar para la aproximación de funciones con polinomios: un ajuste de mínimos cuadrados trata de error de una manera lineal, pero puede haber lugares en la función (por ejemplo, en los extremos o en el centro) donde minimizando el error es más o menos importante.