¿Qué es la convolución intuitivamente?

Question

Si la variable aleatoria $X$ tiene una distribución de probabilidad de $f(x)$ y la variable aleatoria $Y$ tiene una distribución de probabilidad $g(x)$ entonces $(f*g)(x)$ la convolución de $f$ y $g$ es la distribución de probabilidad de $X+Y$ . Esta es la única intuición que tengo de lo que significa la convolución.

¿Existen otros modelos intuitivos para el proceso de convolución?

Answer 1

Las dos cosas que primero me vienen a la mente cuando pienso en "convolución" son:

1. Es lo que corresponde a la multiplicación en el otro lado de la transformada de Fourier. (Esto ya fue mencionado por John D. Cook) Funciona en ambos sentidos, por supuesto, $\mathcal F (f*g)=\mathcal F f\cdot \mathcal F g$ y $\mathcal F (f\cdot g)=\mathcal F f* \mathcal F g$ . Este hecho es útil cuando se utiliza en combinación con otros hechos simples sobre la transformada de Fourier (como el hecho de que una función rectangular corresponde a sinc y, en el límite, un impulso de Dirac corresponde a una función constante).

2. Imagina una caja negra que recibe un número $x_n$ cada segundo y debe emitir un número $y_n$ cada segundo. ( DSP La gente lo llama "filtro" y se utiliza, por ejemplo, para procesar señales de audio en un teléfono móvil en tiempo real). Lo más sencillo que podría hacer la caja es dar salida a alguna función de la entrada actual. El siguiente paso natural es recordar la última k entradas y salida alguna función de esas k valores. Una de las funciones más simples es una combinación lineal $$y_n=\sum_i c_i x_{n-i}$$ donde $c_i$ es distinto de cero sólo para $0\le i<k$ . ¡Eso es una convolución! Para generalizar, haces que el filtro recuerde todos los valores anteriores e incluso que sea clarividente. Es decir, amplías el soporte de $[c_n]$ . Luego, si quieres, sustituyes los circuitos digitales por los analógicos. Es decir, se pasa de la suma a la integración.

Como ejemplo de la combinación de estos dos puntos, si el filtro siempre emite la media del último k entradas entonces eso es una convolución con la función rectangular en el dominio del tiempo por lo que debe ser una multiplicación con un sinc en el dominio de la frecuencia. Por lo tanto, promediando el último k atenúa las frecuencias altas. (Difícilmente sorprendente, pero al menos se ve inmediatamente que la respuesta en frecuencia no es monótona y sólo hay unas pocas frecuencias que son completamente filtrado).

Answer 2

Quiero ampliar un caso especial de la respuesta de Terry que me parece especialmente intuitivo.

Supongamos que existe una función $f$ que quieres entender, pero tal vez no es suave. La convolución te da una forma de construir nuevas funciones, posiblemente más agradables, que se aproximan $f$ .

Si dejas que $g$ sea una función de protuberancia centrada en el origen, entonces la convolución $f*g$ es una nueva función cuyo valor en $x$ viene dada por la media de los valores de $f$ alrededor de $x$ . ¿Qué queremos decir exactamente con "promediar"? Bueno, se utiliza $g$ como su medida; trasládela para que esté centrada en $x$ y luego la integral $$f * g(x) = \int_{\mathbb{R}^n} f(y)g(x-y) \, dy$$ en la convolución corresponde al $g$ -media ponderada de los valores de $f$ alrededor de $x$ (es decir, en la bola pequeña donde $g$ no desaparece).

La convolución $f*g$ en este caso tiene la ventaja de que es mucho más suave que $f$ . Intuitivamente, esto no debería sorprender ya que el valor de $f*g(x)$ se obtuvo al promediar las cercanías $f$ -valores de $x$ . Además, se puede aproximar $f$ suavizando las cosas al considerar una secuencia de convoluciones $f*(g_n)$ donde $g_n$ es una secuencia de funciones de protuberancia que se concentran cada vez más en el origen.

Si se piensa en la segunda función $g$ en la convolución $f*g$ como medida, entonces se puede pensar en las circunvoluciones como $g$ -medias ponderadas de $f$ .

Answer 3

El teorema fundamental del cálculo dice que $\frac{d}{dx} \displaystyle \int_a^x f(t)dt = f(x)$ . En otras palabras, $f(x) \approx \displaystyle \int_{x-h}^{x+h} \frac{1}{2h} f(t)dt$ . Dejar $g_h(u) = \frac{1}{2h}$ en el intervalo $(-h,h)$ y 0 en otros lugares, vemos por pura manipulación algebraica que $f(x) \approx \displaystyle \int_{-\infty}^\infty g_h(x-t)f(t)dt$ . Por lo tanto, el teorema fundamental del cálculo puede reformularse de forma muy natural en términos de convolución con una función de protuberancia. La diferenciación bajo el signo de la integral da inmediatamente la fórmula de diferenciación para las convoluciones, y por tanto que las convoluciones de dos funciones son al menos tan suaves como ambos factores. Por lo tanto, encontrar buenas aproximaciones suaves a las funciones de protuberancia rectangulares $g_h$ nos da automáticamente aproximaciones suaves a cualquier función integrable que queramos, simplemente convolucionando contra estos "molificadores suaves". Una cosa muy buena. Como se ha mencionado en otras respuestas, realmente empiezan a brillar cuando empiezas a pensar en el análisis de Fourier, pero eso es otra historia. Si buscamos en Google "filtro de paso bajo" encontraremos algunas aplicaciones muy interesantes del hecho de que la transformada de Fourier convierte la convolución en multiplicación.

Answer 4

Me gusta la respuesta que has dado cuando has hecho la pregunta. De forma más general, la convolución de dos medidas $\mu$ y $\nu$ es el pushforward de $\mu \times \nu$ por adición. En probabilidad, eso significa que se extrae independientemente de $\mu$ y $\nu$ y añadir el vector aleatorio resultante. Es algo que se puede visualizar hasta cierto punto si se piensa en las medidas como versiones difusas de los puntos (como dijo Terry Tao).

Un punto de vista de las medidas es que son combinaciones lineales de puntos (o límites de cosas que se pueden obtener a partir de combinaciones lineales de puntos). Si se adopta este punto de vista, entonces la convolución es simplemente la extensión de la ley de adición por linealidad al caso de las medidas.

Dado que se pueden trasladar funciones así como medidas, se puede convulsionar, por ejemplo, una medida de probabilidad con una función trasladando aleatoriamente la función, dando la función promediada $\int f(x-y) d\mu(y)$ que generalmente parece una versión suavizada de su función $f$ -- $\mu$ le indica qué traducciones utiliza y cómo promediar. De nuevo, puedes ver esto como la extensión de la operación de traslación de funciones por linealidad/continuidad al caso de las medidas.

La medida de Lebesgue permite identificar funciones con medidas, $g \mapsto g(x) dx$ También se pueden convulsionar funciones con otras funciones, pero se puede pensar que esta operación es un poco menos básica.

En realidad, el proceso de convolución se extiende por continuidad no sólo a las medidas sino también a las distribuciones. Por ejemplo, se puede aproximar un vector tangente a $0$ (dando la distribución $u(x) = \sum_i c^i \partial_i \delta_0$ ) por diferencias de masas puntuales, por lo que la convolución se extiende también a las distribuciones, pero incluso se pueden obtener operadores diferenciales de esta manera (en este ejemplo, $u \ast f$ es la derivada de $f$ en el $u$ dirección). La diferencia técnica aquí es que la aproximación sólo es válida cuando se integra contra $C^k$ (en lugar de $C^0$ funciones en el caso de las medidas). Pero el principio es el mismo: es la extensión de la ley de adición por linealidad y límites.

Answer 5

Tal vez ayude a tu intuición pensar primero en el caso discreto, en el que la convolución es una suma en lugar de una integral. (f*g)(x) es la suma de f(i) g(j) sobre todos los (i, j) que suman x.

O tal vez se pueda pensar en la convolución como una especie de multiplicación. La convolución convierte ciertos espacios de funciones en álgebras.

O puedes pensar en términos de transformadas de Fourier: la transformada de Fourier de f*g es el producto de las transformadas de Fourier de f y g.