¿Es imposible empaquetar demasiada información en el espacio de funciones suficientemente suaves?

Question

La versión básica de mi pregunta es: ¿tengo razón en que no existe una secuencia infinita de funciones mutuamente ortogonales $f_i\colon[0,1]\to\mathbb R$ que sean suficientemente suaves, por ejemplo, Lipschitz-continuas con la misma constante? Mi vaga intuición es que la existencia de una secuencia infinita de este tipo exigiría empaquetar demasiada información en el espacio de esas funciones, lo que no debería ser posible.

La versión completa es: para una variable aleatoria uniforme $x\sim U[0,1]$ y una sucesión de funciones suficientemente suaves $f_i(x)$ para $i=1,\dots$ ¿en qué condiciones $Var(f_i(x))\ge a>0$ , $\frac{1}{n^2}\sum_{i,j=1}^n\left|Cov(f_i(x),f_j(x))\right|$ no puede converger a cero ya que $n\to\infty$ . La intuición de nuevo es que uno no puede tener covarianzas demasiado cerca de cero para todos, pero una pequeña fracción de los pares de estas funciones suaves. (Demostrando esto para un multivariante general $x$ sería aún mejor. O limitarse a funciones monótonas, de forma que todas las covarianzas sean no negativas, también podría ser suficiente).

Gracias por sus comentarios.

Answer 1

(en todas partes abajo $\|\cdot\|$ indica $L_2$ norma)

Si usted, similar a la versión completa, requiere que $\|f_i\| \geq a > 0$ entonces no es posible.

Para simplificar, supongamos que la constante de Lipschitz de cada función es como máximo $1$ y $a < 1$ . Entonces si la función cambia de signo, su valor absoluto es como máximo $1$ en cada punto. Y todas las funciones tienen que cambiar de signo, menos dos (porque dos funciones positivas en todas partes o dos negativas en todas partes no son ortogonales). Descartándolas, tenemos ahora una secuencia infinita de funciones, cada una de las cuales toma valores absolutos de a lo sumo $1$ .

Sea $h(x) = \lceil x / \varepsilon\rceil \cdot \varepsilon$ - redondeo con precisión de $\varepsilon$ . Sea $g_i(x) = h(f_i(h(x)))$ - función simple que toma valores $n\varepsilon$ que representa el "redondeo" de $f$ tanto por argumento como por valor.

Tenga en cuenta que $\|g_i - f_i\| < 3\varepsilon$ (debido a la restricción de Lipschitz) y $|g_i(x)| < 1 + 2 \varepsilon$ .

Toma $\varepsilon = a / 8$ . Hay un número finito de posibles $g_i$ por lo que tenemos $g_i = g_j$ para algunos $i, j$ .

Ahora, tenemos $$2 (f_i, f_j) = \|f_i\|^2 + \|f_j\|^2 - \|f_i - f_j\|^2\geq\\ 2a^2 - \|f_i - g_i + g_i - g_j + g_j - f_j\|^2 \geq \\ 2a^2 - (\|f_i - g_i\| + \|g_i - g_j\| + \|g_j - f_j\|)^2 \geq \\ 2a^2 - (3a / 8 + 0 + 3a / 8)^2 > 22/16 a^2 > 0$$