Esto no es una solución, sino más bien un poco de historia sobre el problema que he descubierto mientras miraba a través de mi "biblioteca" personal esta mañana y de algunas breves búsquedas en línea justo ahora. [2] parece dar una prueba rigurosa de un resultado un poco más general, y puedo enviar por correo electrónico a cualquier persona interesada una copia en .pdf de [2] . Mi dirección de correo electrónico figura en mi perfil de stackexchange. En particular, animo a alguien a utilizar este documento para escribir una prueba cuidadosa del resultado, preferiblemente una prueba para el caso específico sobre el que s.harp preguntó (lo que disminuirá el desorden notacional que implica tratar con generalizaciones adicionales dadas en [2] ).
Como mencioné en un comentario anterior, esto es básicamente el Problema 1 de la p. 2 del libro de Bishop/Crittenden de 1964 Geometría de los colectores .
Maury Barbato preguntó cómo hacer el problema Bishop/Crittenden en un 29 de octubre de 2009 sci.math post . Ese hilo de sci.math tiene otras 16 entradas, incluidas entradas de varios participantes muy respetables de sci.math, y nadie fue capaz de presentar una prueba rigurosa. Maury Barbato hizo un post de seguimiento en 12 de noviembre de 2009 donde dijo que el problema sigue sin resolverse para él.
Esta mañana he encontrado los dos artículos siguientes en mis carpetas de documentos sobre este tema.
[1] Nota editorial, Funciones infinitamente diferenciables que no son analíticas en ninguna parte [Solución al problema avanzado nº 5061], American Mathematical Monthly 70 nº 10 (diciembre de 1963), 1109.
Nota editorial. I. N. Baker demuestra que la siguiente función $F(x)$ es infinitamente diferenciable pero no analítica en cualquier punto del eje real: $\sum_{n=1}^{\infty}2^{-n}f_n(x),$ donde $f(x) = \exp(-1/x^2),$ $x \neq 0,$ $f(0)=0,$ y $f_n(x) = f(x - p_n),$ con $p_n$ los números racionales en una secuencia. Hay muchos ejemplos en la literatura. Los lectores citan las siguientes referencias: $[[\cdots]]$
[2] Paweł Grzegorz Walczak, Demostración de un teorema sobre la $C^{\infty}$ -funciones de una variable que no son analíticas , Demonstratio Mathematica 4 #4 (1972), 209-213. MR 49 #504; Zbl 253.26011
(desde la parte superior de la p. 212) Como corolario del teorema demostramos que una función bien conocida definida por la fórmula (2) cuando $r$ es el conjunto de todos los números racionales y
$$\varphi(x)=\begin{cases} e^{-\frac{1}{x}} & \text{ when } x > 0 \\ 0 & \text{ when } x \leq 0 \end{cases}$$
es un $C^{\infty}$ -que no es analítica en ningún punto de $R.$
El artículo de Walczak sólo tiene dos referencias: la edición rusa de 1950 del libro de Markushevich "Theory of Analytic Functions" y el libro de Bishop/Crittenden de 1964 "Geometry of Manifolds". El libro de Markushevich sólo se cita por un hecho estándar sobre los límites de las magnitudes de las derivadas de una función que es analítica en un intervalo abierto acotado especificado. Que yo sepa, el libro de Bishop/Crittenden no se cita en ninguna parte, lo que sospecho que fue un error de edición en el borrador final del artículo. Mi suposición es que el artículo de Walczak surgió de un proyecto estudiantil para demostrar rigurosamente la afirmación del Problema 1 de la página 2 del libro de Bishop/Crittenden, aunque el artículo no menciona explícitamente su propósito (aparte de indicar lo que hay que demostrar). He enviado un correo electrónico a Walczak preguntándole qué le llevó a escribir el artículo, y le pondré al día si recibo una respuesta suya.
Estoy bastante seguro de que Bishop/Crittenden subestimaron la dificultad de su Problema 1. De hecho, cuando se reimprimió su libro (con correcciones) por AMS Chelsea en 2001 El problema 1 se sustituyó por
$$f(x) \; = \; \sum_{n=1}^{\infty} 2^{-2^{n}}\exp\left(-\csc^2\left(2^{n}x\right)\right)$$
junto con el comentario " Esta sustitución del problema planteado en la primera edición fue formulada por Eric Bedford, de la Universidad de Indiana. "
(ACTUALIZACIÓN AL DÍA SIGUIENTE) Paweł Walczak me ha contestado y mi suposición sobre el origen y el contexto de su artículo era correcta. Para aquellos que puedan estar interesados, a continuación se describe lo que se demuestra en el documento. En lo que sigue he tratado de transmitir exactamente lo que se hace matemáticamente, pero la redacción es mía y difiere bastante de la redacción original.
El artículo de Walczak demuestra el siguiente resultado y, a continuación, ofrece una ilustración específica del mismo. (Aquí utilizo ${\mathbb R},$ $Q,$ ${\delta},$ donde Walczak utiliza $R,$ $r,$ ${\delta}_{0}$ pero por lo demás la notación es esencialmente la misma). Sea $Q = \{r_1,r_2,r_3,\ldots \}$ sea un subconjunto infinito contablemente indexado inyectivamente de ${\mathbb R}$ (es decir $i \neq j$ implica $r_i \neq r_{j})$ y que $\{a_n \}$ sea una secuencia de números reales distintos de cero tal que $\sum_{n=1}^{\infty}|a_n| < \infty.$ Sea $\varphi : {\mathbb R} \rightarrow {\mathbb R}$ estar limitada en $\mathbb R$ y $C^{\infty}$ en $\mathbb R$ y real-analítica en ${\mathbb R} - \{0\}.$ Supongamos que existe $\delta > 0$ y $A > 0$ y $L > 0$ tal que, para cada $x \in \mathbb R$ con $|x| > A$ y para cada $k \in \{0,1,2,\ldots\},$ tenemos $|\varphi^{(k)}(x)| < L \cdot k! \cdot {\delta}^{-k}.$ Por último, defina $f: {\mathbb R} \rightarrow {\mathbb R}$ por $f(x) = \sum_{n=1}^{\infty}a_{n}\varphi(x-r_{n}).$ Entonces $f$ es $C^{\infty}$ en cada $x \in {\mathbb R},$ y $f$ es real-analítica en cada $x \in {\mathbb R} - \overline{Q},$ y $f$ NO es real-analítica en cada $x \in \overline{Q},$ donde $\overline{Q}$ es el cierre topológico de $Q$ en ${\mathbb R}.$
Como corolario Walczak muestra que los supuestos anteriores se cumplen si dejamos que $Q = \mathbb Q$ y $\varphi(x)=\begin{cases} e^{-\frac{1}{x}} & \text{ when } x > 0 \\ 0 & \text{ when } x \leq 0. \end{cases}$ Haciendo esto obtenemos una función $f:{\mathbb R} \rightarrow {\mathbb R}$ es decir $C^{\infty}$ y en ninguna parte real-analítica. En efecto, como menciona Walczak al final de la p. 211, dado cualquier conjunto cerrado (infinito) $E \subseteq \mathbb R$ (el caso para conjuntos cerrados finitos es fácil sin el resultado de Walczak) y dejando que $Q$ sea un subconjunto denso contable de $E,$ podemos obtener un $C^{\infty}$ función $f: {\mathbb R} \rightarrow {\mathbb R}$ que es real-analítica en cada $x \in {\mathbb R} - E$ y NO real-analítica en cada $x \in E.$
(2 DÍAS DESPUÉS DE LA ÚLTIMA ACTUALIZACIÓN) Hace un par de días, poco después de mi última actualización, envié un correo electrónico a Eric Bedford en el que le mencionaba esta página web de stackexchange y le preguntaba si tenía algo que añadir a lo que he escrito. Bedford dijo que durante el otoño de 1969 o la primavera de 1970 (en el otoño de 1970 comenzó la escuela de posgrado en la Universidad de Michigan) trabajó a través de una gran parte del libro de Bishop / Crittenden 1964 en un curso de lectura con Bishop, y en este momento se le ocurrió una función de reemplazo para el Problema 1. En realidad no dijo si la función que se le ocurrió entonces es la misma que aparece en la edición de 2001 del libro. Sin embargo, sospecho firmemente que era la misma función, porque la función que aparece en el libro de 2001 es esencialmente la misma función que he escrito en un trozo de papel (que me ha llevado más de una hora localizar esta mañana, por cierto) que me dio en su despacho en otoño de 1982, uno o dos días después de que yo le preguntara en una reunión de clase (un curso de análisis complejo de posgrado del primer semestre que yo estaba recibiendo de él en aquel momento) si existe una función que sea $C^{\infty}$ y en ninguna parte analítica. Acababa de darnos la $\exp(-1/x^2)$ ejemplo en clase, y me pareció natural preguntarme si un $C^{\infty}$ puede ser analítica en ninguna parte (por analogía con el hecho de que una función continua puede ser diferenciable en ninguna parte). Creo recordar que, cuando le hice la pregunta, dijo algo así como que estaba bastante seguro de que tenía un ejemplo, pero que no recordaba la formulación exacta y que tenía que buscarla en su despacho.
Por si sirve de algo, aquí está la formulación exacta -los mismos símbolos y símbolos de agrupación y demás- de lo que aparece en este trozo de papel de otoño de 1982:
$$f(x) \; = \; \sum_{n=0}^{\infty} 2^{-2^{n}}\exp\left[\frac{-1}{\left(\sin\left(2^{n}x\right)\right)^{2}}\right]$$
