Sí, eso puede ocurrir. El ejemplo canónico (que yo sepa) es el Fabius función que es suave y nada analítica.
Nunca me gustó esta respuesta porque es difícil - si no totalmente imposible encontrar referencias en línea acerca de cómo probar la nonanalyticity de $Fb$. Así que aquí es una breve exposición sobre un ejemplo diferente adaptada a partir de la discusión archivada en este archivo de texto.
Introducción
Los estudiantes a menudo ver
$$ f(x) = \begin{cases}
\exp(-\tfrac{1}{x}) & \text{for } x > 0 \\\\
0 & \text{for } x \leq 0
\end{casos}$$
como un ejemplo de una función suave que no es analítica en $0$, pero esta tan bien como los otros habitual ejemplos hace que sea muy fácil intuir que las funciones lisas son "en su mayoría analítica", es decir, en todas partes analítica, excepto posiblemente en algunos puntos aislados. Y dado que este es el único ejemplo que uno ve típicamente este es, de hecho, una cosa razonable para creer. Pero sin embargo hay un montón de ejemplos por ahí - por ejemplo, las siguientes:
Ejemplo
Definir $F: \mathbb{R} \to \mathbb{C}$ por
$$ F(x) := \sum_{n=0}^\infty \frac{\exp(i2^nx)}{n!}. $$
Teorema: $F$ $\Re F$ , la parte real de la $F$, son suaves en ninguna parte de la analítica de funciones.
Prueba: la Computación de los derivados de la $F$ tenemos
$$ F^{(k)}(x) = \sum_{n=0}^\infty \frac{\exp(i2^nx)(i2^n)^k}{n!}, $$
que es uniformemente convergente en todas partes, por lo que es continua y no hay problemas con el traslado de la diferenciación en virtud de la suma. En otras palabras $F$ $\Re F$ son lisas. Además, tenemos que
$$ F^{(k)}(0) = \sum_{n=0}^\infty \frac{(i2^n)^k}{n!} = i^k \exp(2^k). $$
El Cauchy-Hadamard fórmula para el radio de convergencia, $r$, para la serie de Taylor para $F$ da $x=0$ con las habituales convenciones acerca de los infinitos que
$$ \frac{1}{r} = \limsup_{k \to \infty} \left\lvert \frac{F^{(k)}(0)}{k!}\right\rvert^{1/k} = \limsup_{k \to \infty} \left(\frac{\exp(2^k)}{k!} \right)^{1/k} = \infty, $$
y por lo $r = 0$. El mismo será cierto para $\Re f$ como la indexado partes de $\Re F$ tiene la misma magnitud que los de $F$. $F$ es $2\pi$-periódico, por lo que el mismo es verdadero para todos los $x$ que es un múltiplo entero de $2\pi$. Por otra parte podemos ver que si nos tiramos la primera $p$ términos, obtenemos una función con período de $\omega = \frac{2\pi}{2^p}$ y con puntos de no-analiticidad en todos los múltiplos enteros de $\omega$. Por lo tanto $F$ $\Re F$ también debe ser nonanalytic en estos puntos y llegamos a la conclusión de que el conjunto de puntos donde las dos funciones son nonanalytic es denso en $\mathbb{R}$.
Finalmente, observe que si una función es analítica en un punto debe ser analítico en un barrio de ese punto, por lo tanto no hay posible abrir conjuntos de donde $F$ $\Re F$ puede ser analítico, es decir, que son suaves en ninguna parte de la analítica de funciones. $\;\square$
Buenas Preguntas para Reflexionar
Supongamos $\Omega \subseteq \mathbb{R}^n$ está abierto.
Hay un $f \in C^\infty(\mathbb{R}^n)$ tal que $\Omega$ es su locus de analiticidad?
Son las funciones analíticas en algún momento de la primera categoría en $C^\infty(\Omega)$?