(Ampliado a partir de mis comentarios, con correcciones del día siguiente incorporadas a mi respuesta inicial)
NOTA: Dejemos que $C(f)$ y $\Delta(f)$ sean los conjuntos de puntos de continuidad y diferenciabilidad finita, respectivamente, de la función $f.$
Teorema: $\;{\mathbb R} - \Delta(f) \;$ es $\;G_{\delta \sigma}$
En primer lugar, la respuesta aceptada de Henning Makholm a ¿Las funciones continuas son diferenciables en un conjunto medible? muestra que $\Delta(f)$ es $G_{\delta \sigma \delta},$ como tú correctamente declarado.
Para completar la información, hay que tener en cuenta que Henning Makholm escribió
$$\forall\varepsilon:\exists \delta:\exists Y:\forall h: |h| < \delta \Rightarrow |F(x,h) - Y| < \varepsilon$$ $[\ldots]$
Para cada elección particular de $\varepsilon$ , $\delta$ , $Y$ y $h$ el conjunto de $x$ tal que $|h| < \delta\Rightarrow |F(x,h)-Y| < \varepsilon$ está abierto $[\ldots]$
Así, obtenemos
$$\begin{array} {} & {\forall h} & {} & {\exists \delta \; \exists Y} & {} & {\forall \varepsilon} & {} \\ {\text{open}} & {\longrightarrow} & {G_{\delta}} & {\longrightarrow} & {G_{\delta \sigma}} & {\longrightarrow} & {G_{\delta \sigma \delta}} \\ {} & {\cap} & {} & {\cup \cup} & {} & {\cap} & {} \\ \end{array} $$
Por lo tanto, $\Delta(f)$ es $G_{\delta \sigma \delta}.$ Por lo tanto, tomando el complemento, vemos que ${\mathbb R} - \Delta(f)$ es $F_{\sigma \delta \sigma}$ (según los cálculos estándar de las leyes de De Morgan).
Sin embargo, podemos reducir la complejidad de una clase entera de Borel organizando las cosas de manera que empecemos con conjuntos cerrados. En concreto, sustituyendo $|F(x,h)-Y| < \varepsilon$ con $|F(x,h)-Y| \leq \varepsilon$ (que no cambia el conjunto de puntos implicados), obtenemos $$\forall\varepsilon:\exists \delta:\exists Y:\forall h: |h| < \delta \Rightarrow |F(x,h) - Y| \leq \varepsilon$$ lo que lleva a $$\begin{array} {} & {\forall h} & {} & {\exists \delta \; \exists Y} & {} & {\forall \varepsilon} & {} \\ {\text{closed}} & {\longrightarrow} & {\text{closed}} & {\longrightarrow} & {F_{\sigma}} & {\longrightarrow} & {F_{\sigma \delta}} \\ {} & {\cap} & {} & {\cup \cup} & {} & {\cap} & {} \\ \end{array} $$ Esto nos permite reforzar el resultado: El conjunto de puntos de diferenciabilidad finita es $F_{\sigma \delta},$ y por lo tanto ${\mathbb R} - \Delta(f)$ es $G_{\delta \sigma}.$
Resultados de Converse
De mi respuesta a ¿Las funciones continuas son diferenciables en un conjunto medible? se deduce que cualquier $G_{\delta}$ puede ser un ${\mathbb R} - \Delta(f)$ conjunto, y se deduce que cualquier medida de Lebesgue cero $G_{\delta \sigma}$ puede ser un ${\mathbb R} - \Delta(f)$ conjunto. Más generalmente, la unión de dos conjuntos cualesquiera puede ser un ${\mathbb R} - \Delta(f)$ conjunto, además de que todas estas conversaciones se pueden obtener utilizando funciones continuas. Estoy casi seguro de que alguna medida positiva $G_{\delta \sigma}$ conjuntos no puede ser un ${\mathbb R} - \Delta(f)$ conjunto (incluso si utilizamos funciones discontinuas), pero por el momento no tengo una referencia o un ejemplo que ofrecer.
(AÑADIDO AL DÍA SIGUIENTE) Esta mañana he revisado algunos documentos y otros artículos en casa, y la lista de referencias ordenada cronológicamente que figura a continuación consiste en algunos de los artículos más relevantes que he encontrado. Más adelante podría retomar este hilo y proporcionar descripciones de lo que se ha demostrado y/o afirmado en los artículos (excepto los largos artículos de estudio), pero por ahora publicaré la lista sin descripciones para otros que puedan estar interesados. Por ejemplo, Zahorski (1941, 1946) demuestra la caracterización de ${\mathbb R} - \Delta(f)$ se establece cuando $f$ es continua, y Brudno (1943) extiende esto a funciones arbitrarias, con la condición adicional de que existe una $G_{\delta}$ conjunto situado entre (relación de subconjunto) el conjunto más pequeño ${\mathbb R} - C(f)$ (conjunto de puntos de discontinuidad) y el conjunto mayor ${\mathbb R} - \Delta(f)$ (conjunto de puntos de diferenciabilidad no finita). Mencionaré de paso que el resultado de Brudno incluye el hecho a menudo redescubierto (véase el final de [14] aquí ) que si el conjunto de puntos de discontinuidad de una función es denso, entonces el conjunto de puntos de diferenciabilidad no finita de la función es co-meta (complemento de un conjunto de primera categoría Baire).
Una respuesta (con pruebas) a la pregunta de Ian
La pregunta original era si existe una $G_{\delta \sigma}$ conjunto que no es un ${\mathbb R} - \Delta(f)$ conjunto. Resulta que Zahorski responde a esta pregunta al final de su artículo de 1946 (y probablemente también al final de su artículo de 1941, pero no sé leer ruso). De hecho, Zahorski (en la página 178 de su artículo de 1946) muestra incluso que existen $F_{\sigma}$ conjuntos que no son ${\mathbb R} - \Delta(f)$ conjuntos, que es un resultado mucho más fuerte. (El $G_{\delta \sigma}$ conjuntos incluyen todos los $F_{\sigma}$ y muchos otros conjuntos). Aquí está el argumento de Zahorski, ampliado sustancialmente.
Dejemos que $E \subseteq {\mathbb R}$ sea $F_{\sigma}$ y la primera categoría de Baire en ${\mathbb R}$ con la propiedad de que $E \cap I$ tiene medida de Lebesgue positiva para todo intervalo abierto $I.$ Una forma de obtener dicho conjunto es elegir un conjunto cerrado no denso con medida positiva de cada intervalo abierto acotado en $\mathbb R$ con puntos finales racionales, y luego tomar la unión de estos conjuntos cerrados no densos en ninguna parte. Afirmo que $E$ no puede escribirse como la unión de un $G_{\delta}$ conjunto y una medida cero $G_{\delta \sigma}$ y por lo tanto $E$ no puede ser un ${\mathbb R} - \Delta(f)$ conjunto. Para una contradicción posterior, supongamos $E = H \cup Z,$ donde $H$ es un $G_{\delta}$ y $Z$ tiene medida cero. (Ni siquiera necesitaré utilizar el hecho de que $Z$ es un $G_{\delta \sigma}$ set). A continuación, $H$ tiene un intersección de medidas positivas con cada intervalo abierto (porque $E$ tiene esta propiedad y $Z$ tiene medida cero). Una consecuencia muy débil de esto es que $H$ tiene un intersección no vacía con cada intervalo abierto, y por lo tanto $H$ es denso en ${\mathbb R}.$ Así, $H$ es un denso $G_{\delta}$ subconjunto de ${\mathbb R},$ lo que implica que $H$ no es un subconjunto de primera categoría de ${\mathbb R},$ y ahora tenemos una contradicción porque inicialmente asumimos que $H$ era un conjunto de primera categoría.
Lista cronológica de referencias
Zygmunt Zahorski, Sobre el conjunto de puntos de no diferenciabilidad de una función continua [Sobre los conjuntos de no diferenciabilidad de las funciones continuas], Matematiceskii Sbornik (N.S.) 9(51) #3 (1941), 487-510.
A. Brudno, Continuidad y diferenciabilidad [Continuidad y diferenciabilidad], Matematiceskii Sbornik (N.S.) 13(55) #1 (1943), 119-134.
Zygmunt Zahorski, Sobre el conjunto de puntos de no derivabilidad de una función continua [Sobre el conjunto de puntos de no diferenciabilidad de una función continua], Boletín de la Sociedad Matemática de Francia 74 (1946), 147-178.
E. M. Landis, Sobre el conjunto de puntos de existencia de una derivada infinita (Ruso), Doklady Akademii Nauk SSSR (= Actas de la Academia de Ciencias de la URSS) (N.S.) 107 (1956), 202-204.
V. M. Tsodyks [Tzodiks, Codyks], En conjuntos de puntos donde la derivada es correspondientemente finita o infinita (Ruso), Doklady Akademii Nauk SSSR (= Actas de la Academia de Ciencias de la URSS) (N.S.) 113 (1957), 36-38.
V. M. Tsodyks [Tzodiks, Codyks], En conjuntos de puntos donde la derivada es correspondientemente finita o infinita (Ruso), Doklady Akademii Nauk SSSR (= Actas de la Academia de Ciencias de la URSS) (N.S.) 114 (1957), 1174-1176.
V. M. Tsodyks [Tzodiks, Codyks], En los conjuntos de puntos donde la derivada es igual, respectivamente $+\infty$ и $-\infty$ [En conjuntos de puntos donde la derivada es respectivamente igual a $+\infty$ o $-\infty$ ], Matematiceskii Sbornik (N.S.) 43(85) #4 (1957), 429-450.
Salomón Marcus, Puntos de discontinuidad y puntos de diferenciabilidad (Ruso), Academia de la República Popular Rumana. Revista de Matemáticas Puras y Aplicadas [ después de 1963 Romanian Journal of Pure and Applied Mathematics] 2 (1957), 471-474.
Salomón Marcus, Sobre las propiedades diferenciales de las funciones cuyos puntos de continuidad forman un conjunto denso en todas partes de la frontera [Sobre las propiedades de diferenciabilidad de las funciones cuyos puntos de continuidad forman un conjunto denso de frontera], Anales científicos de la Escuela Normal Superior (3) 79 #1 (1962), 1-21.
Andrew Michael Bruckner y John Lander Leonard, Derivados , Boletín Mensual de Matemáticas de Estados Unidos 73 #4 (abril de 1966) [Parte II: Papers in Analysis, Herbert Ellsworth Slaught Memorial Papers #11], 24-56. [Véase la segunda mitad de la p. 39.]
George Piranian, El conjunto de no diferenciabilidad de una función continua , Boletín Mensual de Matemáticas de Estados Unidos 73 #4 (abril de 1966) [Parte II: Papers in Analysis, Herbert Ellsworth Slaught Memorial Papers #11], 57-61.
L. I. Kaplan, La posición mutua de los conjuntos donde la derivada es finita e infinita , Revista Matemática de Siberia 18 #4 (julio-agosto de 1977), 570-581.
L. I. Kaplan, Puntos de discontinuidad de una función y puntos donde existe una derivada infinita , Estudios matemáticos rusos 35 #6 (1980), 97-98.
L. I. Kaplan, Puntos de continuidad de una función y puntos donde hay una derivada finita y otra infinita , Estudios matemáticos rusos 36 #5 (1981), 155-156.
L. I. Kaplan, Puntos de continuidad de una función y puntos de existencia de la derivada finita e infinita , Revista Matemática de Siberia 24 #6 (Nov.-Dic. 1983), 876-889.
Bogusław Kaczmarski, Sobre el conjunto de puntos en los que una función no tiene derivada unilateral , Demonstratio Mathematica 18 #4 (1985), 1127-1141.
Bogusław Kaczmarski, Sobre la categoría y el tipo de Borel del conjunto de puntos de indiferenciabilidad unilateral , Demonstratio Mathematica 22 #2 (1989), 441-460.
Bogusław Kaczmarski, Sobre la medida y el tipo de Borel del conjunto de puntos de indiferenciabilidad unilateral , Demonstratio Mathematica 23 #1 (1990), 267-270.
Bogusław Kaczmarski, Los conjuntos en los que una función tiene infinitas derivadas unilaterales , Bolsa de Análisis Real 16 #2 (1990-1991), 421-424.
Bogusław Kaczmarski, Sobre los conjuntos donde una función continua tiene infinitas derivadas unilaterales , Bolsa de Análisis Real 23 #1 (1997-1998), 343-356.
0 votos
@DaveL.Renfro Si publica algo en ese sentido como respuesta, lo aceptaré. (Aunque un ejemplo de una función cuyos puntos de diferenciabilidad no forman un $G_\delta$ sería muy interesante).
0 votos
Borro mis dos primeros comentarios aquí, y mi primer comentario en mi respuesta, porque creo que podrían ser una distracción demasiado confusa para otros que vengan a esta página en el futuro, a la luz del hecho de que utilicé (por accidente) el símbolo $D(f)$ para denotar el complemento lo que utilizó $D(f)$ para denotar.