No, $f'(x)$ no puede tener discontinuidades simples.
Teorema
Dejemos que $f(x)$ sea diferenciable en algún intervalo $(a,b)$ y continua en $[a,b]$ .
Si $\lim_{x \to a^+}f'(x)$ existe, entonces es igual a $f'_+(a)$ (la derivada derecha), lo mismo para la derivada izquierda. (Lo demostraré a continuación)
Consecuencia:
Porque una simple discontinuidad en $c\in(a,b)$ implica la existencia de límites laterales $\lim_{x \to c^+}f'(x)$ y $\lim_{x \to c^-}f'(x)$ y porque $f$ es diferenciable en $c \ $ $\left(f'_+(c) = f'_-(c) = f'(c)\right)$ se deduce del teorema anterior que
$$\lim_{x \to c^+}f'(x) = f'_+(c) = f'(c) = f'_-(c) = \lim_{x \to c^-}f'(x)$$
Y así $f'$ no puede tener una simple discontinuidad.
Prueba del teorema anterior: $$ f'_+(a) = \lim_{h \to 0^+}\frac{f(a + h) - f(a)}{h}, $$
Ahora bien, si se aplica el MVT en el intervalo $[a,a+h]$ ,
\begin {Ecuación} \frac {f(a + h) - f(a)}{h} = f'(a +h \theta ) \end {Ecuación}
donde $\theta \in (0,1)$
Porque $\lim_{x \to a^+}f'(x) = L$ existe,
$$ \lim_{h \to 0^+}f'(a +h\theta) = L = \lim_{h \to 0^+}\frac{f(a + h) - f(a)}{h} = f'_+(a) $$