Hay una ambigüedad en su pregunta. Supongo que te refieres a $f(x)$ es countinous en todas partes, pero en $x=0$ y diferenciable en todas partes, pero en $x=0$. En este caso lo que has dicho y a la inversa de lo que usted dice puede ser violado.
Te doy algunos ejemplos. Considere la siguiente función
$$f(x) = \left\{ \matriz{
{x^2}\sin ({1 \over x})\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x \ne 0 \hfill \cr
0\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x = 0 \hfill \cr} \right.$$
Es derivado es
$$f'(x) = \left\{ \matriz{
2x\sin ({1 \over x})\, - \cos ({1 \over x})\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x \ne 0 \hfill \cr
0\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x = 0 \hfill \cr} \right.$$
Usted puede simplemente ver que $f'(0)$ existen desde
$$f'(0) = \mathop {\lim }\limits_{x \to 0} {{f(x) - f(0)} \over {x - 0}} = \mathop {\lim }\limits_{x \to 0} {{f(x)} \over x} = \mathop {\lim }\limits_{x \to 0} {{{x^2}\sin ({1 \over x})} \over x} = \mathop {\lim }\limits_{x \to 0} x\sin ({1 \over x}) = 0$$
pero $\mathop {\lim f'(x)}\limits_{x \to 0} $ no existe. Por lo tanto, la existencia de $f'(0)$ no implica la existencia de $\mathop {\lim f'(x)}\limits_{x \to 0} $.
La viceversa también puede suceder, es decir, $\mathop {\lim f'(x)}\limits_{x \to 0} $ existe sino $f'(0)$ no existe. Para este caso se puede considerar la siguiente función
$$f(x) = \left\{ \matriz{
\sin (x)\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x \ne 0 \hfill \cr
1\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,x = 0 \hfill \cr} \right.$$
que es una función discontinua en $x=0$ y, por tanto, $f'(0)$ no existe, sino que simplemente se puede comprobar que $\mathop {\lim f'(x)}\limits_{x \to 0} $ existe.