Recuerde que una definición de la frase "$f:D\to \mathbb{R}$ es diferenciable en $d\in D$" es que el límite $\displaystyle\lim_{x\to d}\frac{f(x)-f(d)}{x-d}$ existe. Tenemos que desempaquetar esto un poco para llegar a tu pregunta.
La definición usual de un límite de una función $g:D\to\mathbb{R}$ es que $\displaystyle\lim_{x\to d}g(x) = L$ si para todos los $\varepsilon$-bolas $B_R$ centradas en $L$ existe una $\delta$-bola $B_D$ centrada en $d$ tal que $g(B_D-\{d\})\subseteq B_R.
Finalmente, recuerda que una $\alpha$-bola centrada en $a$ en $A$ es un conjunto $\{p: d_A(p,a)<\alpha\}$. En nuestro caso, estamos considerando $a=d$ y $A=[-5,5]$, entonces una $\delta$-bola centrada en $d$ es de hecho el conjunto $(5-\delta, 5]$.
Entonces, volviendo a través de las capas, eso significa que la frase "$f:D\to \mathbb{R}$ es diferenciable en $5\in [-5,5]$" significa que hay algún $L$ tal que para cada conjunto $B_R=(L-\frac12\varepsilon,L+\frac12\varepsilon)$ existe un conjunto $B_D=(5-\delta,5]$ tal que para cada $x\in B_D, el número real $\displaystyle\frac{f(x)-f(5)}{x-5}$ está en $B_R$.
No veo razón por la cual tal definición deba encontrar dificultades, diría que una derivada se puede definir en el límite de un espacio métrico. Sin embargo, debemos ser cuidadosos con esto: si tenemos una función definida en $\mathbb{R}$ y restringimos su dominio a un conjunto $A$ con límites, la restricción puede tener una derivada en un punto límite$-$ esto no implica que la función original tenga una derivada allí, por razones de la bidireccionalidad que mencionaron otros respondientes.
En resumen, es posible que para cada $\varepsilon$ exista un conjunto $(5-\delta, 5]$ tal que se cumpla la condición deseada, pero para algunos $\varepsilon$ puede no existir un conjunto $(5-\delta, 5+\delta)$ donde se cumpla la misma condición. Parece que esto implicaría que la función hace algunas tonterías a la derecha de 5, pero usualmente así es como pensamos en el comportamiento de funciones no diferenciables de todos modos, así que espero que no cause demasiada tensión imaginarlo. (Para un ejemplo más 'bien comportado', considera $|x|$ en los dominios $[-1,0]$ versus $[-1,1]$).
En cuanto a la segunda pregunta, no puedo darte una explicación tan detallada con certeza, pero imagino que la respuesta es sí, y el formalismo funciona de forma muy similar a la demostración del teorema de Fermat para puntos estacionarios.
1 votos
Puedes estudiar el límite $\lim\limits_{h\to 0^-}\frac{f(5+h)-f(5)}{h}$.
0 votos
@EricStucky, no entiendo lo que quieres decir acerca de la respuesta de nbubis. Vamos a trasladar esta conversación a los comentarios debajo de la pregunta real.
0 votos
Básicamente, solo necesitas entender bien las definiciones de "diferenciable" y "derivada". Además, el hecho de que [-5,5] sea compacto (cerrado y acotado) facilita el manejo de las cosas.