En cuanto a su última pregunta, la expresión $\delta'$ como una función, es decir $\delta': x \mapsto \delta'(x-x_0)$ siendo este último un valor cualquiera, no está definido y, por lo tanto, no tiene sentido. Esto se debe al hecho (bien explicado en la respuesta anterior) de que no podemos dar sentido a $\delta'$ como un objeto puntual; en su lugar, la única forma de entender su acción es emparejándolo con una función.
Más generell, dada cierta distribución $\psi$ es decir, una función lineal continua que actúa sobre el espacio de funciones de prueba clásico $C_c^{\infty}$ la derivada $d\backslash dx \psi$ NO es (en general) algo que se pueda evaluar puntualmente, sino en sí misma sólo una distribución, la que actúa sobre $f \in C_c^{\infty}$ siendo dado como $$d\backslash dx \psi (f) = -\psi (d\backslash dx f).$$ Obsérvese que el lado derecho es significativo, ya que $\psi$ es una función lineal continua en $C_c^{\infty}$ y $f$ es, por elección, un elemento de ese espacio. Además, esta definición (!) es coherente con el caso suave, es decir, si $\psi$ y $f$ son funciones suaves con soporte compacto (piense: ¡integración por partes!) Puedes pensar: Las distribuciones son en cierto sentido "demasiado aproximadas" para ser evaluadas puntualmente (a diferencia de las funciones clásicas $u: \mathbb{R}^d \to \mathbb{R}$ ), sólo se les puede encontrar sentido a través de una "lente más gruesa", a través de su acción sobre funciones muy buenas. Por supuesto, cualquier función razonable (en este sentido, "razonable" $:= L_{loc}^1$ ) también es una distribución, a grandes rasgos: Un objeto que puede estudiarse con una lente fina (es decir, puntual) también puede estudiarse con una lente más gruesa.
Ahora la distribución delta desplazada $\delta(x-x_0)$ es una distribución y nada mejor (es decir, no es una función propiamente dicha), por lo que todo lo dicho anteriormente se aplica a ella y responde a su pregunta sobre $\delta'$ - Espero :)
