La igualdad es cierta siempre que se cumpla un supuesto adicional.
Sea $z_0 = 0$ (como se da a entender, pero no se afirma, en la pregunta). Entonces, aplicando el Teorema del Valor Medio para integrales de Lebesgue-Stieltjes de la forma $\int g(z) dF(z)$ el lado derecho puede analizarse como
$$\eqalign{ \mathbb{E}\left(\frac{\partial f(z,\theta)}{\partial \theta}\right) &= \int_0^\infty\frac{\partial f(z,\theta)}{\partial \theta} dF(z,\theta) \\ &= \sum_{i=1}^n \int_{z_{i-1}}^{z_i}\frac{\partial f(z,\theta)}{\partial \theta} dF(z,\theta) \\ &= \sum_{i=1}^n \left(F(z_i, \theta) - F(z_{i-1}, \theta)\right)\frac{\partial}{\partial\theta}f(z_i^{*},\theta) \\ &= \sum_{i=1}^n \left(\frac{i}{n} - \frac{i-1}{n}\right)\frac{\partial}{\partial\theta}f(z_i^{*},\theta) \\ &= \frac{1}{n}\sum_{i=1}^n \frac{\partial}{\partial\theta}f(z_i^{*},\theta) }$$
donde cada $z_i^{*} \in [z_{i-1}, z_{i}]$ .
Examinemos ahora el lado izquierdo, invocando de nuevo la MVT (y suponiendo la continuidad de $F$ para poder reordenar las derivadas parciales mixtas):
$$\eqalign{ &\frac{1}{z_i - z_{i-1}} \left(\frac{\partial}{\partial\theta}F(z_i,\theta) -\frac{\partial}{\partial\theta}F(z_{i-1},\theta)\right) \\ &= \frac{\partial}{\partial z}\frac{\partial}{\partial\theta} F(z_{i}^{**}, \theta) = \frac{\partial}{\partial \theta}\frac{\partial}{\partial z} F(z_{i}^{**}, \theta) \\ &= \frac{\partial}{\partial \theta}f(z_{i}^{**}, \theta). }$$
donde cada $z_i^{**} \in [z_{i-1}, z_{i}]$ .
Por tanto, la diferencia entre los lados izquierdo y derecho es igual a
$$\frac{1}{n}\sum_{i=1}^n \left(\frac{\partial}{\partial \theta}f(z_{i}^{**}, \theta) - \frac{\partial}{\partial \theta}f(z_{i}^{*}, \theta)\right).$$
¿Qué se necesita para que su límite sea cero como $n\to \infty$ ? Un criterio sencillo (pero no necesario) es que para cada $\theta$ , $\frac{\partial}{\partial\theta}f(z,\theta)$ debe ser de variación limitada porque, como se deduce inmediatamente de la definición, la magnitud de la diferencia no supera $1/n$ veces la variación total de $\frac{\partial}{\partial\theta}f(z,\theta)$ de donde su límite sería $0$ ( QED ).
En efecto, este análisis sugiere contraejemplos a la afirmación original. Todo lo que necesitamos hacer es construir una familia de distribuciones donde estas derivadas de la densidad (con respecto al parámetro $\theta$ ) crecen sin límites en el dominio $z\in(0,\infty)$ . Una de estas familias, por $\theta\in (0,1)$ es
$$f(z, \theta) = z^{-\theta} - 1, 0 \le z \le 1; \ f(z,\theta) = 0 \text{ otherwise}.$$
$F(z,\theta)$ es continuamente diferenciable en $z$ para $z \in (0,\infty)$ . Si se desea hacer $F$ diferenciable en $z=0$ también, entonces habría que construir un contraejemplo más complicado, pero la idea debería estar clara.
Parcelas de $f(z,\theta)$ para $\theta\in \{2/3, 1/2, 1/3\}$ se superponen en este gráfico.
Surge un problema inmediato: $\partial F(z_0, \theta) / \partial \theta$ ni siquiera está definido. No podemos esperar que el lado izquierdo tenga siquiera sentido, y mucho menos que se equipare al lado derecho -que es finito (igual a $\frac{1}{(1-2 \theta )^2}-\frac{1}{(\theta -1)^2}$ ) cuando $0 \lt \theta \lt 1/2$ .