Claro, es válido para otras distribuciones. Los ejemplos habituales, además de la Normal, son la Exponencial y la Poisson. El único parámetro en ambas distribuciones está definido por la media y la varianza (que están relacionadas en ambos casos). Para la distribución Chi-cuadrado, el parámetro existente, llamado "grados de libertad", es la media, y la varianza es el doble del valor de este parámetro.
Pero esta propiedad no se cumple para todas (o la mayoría) de las distribuciones, como has dicho correctamente. Algunas distribuciones ni siquiera tienen definido un valor esperado finito y/o una varianza. Se puede comprobar fácilmente, por ejemplo, que una distribución simple como $$f(x)=\frac{1}{x^2}\ \ \text{for}\ \ x\in[1,\infty), 0\ \ \text{otherwise},$$ no tiene valor esperado finito, ya que la integral utilizada para calcularla no converge.
En algunos casos, la expresión de la distribución con sus parámetros, que son el valor esperado y la varianza (o desviación estándar), puede requerir algunas reflexiones. Por ejemplo, se puede expresar la distribución Uniforme, más a menudo expresada simplemente indicando los límites $a$ y $b$ , por $$f(x)=\frac{1}{2\sigma \sqrt{3}}\ \text{for}\ \ x\in [\mu-\sigma\sqrt{3},\mu+\sigma\sqrt{3}]\ \text{and}\ 0\ \text{otherwise}.$$ Un caso interesante es este: si $X$ tiene Log-Normal( $\mu$ , $\sigma$ ), los parámetros $\mu$ y $\sigma$ que aparece en la representación habitual no son el valor esperado y la desviación estándar para $X$ . Son el valor esperado y la varianza para $Y=\ln X$ . En este caso, sin embargo, se puede expresar $\mu$ y $\sigma$ en términos de $E(X)$ y $V(X)$ .