Aquí es cómo la solución,
$$ I=\iiint_V x^{a-1}y^{b-1}z^{c-1}\,dx\,dy\,dz = \int_{0}^{1}x^{a-1}dx\int_{0}^{1-x}y^{b-1}dy\int_{0}^{1-x-y}z^{c-1}dz $$
Añadió:
$$I = \frac{1}{c}\int_{0}^{1}x^{a-1}dx\int_{0}^{1-x}y^{b-1}(1-x-y)^c\,dy $$
Mediante el cambio de variables $t=\frac{y}{1-x}$ y la beta de la función después de factorizando $(1-x)$, tenemos
$$ I = \frac{1}{c}{\frac{\Gamma\left( c \right) \Gamma
\left( b \right) }{\Gamma\left(c+b+1 \right) }}
\int_{0}^{1}x^{- 1}(1-x)^{c+b}\,dx $$
$$ I = {\frac{\Gamma\left( c \right) \Gamma
\left( b \right) }{\Gamma\left(c+b+1 \right) }}\frac{\Gamma(a)\Gamma(c+b+1)}{\Gamma(a+b+c+1)} = \frac{\Gamma(a)\Gamma(b)\Gamma(c)}{\Gamma(a+b+c+1)}.$$
Nota: La función beta se define como
$$ \beta(x,y) = \int_0^1t^{x-1}(1-t)^{y-1}\,dt \!,\quad \textrm{Re}(x), \textrm{Re}(y) > 0.\, $$