Creo que ya has hecho la mayor parte del trabajo. Voy a escribir detalles para mis propios ejercicios.
Para una distribución Beta con parámetro $m,n$
$f(x)=\frac{x^{m-1}(1-x)^{n-1}}{B(m,n)},x\in (0,1)\\ B(m,n)=\frac{\Gamma(m)\Gamma(n)}{\Gamma(m+n)}$
Sea $U=X+Y$ y $V=Y$
Entonces $X=U-V$ y $Y=V$
$|J|=\begin{vmatrix} \frac{\partial x}{\partial u} & \frac{\partial x}{\partial v}\\ \frac{\partial y}{\partial u} & \frac{\partial y}{\partial v} \end{vmatrix}=\begin{vmatrix} 1& -1\\ 0 & 1 \end{vmatrix}=1$
Desde $X$ y $Y$ son variables aleatorias independientes con $Beta$ distribución,
$\therefore f(x,y)=\frac{x^{m-1}(1-x)^{n-1}}{B(m,n)}\frac{y^{m-1}(1-y)^{n-1}}{B(m,n)}$
$\therefore g(u,v)=\frac{(u-v)^{m-1}(1-u+v)^{n-1}}{B(m,n)}\frac{v^{m-1}(1-v)^{n-1}}{B(m,n)}$
Esto es exactamente igual a lo que tienes.
Lo siguiente es integrar $v$ entonces obtendremos el pdf de $u$ entonces obtendremos la distribución de $X+Y$ .
$$g(u)=\int_0^1g(u,v)dv=\int_0^1 \frac{(u-v)^{m-1}(1-u+v)^{n-1}}{B(m,n)}\frac{v^{m-1}(1-v)^{n-1}}{B(m,n)}dv\\=\frac{1}{B^2(m,n)}\int_0^1 (u-v)^{m-1}(1-u+v)^{n-1}v^{m-1}(1-v)^{n-1}dv\\=\frac{1}{B^2(m,n)}\int_0^1 [(u-v)v]^{m-1}[(1-u+v)(1-v)]^{n-1}dv$$
Ok, tengo que parar aquí. Sólo encontrar una solución a esta distribución.
Manual de distribución beta y sus aplicaciones véase la página 70.