Armar su primera ecuación y la primera igualdad en el segundo, se esentially llegar
$$ p=P( X/Y \le z)= \int_0^\infty \int_0^u f_{X,Y}(x,y) \, dx \, dy, \hspace{1cm} u=u(y)=zy \tag{1}$$
que está a la derecha, de curso (no es necesario usar un condicional para que, a pesar de que).
Su problema en lo que se sigue es la de que la mezcla total de productos derivados con derivadas parciales.
Cuando escribimos (en general) en la fórmula
$$ \frac{d F_{X,Y}(x,y)}{dy } = \int_{-\infty}^x f_{X,Y}(x',y) dx' \tag{2}$$
estamos asumiendo implícitamente que la derivada se realiza mediante la variación de $y$ y manteniendo $x$ constante, es decir, en realidad es una derivada parcial. Cuando las variables tienen algunos arbitraria de dependencia funcional, se debe ser más cuidadoso y escribir que la derivada parcial de forma explícita:
$$ \frac{\partial F_{X,Y}(u,v)}{\partial v } = \int_{-\infty}^u f_{X,Y}(u',v) \, du' \tag{3}$$
En nuestro caso, conectar $(3)$ a $(1)$ tenemos
$$p= \int_0^\infty \frac{\partial F_{X,Y}(u,y)}{\partial y } dy \tag{4} $$
con $u=u(y)=zy $. Ahora, el integrando no es un total de derivados, por lo tanto no se puede aplicar el teorema fundamental del cálculo directamente. La relación es de
$$ \frac{d F_{X,Y}(u,y)}{d y } = \frac{\partial F_{X,Y}(u,y)}{\partial u } \frac{du}{dy}+
\frac{\partial F_{X,Y}(u,y)}{\partial y } = \frac{\partial F_{X,Y}(u,y)}{\partial u } z +
\frac{\partial F_{X,Y}(u,y)}{\partial y } \etiqueta{5}$$
Se puede aislar a partir de esta ecuación integral en $(4)$ y reemplazar... pero obtendrá algo similar (probablemente no más sencillo) de $(1)$.
