Para tu problema particular, puede haber una solución sencilla en términos de, por ejemplo, la ley de Snell, como sugiere Hagen en los comentarios anteriores. Pero déjame que te cuente un poco cómo se resuelven este tipo de problemas en general.
La técnica general para resolver este tipo de problemas de optimización es la Cálculo de Variaciones . La idea básica es la siguiente: usted está buscando en todos los caminos $y(x)$ de $y(0)=0$ a $y(1)=1$ y tratar de encontrar la que minimice el tiempo total de viaje $$T(\gamma)=\int_0^1 \frac{\sqrt{1+y'^2}}{1-\frac{3}{4} y}dx.$$
(Podemos suponer que el camino es un grafo sobre $x$ ya que, obviamente, es una mala idea volver a la carga).
¿Cómo se hace esto? Bien, supongamos que tienes un camino mejor $y$ . Consideremos ahora la posibilidad de perturbar la trayectoria desplazando cada punto a lo largo de la misma mediante algún vector de desplazamiento $\delta y(x)$ . Como los puntos finales de la ruta son fijos, debe tener $\delta y(0) = \delta y(1) = 0$ . Para cada escalar $\epsilon$ la curva perturbada $y + \epsilon \delta y$ debe tardar más en viajar que $y$ ya que $y$ es el mejor camino. En otras palabras, para cada $\delta y$ , $\epsilon=0$ es un punto crítico del escalar función $$F(\epsilon) = T(y+\epsilon\delta y)$$ así que $$\frac{d}{d\epsilon} T(y+\epsilon\delta y)\Bigg\vert_{\epsilon=0} = 0.$$
Por ahora podemos escribir $T$ más generalmente como $\int_0^1 g(y,y')\,dx$ . Tomando la derivada anterior obtenemos $$\int_0^1 \left(g_y \delta y + g_{y'} (\delta y)'\right)\,dx=0.$$ El truco ahora es que puedes librarte de la dependencia de $(\delta \gamma)'$ mediante la integración por partes: $$\int_0^1 \frac{d}{dx} \left(g_{y'}\delta y\right)\,dx = \int_0^1 \left(\frac{d}{dx}g_{y'}\right)\delta y\,dx + \int_0^1 g_{y'}(\delta y)'\,dx$$ y la izquierda es cero ya que $\delta\gamma(1) = \delta\gamma(0) = 0.$ Si lo introducimos, obtenemos la ecuación $$\int_0^1 \left(g_y - \frac{d}{dx}g_{y'}\right)\delta y\,dx = 0.$$ El paso clave es que lo anterior tiene que ser válido para cada perturbación $\delta y$ . La única manera de que lo anterior sea siempre cero, para cualquier $\delta y$ incluyendo aquellas perturbaciones que son cero excepto en vecindades arbitrariamente pequeñas de cualquier punto en $[0,1]$ es si lo que está entre paréntesis, que no depende de $\delta y$ es cero: $$\frac{d}{dx} g_{y'} = g_y,$$ una ecuación diferencial ordinaria llamada Ecuaciones de Euler-Lagrange de su problema variacional.
Ahora $$\frac{d}{dx}\left(y' g_{y'}\right) = y''g_{y'} + y' \frac{d}{dx}g_{y'},$$ y al introducir la ecuación de Euler-Lagrange obtenemos $$\frac{d}{dx}\left(y' g_{y'}\right) = y''g_{y'} + y' g_y = \frac{d}{dx}g.$$
Integrando ambos lados por $x$ nos da $$y' g_{y'} = C + g$$ para alguna constante $C$ . Para nuestro particular $g$ , $$\frac{y'^2}{\left(1-\frac{3}{4}y\right)\sqrt{1+y'^2}} = C + \frac{\sqrt{1+y'^2}}{1-\frac{3}{4} y}.$$ Despejando el denominador, las cosas se simplifican a $$1 = -C\left(1-\frac{3}{4}y\right)\sqrt{1+y'^2}$$ o, como $y'\geq 0$ , $$y' = \sqrt{\frac{1}{C^2\left(1-\frac{3}{4}y\right)^2}-1}.$$
Esta es ahora una EDO de primer orden separable; resolviéndola y utilizando las condiciones iniciales $y(0)=0$ le da una familia de curvas de un parámetro de $(0,0)$ a $(1,1)$ y se puede encontrar el más corto diferenciando $T(\gamma)$ en función de $C$ y encontrar el óptimo $C$ .