Estás comenzando muy bien, de hecho. Esta es una aplicación del teorema de Frobenius.
Voy a escribir lo que has hecho en general por claridad y para potencialmente servir como referencia ya que esta es una vieja pregunta que estoy respondiendo.
Comenzamos con una 1-forma no nula $\omega$ en $\mathbb{R}^m$. En el contexto del teorema de Frobenius, $\omega$ define una distribución de dimensión $(m-1)$, a saber,
$$\mathcal{E}^{m-1} = \{v \in TR^m: \omega(v)=0 \},$$
en $\mathbb{R}^m$. La tarea es entonces determinar la variedad integral para esta distribución. En este caso, el teorema de Frobenius nos dice que nuestra distribución será integrable si la 3-forma $d\omega \wedge \omega$ se anula.
Esto es en realidad muy bueno en el caso $m=2$, ya que se puede demostrar que esta 3-forma se anula trivialmente (basado en consideraciones puramente algebraicas), y luego hay un teorema que asegura la existencia local de un factor integrante. Así que esto nos pone al día con por qué tu ecuación (3) está en el camino correcto. Esto es lo que has hecho en general:
Supongamos que tenemos la siguiente ecuación diferencial en $\mathbb{R}^2$,
$$M(x,y) + N(x,y) y' = 0.$$
Cerca de un punto $(x_0,y_0) \in \mathbb{R}^2$ donde $M$ y $N$ no se anulan simultáneamente, podemos definir $$\omega = M dx + N dy$$ y dejemos que $u(x,y)$ denote su factor integrante. Las curvas solución a la ecuación diferencial total
$$(u \cdot M)(x,y) + (u \cdot N)(x,y) y' = 0,$
se dan de manera implícita por la ecuación $g(x,y) = constante$, donde $dg = u \cdot \omega$. Entonces podemos intentar determinar $u$ a través de la ecuación $d(u \cdot \omega)=0$. Notamos que $d(u \cdot \omega) = du \wedge \omega + u \cdot d\omega$, y por lo tanto el anulamiento de esta forma es equivalente a
$$\frac{\partial u}{\partial x} N - \frac{\partial u}{\partial y} M = u \left(\frac{\partial M}{\partial y} - \frac{\partial N}{\partial x}\right).$$
Esta es tu ecuación (3). :)
Para resolver esto, dividiremos por $u$ (lo cual es seguro de hacer ya que nuestro factor integrante debe ser distinto de cero), y buscaremos una solución separable de nuestro factor integrante. Para ello, permitamos
$$G(x) = \dfrac{u_x}{u} \quad \text{y} \quad F(y)=\dfrac{u_y}{u}.$$
Dado que $\frac{d}{dx}(\log(u)) = G(x)$, y $\frac{d}{dy}(\log(u)) = F(y),$ vemos que
$$u(x,y)= e^{\int{G(x) dx}}e^{\int{F(y) dy}}.$$
Terminemos ahora tu ejemplo. Usando las definiciones anteriores, tenemos por (3)
$$F(y) (y-xy^2) - G(x)(x+x^2 y^2) = 2x y^2 + 2x y. \tag{$*$}$$
Esto es bastante feo de resolver, y no conozco una técnica general, así que aquí está lo que hice. Dado que todo aparece como potencias, podemos intentar dejar $G(x) = b x^{\beta}$, y $F(y) = a y^{\alpha}$. Sustituimos esto en $(*)$, y diferenciamos con respecto a $y$ dos veces, y con respecto a $x$ dos veces, respectivamente. Entonces tenemos cuatro ecuaciones algebraicas en $a,b,\alpha,\beta$. Resolviendo este sistema, descubrimos una solución no trivial $a=-2$, $b=-2$, $\alpha = -1$, y $\beta = -1$. Por lo tanto tenemos que $G(x) = -2/x$ y $F(y) = -2/y$, así que de hecho
$$u(x,y) = \dfrac{1}{x^2 y^2}.$$
Algunas notas adicionales:
Una distribución ($k$-dimensional) $\mathcal{E}^k = \{E^k(x)\}$ es una colección de subespacios de dimensión $k$ del fibrado tangente, $E^k(x) \subset T_xR^m$.
Existe una noción de una distribución que depende suavemente de un punto a otro que básicamente requiere la existencia de campos vectoriales suaves que formen una base para la distribución. Así que se asume que tenemos un subespacio suave, y la pregunta entonces es "¿Cuándo existe una subvariedad $k$-dimensional (llamada la variedad integral de la distribución tangente) cuyo espacio tangente coincide con la distribución dada?"
Esta es esencialmente una generalización muy importante del teorema fundamental de los campos a subvariedades de mayor dimensión. Se recomienda Lee para una gran introducción a estas ideas.
Encontré Análisis Global de Agricola y Friedrich como una buena referencia para el teorema de Frobenius y recomiendo trabajar en los problemas del final del capítulo para practicar si estás interesado en este teorema. Frobenius abarca el capítulo 4, al cual podrías saltar directamente sin necesidad de leer los capítulos anteriores si has tomado algún tipo de curso introductorio en geometría diferencial. ¡Muchas gracias por darme la oportunidad de escribir esto! :)
0 votos
Por lo general, al intentar resolver ecuaciones diferenciales parciales de primer orden como la que tienes en el paso 3, se suele usar el método de las características. Sin embargo, parece que esto no da un problema tratable en tu caso; tu ecuación tiene una solución particular $u(x,y)=(xy)^{-2}$ que parece ser mucho más simple que la solución general. Si alguien conoce un procedimiento sistemático para encontrar esta solución particular, también estaría interesado en aprender sobre ello.
0 votos
@HansLundmark He añadido una respuesta reciente a esta pregunta. :)
0 votos
@Gerry Myerson ¿Hay alguna razón por la cual la etiqueta de geometría diferencial no fue incluida? Creo que definitivamente es una etiqueta apropiada considerando mi respuesta. ¡Saludos!
0 votos
Lo eliminé porque no había geometría diferencial en la declaración de la pregunta, y porque es poco probable que los estudiantes que se encuentran con factores de integración por primera vez sepan algo sobre 1-formas, variedades integrales, etc., etc. Pero entiendo tu punto, y volveré a poner la etiqueta.
0 votos
@GerryMyerson Ah, entiendo tu punto también. ¡Gracias!
0 votos
La solución general es bastante no trivial: wolframalpha.com/input/…