Este no es un tema que entiendas a menos que sepas algo de análisis a nivel de posgrado, ¡así que no te sientas mal!
Se trata de un tipo especial de ecuación denominada ecuación integral de "Estocolmo". Se plantean en muchas áreas de la ingeniería y la física, y son un tema matemático muy interesante en sí mismo.
En general, una integral de Fredholm se escribe de la siguiente forma:
$u(x)=f(x)+\lambda \int_{a}^{b}K(x,y)u(y)dy$ . El problema es que te dan una función $f(x)$ y otra función $K(x,y)$ y su objetivo es resolver para $u(x)$ .
Ahora vamos a discutir primero $K(x,y)$ . Esto es algo llamado el "Kernel", y la solución de la Ecuación Integral depende en gran medida de este Kernel. Ahora la notación del Kernel $K(x,y)$ puede llevarle a pensar que se trata de una función de dos variables (que no se encuentra hasta el cálculo III). No es necesariamente incorrecto pensarlo así, pero esencialmente, todo lo que estás haciendo es fijar una $x$ (tratándolo como una constante), que proviene de su intervalo $[a,b]$ y se integra con respecto a $y$ .
Recuerde que la integración con respecto a $y$ significa que tiene una función de la variable $y$ y quieres encontrar la antiderivada/área bajo la curva. Ejemplo: $\int y^2 dy=y^3/3+C$ .
Su núcleo es $K(x,y)=xy^2+x^2y$ y tiene una propiedad especial. Es un Kernel "separable", lo que significa que puede escribirse como una suma y un producto de funciones $g_n(x), h_n(y)$ . Cuando un Kernel es separable, puede resolverse utilizando métodos de álgebra lineal (también un curso un poco más avanzado que el de cálculo).
Editaré mi respuesta con la solución completa incluida si lo deseas.
Un último punto: a veces, las ecuaciones integrales no tienen soluciones, depende de $\lambda$ y también en la "energía" del Kernel. Resulta que si $\lambda$ obedece a una determinada desigualdad, entonces la solución de la ecuación integral no sólo existe, sino que es la única, a veces no hay ninguna.
Hay muchas otras posibilidades, por ejemplo, si su Kernel es no separable. La función Kernel $K(x,y)$ ni siquiera tiene que ser continua. La solución depende mucho del tipo de función con la que se trabaje. También puedes hacer que tu función $u(y)=tan(e^y)$ que es una función no lineal. Cuando se añaden términos no lineales, las ecuaciones se vuelven más difíciles de resolver en general, y tenemos que utilizar métodos computacionales para obtener una solución aproximada (que es otro tema en sí mismo).