Esta respuesta es un trabajo en progreso:
Siguientes Expansiones Asintóticas de las Integrales por Bleistein y Handelsman, sección 6.3, se puede utilizar el método de Mellin transforma.
Observe que $$I(\epsilon)=\int_0^\infty g(x) \ x \log({x}) \cos{\big(\epsilon x\big)} \ dx = Re\bigg[ \int_0^\infty g(x) \ x \log({x}) e^{i \epsilon x} \ dx \bigg]$$ with $\epsilon = \frac{1}{\lambda}$ and we will evaluate as $\epsilon \to \infty$.
Como $\epsilon$ se hace más grande, las oscilaciones de el integrando se vuelven más y más rápido. Estas rápidas oscilaciones tienden a inducir la cancelación de la integral en una vecindad de cada punto, excepto aquellos en los que el argumento de la exponencial tiende a cero, o la derivada del argumento va a cero. Desde $x$ es monótonamente creciente en $(0,\infty]$, el único punto es $x=0$. Por lo tanto, la principal contribución a la integral vendrá de una pequeña región cerca del origen.
Por ahora, me limitaré a decir que podemos escribir esta integral como un proceso inverso a Mellin Transformar:
$$I(\epsilon) = Re \bigg[ \frac{1}{2 \pi i} \int_{c-i\infty}^{c+i\infty} \epsilon^{-z} M[e^{i\epsilon x};z] M[F_a;1-z] dz \bigg] $$ where $M[...]$ denotes the Mellin Transform of the expression and $$F_a(x) = \left\{ \begin{array}{lr}
f_a & 0 \le x \le \gamma \\
0 & x > \gamma \\
\end{array} \right.$$ with $f_a \equiv g(x) \ x \log({x})$ in a positive half-neighborhood of $0$ and goes to $0$ smoothly as $ t \a \gamma$ such that $f_a \C^\infty(0,\infty)$
Podemos, a continuación, cierre el contorno de esta expresión de $I(\epsilon)$, en la mitad derecha del plano-y teniendo en cuenta los residuos de encontrar un asintótica de expansión. Voy a citar el resultado con la explicación a seguir en un momento posterior que desde $$e^{i \epsilon x} \sim 1, \ x \to 0$$ and $$g(x) \ x \log({x}) \sim g(0) \ x \log({x}), \ x \to 0$$ we have $$I(\lambda) \sim \lambda^2 g(0) \big( \gamma_c - 1 - \log{\lambda}\big) $$ where $\gamma_c$ is the Euler-Mascheroni constant. I have verified this approximation by comparing to some numerical results for simple $g(x)$ generados por el uso de Mathematica. Para el uso de la técnica de integración por partes, estoy acostumbrado a la restricción de que las funciones deben ser infinitamente derivable sobre el intervalo cerrado de la integración. Creo que es interesante que este método produce la correcta líder plazo a pesar de que el problema en el origen.