Voy a lanzar mi sombrero aquí, porque en realidad sólo hay dos incógnitas y dos ecuaciones. Las curvas son tangentes en su único punto de intersección en el primer cuadrante. Queremos que las funciones sean iguales allí:
$$a x^2 = \ln(2x),$$
y que sus pendientes también sean iguales allí:
$$2 a x = \frac{1}{x}.$$
La ecuación de derivadas nos da $x^2 = \frac{1}{2a}$ . Insertando esto en la ecuación de las funciones se obtiene
$$ a \cdot (\frac{1}{2a}) = \ln( 2 \cdot (\frac{1}{2a})^{1/2}) \Rightarrow \frac{1}{2} = \ln 2 - \frac{1}{2}\ln(2a) $$
$$\Rightarrow \ln a = (2 \ln 2) - (\ln 2) - 1 \Rightarrow a = e^{(\ln 2) - 1 } = \frac{2}{e} \approx 0.7358 . $$
De hecho, un gráfico parece confirmarlo. El punto tangente (x,y) no tiene un valor ordenado; aún no lo he resuelto, ya que no se me pidió.
EDIT: La ecuación definitoria de $x$ es $x^2 - \frac{e}{2} \ln x = \frac{e}{2} \ln 2$ . [Un poco de tiempo con el método de Newton indica que el punto tangente es aproximadamente $(0.805,0.477)$ .]
ADDENDUM (realizado unas horas más tarde): Me picó la curiosidad sobre una generalización de esto. Para $y = ax^n$ tangente a $y = \ln (kx)$ [ $n$ y $k$ siendo enteros positivos], encontramos que $a = \frac{k^{n}}{ne} $ y la posición del punto tangente se obtiene a partir de
$$x^n - (\frac{ne}{k^n}) \cdot \ln x = \frac{ne}{k^n} \cdot \ln k . $$