Vamos a la elipse en posición estándar, con (fracción libre) ecuación
$$b^2 x^2 + a^2 y^2 = a^2 b^2$$
Deje que nuestro triángulo equilátero tiene circuncentro $(p,q)$ y el circunradio $r$. Tenga en cuenta que maximizar el área del triángulo es equivalente a la maximización de la $r$.
Para algunos ángulo de $\theta$ ---en realidad, durante tres opciones de $\theta$--- los vértices del triángulo tienen coordenadas
$$
(p,q) + r \; \mathrm{cis}\theta \qquad (p,q)+r\;\mathrm{cis}\left(\theta+120^{\circ}\right) \qquad (p,q) + r\;\mathrm{cis}\left(\theta-120^{\circ}\right)
$$
donde yo abuso de la notación "$\mathrm{cis}\theta$" para indicar el vector $(\cos\theta,\sin\theta)$.
La sustitución de estas coordenadas en la elipse de ecuación nos da un sistema de tres ecuaciones con cuatro parámetros $p$, $q$, $r$, $\theta$. He utilizado Mathematica Resultant[] función para que me ayude a eliminar la $r$$\theta$, llegando a un enorme ecuación polinómica en $p$$q$. Uno de los factores del polinomio que da lugar a esta ecuación:
$$p^2 b^2\left( a^2+3b^2 \right)^2 + q^2 a^2\left(3a^2+b^2\right)^2= a^2b^2\left(a^2-b^2\right)^2$$
Esto dice que la familia de circumcenters $(p,q)$ mentira en sus propias elipse! Por lo tanto, podemos escribir
$$p = \frac{a\left(a^2-b^2\right)}{a^2+3b^2}\cos\phi \qquad q = \frac{b\left(a^2-b^2\right)}{3a^2+b^2}\sin\phi$$
para algunos $\phi$. De vuelta de sustitución en el sistema de ecuaciones da esta fórmula para $r$:
$$r = \frac{4 a b \sqrt{a^2\left(a^2+3b^2\right)^2-\left(a-b\right)^3\left(a+b\right)^3 \cos^2\phi}}{\left(a^2 + 3 b^2\right)\left(3a^2+b^2\right)}$$
El valor máximo, $R$, se alcanza cuando $\cos\phi = 0$, por lo que
$$R := \frac{4a^2b}{3a^2+b^2}$$
El área de la máxima triángulo es
$$\frac{3\sqrt{3}}{4}R^2 = \frac{12a^4 b^2\sqrt{3}}{\left(3a^2+b^2\right)^2}$$
Perhaps-unsurprisingly, the corresponding triangles are centered horizontally within the ellipse, with a vertex at either the top or bottom of the minor axis.
Now, I should point out that my big $pq$ polynomial has other factors, namely, $p$ itself, $p$ itself, and a giant I'll call $f$.
One can verify that the cases $p=0$ and $q=0$ lead to the same results as above. (Specifically, they correspond to the respective cases $\cos\phi=0$ and $\sin\phi=0$.) Intuitively, if a circle's center lies on an axis of the ellipse, then the points of intersection with the ellipse have reflective symmetry over that axis. If there are four distinct points (or two, or none), then we cannot choose three to be the vertices of our equilateral triangle; consequently, there must be only three points of intersection, with one of them on the axis, serving as the point of tangency for the circle and ellipse.
As for the case $f=0$ ... voy a irresponsablemente llaman extraños. (El método de como resultado tiende a desovar tales cosas.)
