El área máxima es $36 + 22\sqrt 3$ , alcanzado por un triángulo con $$ AB = \sqrt{\frac{8128+3840\sqrt3}{73}}, \quad BC = \sqrt{\frac{5323+3024\sqrt3}{73}}. $$
Dejemos que $a$ y $c$ sean los lados $BC$ , $AB$ del triángulo. Por la ley de los cosenos, el lado $AC$ tiene una longitud $\sqrt{a^2-ac+c^2}$ . Ahora cuatro puntos cualesquiera $A,B,C,P$ en el plano determinan seis distancias que satisfacen una relación algebraica, la desaparición de la Determinante de Cayley-Menger $$ \det\left| \begin{array}{c&c&c&c&c} 0 & 1 & 1 & 1 & 1 \\ 1 & 0 & AB^2 & AC^2 & AP^2 \\ 1 & AB^2 & 0 & BC^2 & BP^2 \\ 1 & AC^2 & BC^2 & 0 & CP^2 \\ 1 & AP^2 & BP^2 & CP^2 & 0 \end{array} \right| \, . $$ Aquí se nos da $PA = 10$ , $PB = 6$ , $PC = 7$ . Así, con $AB^2=c^2$ , $AC^2=a^2-ac+c^2$ y $BC^2=a^2$ calculamos (tras eliminar un factor común de $2$ ): $$ c^2 a^4 + (-c^3 + 64 c) a^3 + (c^4 - 262 c^2 + 4096) a^2 + (13 c^3 - 832 c) a + 169 c^2 = 0. $$ Queremos maximizar el área del triángulo, que es $\frac12 ac \sin 60^\circ = (\sqrt3/4) ac$ por lo que buscamos el valor máximo de $M := ac$ . Configurar $c=M/a$ y multiplicando por $a^2$ , encontramos $$ (M^2+64M+4096) a^4 - (M^3+262M^2+832M) a^2 + (M^4+13M^3+169M^2) = 0, $$ una ecuación cuadrática en $a^2$ con coeficiente lineal negativo. Por lo tanto, existe una solución positiva si el discriminante es no negativo. Encontramos que este discriminante es $-3 M^2 (M^2-176M+832) (M^2+104M+832)$ , y por lo tanto que para $M>0$ hay una solución positiva si $M^2-176M+832 \leq 0$ . El mayor de estos $M$ es la raíz mayor de este polinomio cuadrático, que es $88 + 48 \sqrt{3}$ (y coincide numéricamente con el valor $f_\max = 171.138\ldots$ calculado por chenbai ). Esto da el valor $(\sqrt3/4)M = 36 + 22\sqrt 3$ anunciado en la primera frase.
Queda por comprobar que esto es coherente con las longitudes dadas $PA$ , $PB$ , $PC$ Además de la desaparición del determinante de Cayley-Menger, debemos comprobar que cada uno de $PBC$ , $PCA$ , $PAB$ satisface la desigualdad del triángulo. Calculamos $a^2 = (5323+3024\sqrt 3)/73$ y $c^2 = (8128+3840\sqrt 3)/73$ , que hace que $AC^2 = a^2-ac+c^2 = (7027+3360\sqrt 3)/73$ ; por lo que numéricamente nuestro triángulo de área máxima $ABC$ es tener lados $12.03$ , $13.76$ y $14.23$ vértices opuestos $A,B,C$ , que es menor que $6+7$ , $7+10$ y $10+6$ respectivamente. Así, estas distancias se relativizan mediante una configuración real $ABCP$ , así que hemos terminado.
[ Añadido más tarde La misma técnica funciona para cualquier valor dado $r,s,t$ de $PA$ , $PB$ , $PC$ , encontrando que el máximo $M$ es $$ rt + \frac{s^2}{2} + s \sqrt{r^2+rt+t^2-\frac34 s^2} $$ y el área máxima es de nuevo $\sqrt3/4$ veces eso].