El espacio de los cuádruples $(A,B,C,P)$ que satisfacen las restricciones es un subconjunto de $(\mathbb R^2)^4$ que es lo que estoy haciendo bastante seguro es compacto (si permitimos triángulos degenerados). Como un mapa que lleva un cuádruple a $PA\cdot PB\cdot PC$ es continua, esto significa que el máximo se alcanza en algún lugar.
Dejemos que $(A,B,C,P)$ sea un cuádruple que alcance este máximo. En primer lugar, afirmo $P$ no es el centro del círculo. Esto se debe a que $P$ siendo el centro necesariamente da el producto de las longitudes a ser $1$ pero podemos hacerlo mejor.
A continuación, reclamo $P$ se encuentra en uno de los lados. Esto es trivial si $ABC$ es degenerado. Así que supongamos que no lo es y $P$ es estrictamente interior. Tomemos la secante única del círculo que contiene $P$ . Divide el círculo en dos arcos. Entonces al menos dos de los puntos $A,B,C$ no se encuentran en el punto medio del arco más largo (llámese $M$ por ahora). Porque $P$ está estrictamente contenido en el triángulo, si movemos uno de ellos un poco hacia $M$ aumentaremos su distancia con respecto a $P$ y por lo tanto el producto $PA\cdot PB\cdot PC$ (esto es muy elemental), y mantendremos $P$ en el interior del triángulo (esto es un poco de palabrería, pero estoy seguro de que esto es cierto), lo que es una contradicción con la configuración que alcanza el máximo.
Así que $P$ se encuentra en algún lado. WLOG, dice que $P$ se encuentra en el lado $AB$ . Desde $C$ debe estar a la mayor distancia posible de $P$ debe estar en la intersección del rayo $PO$ con el círculo ( $O$ es el centro). Sea $C'$ sea la intersección del rayo $OP$ con el círculo. Por la potencia del punto, $PA\cdot PB=PC\cdot PC'$ Por lo tanto $PA\cdot PB\cdot PC=PC^2\cdot PC'=PC^2(CC'-PC)=PC^2(2-PC)$ , como $CC'$ es un diámetro. Ahora maximizamos esto usando el cálculo o la desigualdad AM-GM, como se quiera, y obtenemos que el máximo se alcanza para $PC=\frac{4}{3}$ , $PA\cdot PB\cdot PC=\frac{32}{27}$ .
Es fácil ver de esto que el límite es alcanzable, incluso por un triángulo no degenerado.