Bueno, creo que es hora de reescribir esta respuesta para abordar todos los problemas planteados en los comentarios. Sin embargo, se vuelve bastante larga debido a que hay demasiadas sutilezas. Así que aquí está el resultado por adelantado: la curva óptima está compuesta por arcos circulares entre pares de puntos, con todos los arcos teniendo el mismo radio. A menos que tal construcción conduzca a autointersecciones, en cuyo caso todo está en juego.
En general, podemos considerar una secuencia de $n$ puntos $P_0, P_1, P_2, \ldots, P_n=P_0$ en el plano. Queremos encontrar la curva cerrada de longitud especificada $L$ que conecta estos puntos en el orden especificado y maximiza el área $A$ encerrada por la curva.
Para que el área esté bien definida, por supuesto, la curva tiene que ser simple (es decir, sin autointersecciones) o "débilmente simple" (es decir, se puede hacer simple mediante una perturbación infinitesimal). Creo que es posible que, en algunas configuraciones de puntos, la curva óptima sea solo débilmente simple.¹ Sin embargo, dado que dichos casos involucran "interacciones de contacto" entre múltiples segmentos que pueden ser topológicamente distantes, son mucho más difíciles de analizar que los casos donde la optimalidad se logra mediante curvas simples. En esta respuesta, por lo tanto, renunciaré un poco a la generalidad y solo caracterizaré la curva óptima en los casos donde es simple.
Una curva cerrada simple $\mathcal C$ que conecta los puntos $P_i$ en el orden especificado está compuesta por $n$ curvas $\mathcal S_i$ de $P_i$ a $P_{i+1}$, cada una simple y mutuamente no intersectante (aparte de encontrarse en los extremos). Para cada curva $\mathcal S_i$, sea $\ell_i$ su longitud, y $A_i$ el área firmada entre ella y el segmento de línea $P_i P_{i+1}$. Entonces toda la curva cerrada $\mathcal C$ tiene longitud $\ell = \sum_{i=0}^{n-1}\ell_i$ y área $A = \operatorname{area}(P_0 P_1 \cdots P_{n-1}) + \sum_{i=0}^{n-1}A_i. (He asumido por simplicidad que el polígono $P_0 P_1 \cdots P_{n-1}$ en sí es débilmente simple y, por lo tanto, tiene un área bien definida, pero creo que esta restricción podría levantarse con un tratamiento más cuidadoso.) Dado que el área del polígono no cambia, maximizar $A$ equivale a maximizar $\sum_{i=0}^{n-1}A_i$.
Entonces, el problema es encontrar curvas simples $\mathcal S_i$ que maximicen $\sum_i A_i$ bajo las restricciones de que $\sum_i\ell_i = L$ y que las $\mathcal S_i$ no se crucen entre sí.
Por ahora, levantemos la restricción de no intersección. Si encontramos que en el problema relajado, el área máxima se logra, sin embargo, mediante $\mathcal S_i$ que no se intersecan, entonces eso ciertamente también es el área máxima de todas las curvas que no se intersecan.² Por lo tanto, ahora las curvas $\mathcal S_i$ son básicamente independientes, conectadas solo por la restricción $\sum_i\ell_i = L$.
Lema 1: Cada $\mathcal S_i$ es un arco circular.
Manteniendo el resto de la curva fijo, consideramos variaciones en $\mathcal S_i$. Sus puntos finales son $P_i$ y $P_{i+1}$, su longitud está fija en $L-\sum_{j\ne i}\ell_j$, y deseamos maximizar el área $A_i$. Dicha curva debe ser un arco circular. ∎
Lema 2: $\mathcal S_i$ y $\mathcal S_{i+1}$ tienen el mismo radio.
Sin pérdida de generalidad, podemos tomar $i=0$. Nuevamente, manteniendo el resto de la curva fijo, consideramos variaciones en $\mathcal S_0$ y $\mathcal S_1$. Deseamos maximizar $A_0+A_1$ bajo la restricción de que $\ell_0+\ell_1$ está fija en $L'=L-\sum_{j\ge2}\ell_j$.
Primero, un argumento geométrico simple que no cubre todos los casos pero proporciona intuición. Observamos que la orientación relativa de $P_0P_1$ y $P_1P_2$ no importa; si tenemos otro punto $P_2'$ con $|P_1P_2|=|P_1P_2'|$, cualquier arco $\mathcal S_1$ desde $P_1$ a $P_2$ se puede rotar a un arco $\mathcal S_1'$ desde $P_1$ a $P_2'$ con la misma longitud y área encerrada. Entonces los arcos $\mathcal S_0$ y $\mathcal S_1$ son óptimos para $P_0,P_1,P_2$ si y solo si $\mathcal S_0$ y $\mathcal S_1'$ son óptimos para $P_0,P_1,P_2'$. Ahora, cuando $L'$ es suficientemente pequeño,³ todos los arcos factibles $\mathcal S_0$ y $\mathcal S_1$ son menores que semicirculares, y hay un par único $(\mathcal S_0,\mathcal S_1)$ cuyos radios $r_0$ y $r_1$ son iguales. Entonces podemos elegir $P_2'$ de manera que $\mathcal S_0$ y $\mathcal S_1'$ formen un arco continuo de un solo círculo. Según el lema 1, esta curva encierra el área más grande entre todas las curvas de longitud $L'$ de $P_0$ a $P_2'$; ciertamente entonces encierra el área más grande entre tales curvas de $P_0$ a través de $P_1$ a $P_2'$. El resultado sigue.
Este argumento no funciona para $L'$ grande, en cuyo caso puede haber más de un $(\mathcal S_0,\mathcal S_1)$ posible con $r_0=r_1$, y el arco combinado $\mathcal S_0\mathcal S_1'$ puede abarcar más de un círculo completo. Para cubrir todos los casos, recurrimos al análisis. Un arco circular $\mathcal S$ entre dos puntos fijos a una distancia $d$ uno del otro tiene exactamente un grado de libertad, que se puede parametrizar por su longitud $\ell$, su radio $r$, o su ángulo central $\theta$. Tenemos las relaciones $d = 2r\sin(\theta/2)$, $\ell = r\theta$, y $A = \frac12r^2(\theta-\sin\theta)$. Dado que $d$ es constante, esto da $$\frac{\mathrm dr}{\mathrm d\theta} = -\frac12 r\cot\frac\theta2,$$ a partir de lo cual podemos derivar $$\begin{align} \frac{\mathrm d\ell}{\mathrm d\theta} &= r\left(1 - \frac\theta2\cot\frac\theta2\right), \\ \frac{\mathrm dA}{\mathrm d\theta} &= r^2\left(1 - \frac\theta2\cot\frac\theta2\right), \end{align}$$ y así $$\frac{\mathrm dA}{\mathrm d\ell} = r.$$ (Sería agradable ver una demostración geométrica de este resultado.) Llegando al caso de $\mathcal S_0$ y $\mathcal S_1$, dado que $\ell_0 + \ell_1 = L'$, tenemos $\mathrm d\ell_0 + \mathrm d\ell_1 = 0$, mientras que para maximizar el área requerimos $\mathrm dA_0 + \mathrm dA_1 = 0$. Esto implica que en el máximo, debemos tener $r_0 = r_1$. ∎
De los lemas anteriores se deduce que la curva cerrada $\mathcal C$ que maximiza la suma de áreas $\sum_{i=1}^n A_i$ está compuesta por $n$ arcos circulares de igual radio $r$. Si esta curva $\mathcal C$ es simple, entonces también es la curva cerrada que encierra el área más grande, que es lo que se deseaba.
En tu ejemplo con $n=3$ y puntos $P_0=(-1,0)$, $P_1=(0,0)$ y $P_2=(1,0)$, encontré numéricamente que la solución es $r\approx1.30889$ con arcos de ángulo central $\theta_0=\theta_1\approx44.9^\circ$ y $\theta_2\approx260.3^\circ$. Esto da un área de aproximadamente $4.87$ unidades, que es mayor que la de tu cardióide. Aquí hay una gráfica comparando la solución numéricamente optimizada en azul y el cardióide en rojo.
![introducir descripción de la imagen aquí]()
Y así es como varían las curvas óptimas con $L$:
![introducir descripción de la imagen aquí]()
¹ Por ejemplo, considera la forma similar a Pac-Man $P_0=(-1+\epsilon,0)$, $P_i=\bigl(\cos(2\pi i/n),\sin(2\pi i/n)\bigr)$ para $i=1,\ldots,n-1$.
² Resulta que este es a menudo el caso; de hecho, supondría que siempre es cierto para polígonos convexos. Pero, por otro lado, si la solución óptima del problema relajado produce $\mathcal S_i$ que se cruzan, entonces el resultado probablemente no nos dice nada sobre la solución del problema original.
³ En particular, cuando $L' \le \min(d_0 + \frac\pi2 d_1, d_1 + \frac\pi2 d_0)$ donde $d_0$ y $d_1$ son las longitudes $|P_0P_1|$ y $|P_1P_2|$ respectivamente.
