Supongamos que la curva viene dada implícitamente por $F(x) = 0$ . Los vértices $v_1, v_2, v_3, v_4$ de su rectángulo son entonces soluciones del sistema
$$ \eqalign{F(v_1) &= 0 \cr F(v_2) &= 0 \cr F(v_3) &= 0 \cr F(v_4) &= 0 \cr (v_1 - v_2) \cdot (v_2 - v_3) &= 0\cr (v_2 - v_3) \cdot (v_3 - v_4) &= 0\cr (v_3 - v_4) \cdot (v_4 - v_1) &= 0\cr (v_4 - v_1) \cdot (v_1 - v_2) &= 0\cr} $$
Podemos intentar resolver este sistema, numérica o simbólicamente (tal vez utilizando las bases de Groebner si $F$ es un polinomio), evitando las soluciones triviales $v_1 = v_2 = v_3 = v_4$ . Es de esperar que sólo haya un número finito de tales soluciones, y que algunas de ellas den sus rectángulos inscritos.
EDIT: Para un ejemplo como el tuyo (producido usando splines), una ecuación implícita no va a ser fácil de encontrar. Sin embargo, una ecuación paramétrica se puede obtener. Si la curva se da paramétricamente como $x = X(t)$ , $0 \le t \le L$ y los vértices son $X(t_1)$ , $X(t_2)$ , $X(t_3)$ , $X(t_4)$ entonces las ecuaciones son
$$ \eqalign{(X(t_1) - X(t_2)) \cdot (X(t_2) - X(t_3)) &= 0\cr (X(t_2) - X(t_3)) \cdot (X(t_3) - X(t_4)) &= 0\cr (X(t_3) - X(t_4)) \cdot (X(t_4) - X(t_1)) &= 0\cr (X(t_4) - X(t_1)) \cdot (X(t_1) - X(t_2)) &= 0\cr}$$