Yo daría una solución sin trigonometría, como se pide en el OP. Considere el círculo como centrado en el punto $(1/2,1/2)$ de un plano cartesiano, de modo que las esquinas cuadradas son $L(0,0)$ , $U(0,1)$ , $M(1,1)$ , $P(1,0)$ . La ecuación del círculo es $(x-1/2)^2+(y-1/2)^2=1/4$ . Llamemos $k$ la pendiente de una línea que pasa por $U$ y la intersección del círculo. Su ecuación es entonces $y=kx+1$ . Por construcción, la línea interseca el círculo sólo si $k\leq 0$ .
Los puntos de intersección $I$ y $E$ entre la recta y la circunferencia vienen dadas por las soluciones del sistema compuesto por las ecuaciones de la recta y la circunferencia. Estas soluciones son
$$I\left(\frac{1-k- \sqrt{-2k}}{2(k^2 + 1)}, \frac{k^2+k+2-k\sqrt{-2k} }{2(k^2 + 1)}\right) $$
$$E\left(\frac{1-k+\sqrt{-2k}}{2(k^2 + 1)}, \frac{k^2+k+2+k\sqrt{-2k} }{2(k^2 + 1)}\right) $$
Por la fórmula estándar de la distancia entre puntos, tras algunos cálculos y simplificaciones obtenemos
$$IE=\frac{\sqrt{-2k}}{\sqrt{k^2 + 1}}$$
Consideremos ahora la perpendicular a $IE$ extraído de $P(1,0)$ . Esta línea debe tener un coeficiente angular $-1/k$ y tiene que satisfacer $0=-1/k+r$ , lo que implica $r=1/k$ . La línea tiene entonces la ecuación $y=-x/k+1/k$ . Las coordenadas de $X$ son las soluciones del sistema compuesto por las dos líneas. Resolviendo el sistema, resulta
$$X\left( \frac{1-k}{k^2+1}, \frac{1+k}{k^2+1}\right)$$
y utilizando de nuevo la fórmula de la distancia entre dos puntos obtenemos
$$PX= \frac{|k+1|}{\sqrt{k^2+1}}$$
Por lo tanto, el área de $\triangle{PIE}$ es
$$ A(\triangle{PIE})\\= \frac{IE \cdot PX}{2}= \frac{1}{2} \cdot \frac{\sqrt{-2k}}{\sqrt{k^2 + 1}} \cdot \frac{|k+1|}{\sqrt{k^2+1}}\\ = \frac{|k+1| \sqrt{-2k}}{2(k^2 + 1)} $$
Tomando la derivada tenemos
$$\frac{(k^3 + 3 k^2 - 3 k - 1)}{(2 \sqrt{-2k} (k^2 + 1)^2)} \,\text{for} \,\,k>-1$$ $$-\frac{(k^3 + 3 k^2 - 3 k - 1)}{(2 \sqrt{-2k} (k^2 + 1)^2)} \,\text{for} \,\,k<-1$$
Como era de esperar por la simetría del problema con respecto al caso $k=-1$ Si la función de área es igual a cero, se obtiene que la función de área tiene dos máximos en $-2+\sqrt{3}$ y $-2-\sqrt{3}$ . Sustituyendo estos valores en la fórmula de $\triangle{PIE}$ concluimos que el área máxima es
$$A_{max}(\triangle{PIE})= \frac{(\sqrt{3} -1) (\sqrt{ 4-2\sqrt{3}} )}{4 (4-2\sqrt{3} )}\\=\frac{1}{4}\,\,\, \left( \text{for}\,\, k= -2+\sqrt{3}\right) $$
y
$$A_{max}(\triangle{PIE})= \frac{(\sqrt{3} +1) (\sqrt{ 4+2\sqrt{3}} )}{4 (4+2\sqrt{3} )}\\=\frac{1}{4}\,\,\, \left( \text{for}\,\, k= -2-\sqrt{3}\right) $$
A continuación se muestra un gráfico del área en función de la pendiente $k$ según la fórmula anterior:
Tenga en cuenta que para $k=0$ es decir, los puntos $I$ y $E$ coinciden en $(1/2,1)$ con el punto medio del lado superior del cuadrado, como era de esperar la fórmula del área da cero. Como $k$ disminuye, el área aumenta, alcanza su primer valor máximo de $1/4$ en $k=-2+\sqrt{3}$ y vuelve a disminuir a cero en $k=-1$ (este es el caso en el que los puntos $I$ , $E$ y $P$ están alineados en la diagonal $UP$ ). Como $k$ disminuye, el área vuelve a aumentar y alcanza su segundo valor máximo de $1/4$ en $k=-2-\sqrt{3}$ y disminuye progresivamente tendiendo a cero para $k\rightarrow -\infty$ (este es el caso en el que los puntos $I$ y $E$ coinciden en $(0,1/2)$ con el punto medio del lado izquierdo del cuadrado).
Por último, hay que tener en cuenta que, si llamamos a $\alpha$ el ángulo $\angle{MUI}$ las pendientes de $-2+\sqrt{3}$ y $-2+\sqrt{3}$ corresponden a los valores $\alpha=\pi/12=15°$ y $\alpha=5\pi/12=75°$ fácilmente por el enfoque trigonométrico.