Considerar esta imagen:
Creo que la zona de la plaza de $ABCD$ puede ser expresado como la suma de
- El original de la región sombreada en el problema;
- El área del sector $CAB$;
- El área en la esquina de la $FID$; y
- Dos veces el área de la abertura en $CHF$
En otras palabras, esto puede ser escrito como:
$$A_{ABCD}=\text{shaded}+\frac14a^2\pi+\frac14\left(a^2-\left(\frac{a}{2}\right)^2\pi\right)+2CHF\tag{1}$$
El reto ahora es resolver para el área de corte en la $CHF$, pero esto se puede hacer si queremos visualizar el problema como este:
Hemos rectángulo $ACFJ$ con un área de $\frac{a^2}{2}$ descompone como:
$$A_{ACFJ}=A_{\text{sector} \,CAH}+A_{\text{sector} \,HEF}+A_{\triangle AEJ}+A_{\triangle HAE}+CHF=\frac{a^2}{2}\tag{2}$$
Para encontrar el área de un sector de la $CAH$, necesitamos resolver para $\angle CAH$. Sabemos que $AC=AH=a$. También sabemos que $H$ es la intersección de dos círculos definido por:
$$x^2+y^2=a^2\\ \left(x-\frac a2\right)^2+\left(y-\frac 2\right)^2=\left(\frac{a}{2}\right)^2\\
H:\left(\frac{1}{8} \left(5 a-\sqrt{7}\right)\sqrt{a^2-\frac{1}{64} \left(5 a-\sqrt{7}\right)^2}\right)$$
Utilizando la fórmula de la distancia, tenemos:
$$CH:\frac{1}{2} \sqrt{-a \left(\sqrt{10 \sqrt{7}+32} \sqrt{a^2}-8 a\right)}$$
Mediante el coseno de la ley, tenemos:
$$\angle\text{CAH}=\cos ^{-1}\left(\frac{\text{AC}^2+\text{AH}^2-\text{CH}^2}{2 \text{AC} \text{AH}}\right)=\cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)$$
Lo que nos da:
$$A_{\text{sector}\,CAH}=\frac{a^2 \angle\text{CAH}}{2}=\frac{1}{2} a^2 \cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)$$
Repitiendo el mismo proceso, obtenemos $A_{\text{sector}\,HEF}$ como:
$$=FE=\frac a2\\
HF=\frac{\sqrt{a \left(\left(\sqrt{7}+13\right) a-2 \sqrt{10 \sqrt{7}+32} \sqrt{a^2}\right)}}{2 \sqrt{2}}\\ \ángulo\text{HEF}=\cos ^{-1}\left(\frac{\text{FE}^2+\text{ÉL}^2-\text{HF}^2}{2 \text{FE} \text {}}\right)=\cos ^{-1}\left(\frac{1}{4} \left(-\sqrt{7}+2 \sqrt{10 \sqrt{7}+32}-9\right)\right)\\
A_{\text{sector de la}\,HEF}=\frac{1}{2} \left(\frac{a}{2}\right)^2 \text{HEF}=\frac{1}{8}^2 \cos ^{-1}\left(\frac{2 \sqrt{10 \sqrt{7}+32} \sqrt{a^2}-\left(\sqrt{7}+9\right) un}{4}\right)$$
La solución para $A_{\triangle AEJ}$, sabemos que $AJ=EJ=\frac a2$, por lo tanto
$$A_{\triangle AEJ}=\frac{1}{2} \left(\frac{a}{2}\right)^2$$
Sabemos que $AJ=EJ=\frac a2$, por lo $AE=\frac{a\sqrt2}2$, y dado que ya sabemos $\angle CAH$$\angle EAJ=\frac\pi4$, entonces:
$$\angle\text{HAE}=-\angle\text{CAH}-\frac{\pi }{4}+\frac{\pi }{2}=\frac{\pi }{4}-\cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)$$
Y por lo tanto:
$$A_{\triangle HAE}=\frac{\left(\sqrt{2} a\right) \text{AH} \sin (\text{HAE})}{2\ 2}$$
De $(2)$, ahora podemos resolver el área de $CHF$:
$$CHF=\frac{1}{8} \left(3 a^2+a^2 \left(-\cos ^{-1}\left(\frac{2 \left(\frac{a^2}{2}-\frac{1}{8} a \left(\left(\sqrt{7}+13\right) a-2 \sqrt{10 \sqrt{7}+32} \sqrt{a^2}\right)\right)}{a^2}\right)\right)-4 a^2 \cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)-2 \sqrt{2} a^2 \sin \left(\frac{\pi }{4}-\cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)\right)\right)$$
De $(1)$ ahora podemos resolver para la región sombreada, y obtenemos:
$$\text{shaded}\to-\frac{1}{16} a^2 \left(-4 \cos ^{-1}\left(\frac{2 \sqrt{10 \sqrt{7}+32} \sqrt{a^2}-\left(\sqrt{7}+9\right) a}{4 a}\right)+3 \pi -8 \left(2 \cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)+\sqrt{2} \cos \left(\frac{\pi }{4}+\cos ^{-1}\left(\frac{1}{4} \sqrt{\frac{5 \sqrt{7}}{2}+8}\right)\right)\right)\right)$$