Como han mencionado otros, (1) y (2) son desigualdades de convexidad/concavidad, véase este por ejemplo. Una generalización de ambas desigualdades que puede ayudar a ver lo que ocurre es la siguiente.
Por cada $z$ en $\mathbb{R}^n$ , dejemos que $\|z\|$ denotan su norma euclidiana. Consideremos $x_1$ , $x_2$ , ..., $x_K$ en $\mathbb{R}^n$ e introducir su baricentro $$ x=\frac1K\sum_{k=1}^Kx_k. $$ Se ve que (1) es un caso especial del hecho de que, si $\|x_k\|\le1$ por cada $k$ , entonces $$ \frac1K\sum_{k=1}^K\sqrt{1-\|x_k\|^2}\le \sqrt{1-\|x\|^2}. $$ Asimismo, (2) es un caso especial del hecho de que $$ \frac1K\sum_{k=1}^K\|x_k\|\ge \|x\|. $$ El OP preguntó sobre el caso $n=2$ y $K=3$ .
Esta formulación general indica que estas desigualdades son verdaderas si (y sólo si) algunas funciones específicas $\varphi$ y $\psi$ definido en $\mathbb{R}^n$ son cóncavos, respectivamente convexos. Aquí, $$ \varphi(z)=\sqrt{1-\|z\|^2}, \quad \psi(z)=\|z\|. $$ Una forma sencilla de demostrar que una función es cóncava/convexa es escribirla como un mínimo/supremo de funciones afines. Recordemos que una función afín sobre $\mathbb{R}^n$ se define por $z\mapsto\langle a,z\rangle+b$ para un determinado $a$ en $\mathbb{R}^n$ y un determinado $b$ en $\mathbb{R}$ . Ahora, $$ \varphi(z)=\inf_{u\in\mathbb{R}^n}\langle u,z\rangle+\sqrt{1+\|u\|^2},\quad \psi(z)=\sup_{\|u\|=1}\langle u,z\rangle, $$ por lo que las generalizaciones de (1) y (2) se mantienen.