![introducir descripción de la imagen aquí]()
Escribiendo a:=|BC|, b:=|CA|, c:=|AB|=√a2+b2, y r=|PE|=|PF| (así que |PD|=3r), tenemos \begin{align} |\triángulo ABC| &= |\triángulo ABP| + |\triángulo BCP| + |\triángulo CAP| \\[4pt] \implies \qquad \frac{1}{2} |BC||CA| &= \frac{1}{2} \left(\; |AB| |PF| + |BC||PD| + |CA||PE| \;\right) \\[4pt] \implies \qquad a b &= c r + 3 a r + b r = r ( 3 a + b + c )\\[6pt] \implies \qquad r &= \frac{ab}{3 a + b + c} = \frac{ab}{3 a + b + \sqrt{a^2+b^2}} \end{align}
Para abordar la sugerencia de @DanielV de generalizar a dimensiones superiores, consideremos un tetraedro de esquina derecha OABC, con esquina derecha en O y longitudes de arista a := |OA|, b := |OB|, c := |OC|. (Nota que estoy cambiando ligeramente la notación de lo anterior). Sea una esfera con centro P y radio r tangente a las caras alrededor del vértice A, y sea una esfera congruente (tangente a la primera) tangente a las caras alrededor del vértice O. Luego P tiene distancia r de las caras \triángulo OAB, \triángulo OCA, \triángulo ABC (las que tocan A), y distancia 3r de la cara \triángulo OBC (la que está opuesta a A).
Aquí hay un intento pobre de un diagrama:
![introducir descripción de la imagen aquí]()
(En este caso, las alturas desde P están codificadas por color para que coincidan con sus contrapartes paralelas a través de O. La altura negra es a la cara \triángulo ABC.)
Así que,
\begin{align} |OABC| &= |OABP| + |OBCP| + |OCAP| + |ABCP| \\[4pt] \implies \qquad \frac{1}{6}a b c &= \frac{1}{3}\left(\; r\;|\triángulo OAB| + r \;|\triángulo OCA| + r\;|\triángulo ABC| + 3r\;|\triángulo OBC| \;\right) \\[4pt] &= \frac{1}{3}r \cdot \frac{1}{2} \left(\; a b + c a + 3 b c + 2\;|\triángulo ABC| \;\right) \\[6pt] \implies \qquad r &= \frac{abc}{3bc + ab + ca + 2\;|\triángulo ABC|} \qquad (\star) \end{align}
Dato curioso: el Teorema de Pitágoras para Tetraedros de Esquina Derecha dice que |\triángulo ABC|^2 = |\triángulo OBC|^2 + |\triángulo OCA|^2 + |\triángulo OAB|^2 así que tenemos |\triángulo ABC| = \frac{1}{2} \sqrt{\; b^2 c^2 + c^2 a^2 + a^2 b^2 \;} y (\star) se convierte en r = \frac{abc}{3bc + ab + ca + \sqrt{\; b^2 c^2 + c^2 a^2 + a^2 b^2 \;}}
En un espacio de 4 dimensiones (donde hay un Teorema de Pitágoras análogo, como lo hay en cualquier espacio dimensional), tenemos r = \frac{abcd}{3bcd + acd + abd + abc + \sqrt{\;b^2 c^2 d^2 + a^2 c^2 d^2 + a^2 b^2 d^2 + a^2 b^2 c^2\;}} y así sucesivamente.
Por cierto, la versión de la respuesta inicial con notación coincidente es r = \frac{ab}{3b + a + \sqrt{\;b^2 + a^2\;}}