Deje $a,b,c$ ser los valores de la tangente de $A,B,C$.
El dado de la relación de $A+B+C=90^\circ $ lleva a cero el valor de la cotangente, por lo que
$$
0 =
\frac{1-ab-bc-ca}{a+b+c-abc}\ .
$$
Así que tenemos que minimizar la expresión de $13a^2+9b^2+c^2$, limitada por la relación $ab+bc+ca=1$. Tenemos entonces la búsqueda de la "mejor $t$", por lo que la siguiente relación es satisfecho:
$$
13a^2+9b^2+c^2\ge 2t(ab+bc+ca)\ .
$$
Debido a que el inegquality es homogéneo en $a,b,c$, nos podemos olvidar de un rato acerca de la restricción $ab+bc+ca=1$.
Primero de todo, tenga en cuenta que $t\le 3$, porque se debe tener en particular
$9b^2+c^2\ge 2t\; bc$. Hemos reducido el problema a la búsqueda de la óptima (positivo) el valor de $t$, por lo que la forma cuadrática correspondiente a la matriz
$$
M(t) =
\begin{bmatrix}
13 & -t & -t \\
-t & 9 & -t \\
-t & -t & 1
\end{bmatrix}
$$
toma sólo los valores de $\ge 0$. Sylvester criterio. Los elementos en la diagonal son $>0$.
Los determinantes de los menores de edad $2\times 2$ construido en la diagonal también se $>0$ para $t<3$. (El valor de $t=3$ no trabajo, como vemos en el segundo).
El determinante de la matriz $M$es
$$
f(t) = \det M(t) = -2t^3 - 23t^2 + 117\ ,
$$
y, por ejemplo, tenemos $f(2) = 9$, $f(3)=-144$.
Así que esperamos una raíz en el medio, más cerca de $2$, que es aproximadamente
$$
\tau \aprox
2.07584311418034\dots\ .
$$
Sage
código de la computación:
sage: var('t');
sage: A(t) = matrix( 3, 3, [13,-t,-t, -t,9,-t, -t,-t,1] ).det().factor()
sage: A(t).roots(ring=RR, multiplicities=False)
[-11.0181176066186, -2.55772550756178, 2.07584311418034]
Este es el valor óptimo, por lo que tenemos para todos los $a,b,c\in\Bbb R$ la desigualdad
$$13a^2+9b^2+c^2\ge 2\tau(ab+bc+ca)\ ,$$
de modo que el valor mínimo de la expresión es $\boxed{\ 2\tau\approx 4.15168622836067\dots\ }$ .
$\square$
Nota numérica:
También se puede utilizar un sabio o un sistema de álgebra computacional para obtener una fórmula exacta, pero el valor numérico es más fácil de comprobar, como en la secuela.
(Siempre me verificación y quiere ver el número en tales situaciones.)
Así que vamos a revisar también con sage, que esto es (numéricamente) un (local) valor mínimo (va siempre hacia abajo desde un punto elegido):
sage: f = lambda p: 13*p[0]^2 + 9*p[1]^2 + p[2]^2
sage: c = lambda p: p[0]*p[1] + p[1]*p[2] + p[2]*p[0] -1
sage: tau = [ root for root in A(t).roots(ring=RR, multiplicities=False) if root > 0 ][0]
sage: tau
2.07584311418034
sage: 2*tau
4.15168622836067
sage: minimize_constrained( f, [c], (0,1,1) )
(0.2780871966139785, 0.37845809756156296, 1.3628239288343866)
sage: minimize_constrained( f, [c], (1,1,0) )
(0.27811224400155166, 0.37845335977224853, 1.3627693434198571)
sage: minimize_constrained( f, [c], (1,0,1) )
(0.27805233412191027, 0.3784732000997097, 1.362878654212287)
sage: f(_)
4.15168620148928
También, si queremos hacer de optimización numérica para la función dada mot-mot:
sage: g = lambda p: 13*tan(p[0])^2 + 9*tan(p[1])^2 + tan(p[2])^2
sage: d = lambda p: p[0]+ p[1] + p[2] - pi.n()/2.
sage: m = minimize_constrained( g, [d], (pi/6.,pi/6.,pi/6.) )
sage: g(m)
4.151686307799218
sage: d(m)
0.0
sage: 2*tau
4.15168622836067
El código es más fácil de digerir. Anteriormente, $f$ implementa la función $f(p)=13p_0^2+9p_1^2+p_2^2$, por lo que tomar $p=(a,b,c)$ tenemos nuestra función. La condición de restricción se define también el uso de un $p$ total de la variable.
A partir de $(a,b,c)=(1,1,0)$ (que satisface $ab+bc+ca=1$) que fueron acompañados a un valor menor que coincide numéricamente el valor de $2\tau$. También, a partir de $(\pi/6,\ \pi/6\ \pi/6)$ y el uso de la función original obtenemos un valor que más bien confirma la $2\tau$ mínimo.
Nota:
Tengo la sospecha de un error tipográfico en la fuente original (no aquí, en la OP), y experimentó con expresiones similares, de modo que la correspondiente matriz de $M_{?,?,?}(t)$ con diagonal $13,9,1$ reemplazado por $?,?,?$ daría lugar a una racionales negativos de la raíz, por lo que podemos dividir por el factor correspondiente y reducir el problema a "cuadrática de los números". Por ejemplo, para $13, 9, 9$ o de $13,9,13$. Pero entonces la $\sqrt 2$ que $t\sqrt 2$ desde el post original me dio algunos problemas. El factor de $\det M_{?,?,?}(t) $ de segundo grado debe tener la plaza de su discriminante en $\Bbb Q(\sqrt 2)$, esta es la única manera que me imagino que la sugerencia en ese libro tendría sentido. Bueno, tengo que parar aquí.