Podemos utilizar la fórmula del coseno
$$b^2 = a^2 + c^2 - 2ac\cos \beta \Rightarrow b = \sqrt{a^2 + c^2 - 2ac\cos \beta}\ .$$
Escriba a $f(a) = a-b = a- \sqrt{a^2 + c^2 - 2ac\cos \beta}$ entonces
$$f'(a) = 1- \frac{a-c\cos\beta}{\sqrt{a^2 + c^2 - 2ac\cos \beta}}\ .$$
En $a^2 + c^2 - 2ac\cos \beta = (a-c\cos\beta)^2 - c^2 \cos^2\beta + c^2 = (a-c\cos\beta)^2 + c^2 \sin^2\beta$ vemos que
$$\bigg|\frac{a-c\cos\beta}{\sqrt{a^2 + c^2 - 2ac\cos \beta}} \bigg|\leq 1$$
y $f'(a)>0$ para todos $a$ . Es decir $f$ está aumentando. Por lo tanto, el valor máximo de $f$ nunca se alcanza (esa es la razón por la que no se puede encontrar $a$ ), pero aún podemos averiguar el límite superior de $f$ calculando
$$\lim_{a\to +\infty} f(a) = \lim_{a\to +\infty} \big(a- \sqrt{a^2 + c^2 - 2ac\cos \beta}\big) = c\cos\beta \ \ \text{(How?)}\ .$$
Por lo tanto, su suposición es casi correcta: el valor $c\cos\beta$ nunca puede alcanzarse, sino que es el límite superior más pequeño de $a-b$ .