Consideremos primero la condición sobre el círculo.
Si $P(X,Y)$ está dentro del círculo, entonces no hay líneas tangentes desde $P$ al círculo.
Si $P(X,Y)$ está en el círculo, entonces sólo hay una línea tangente en $P$ .
Si $P(X,Y)$ está fuera del círculo, entonces hay dos rectas tangentes desde $P$ al círculo.
Entonces, nuestra condición sobre el círculo es equivalente a que $P(X,Y)$ está sobre o dentro del círculo, es decir $$X^2+Y^2\le 36\tag1$$
A continuación, consideremos la condición sobre la hipérbola.
Sea $(p,q)$ sea un punto de la hipérbola $\frac{x^2}{25}-\frac{y^2}{16}=1$ donde $$\frac{p^2}{25}-\frac{q^2}{16}=1\iff 16p^2-25q^2=16\times 25\tag2$$
Desde $y'=\frac{16x}{25y}$ la ecuación de la recta tangente en $(p,q)$ viene dado por $$y-q=\frac{16p}{25q}(x-p)$$ Si $P(X,Y)$ está en la recta tangente, tenemos $$Y-q=\frac{16p}{25q}(X-p),$$ es decir $$25qY=16pX-(16p^2-25q^2),$$ Usando aquí $(1)$ da $$25qY=16pX-16\times 25=16(pX-25)\tag3$$
Elevar al cuadrado los dos lados de $(3)$ obtenemos $$25Y^2\times 25q^2=16^2(pX-25)^2$$ Utilizando $(2)$ tenemos $$25Y^2\times (16p^2-16\times 25)=16^2(pX-25)^2,$$ es decir $$(25Y^2-16X^2)p^2+(2\times 16\times 25\times X)p-25^2Y^2-16\times 25^2=0\tag4$$
Viendo esto como una ecuación cuadrática en $p$ nuestra condición es equivalente a $(4)$ tiene dos soluciones reales distintas y el producto de dos soluciones reales es negativo, es decir $$(2\times 16\times 25\times X)^2-4(25Y^2-16X^2)(-25^2Y^2-16\times 25^2)\gt 0\tag5$$ y $$\frac{-25^2Y^2-16\times 25^2}{25Y^2-16X^2}\lt 0\tag6$$
$(5)$ es equivalente a $$16^2X^2+(25Y^2-16X^2)(Y^2+16)\gt 0\tag7$$
$(6)$ es equivalente a $$25Y^2-16X^2\gt 0\tag8$$
Aquí, podemos ver que si $(8)$ se mantiene, entonces $(7)$ retenciones.
Entonces, nuestra condición sobre la hipérbola es $$(8)\iff (5Y-4X)(5Y+4X)\gt 0\tag9$$
Por lo tanto, todo lo que necesitamos es encontrar las opciones que satisfagan tanto $(1)$ y $(9)$ .
$(a)(1,6)$ no satisface $(1)$ .
$(b)(1,2)$ satisface tanto $(1)$ y $(9)$ .
$(c)(7,1)$ no satisface $(1)$ .
$(d)(1,0.5)$ no satisface $(9)$ .
De ello se deduce que $\color{red}{(b)}$ es la única opción correcta.
