La verdadera razón no tiene que ver con los senos de los ángulos, sino con la naturaleza ondulatoria de la luz.
Las imágenes siguientes muestran un acercamiento a lo que ocurre cuando una onda llega a una interfaz en la que se refleja y transmite parcialmente (extraído de mi respuesta a ¿Se refleja la luz si incide exactamente en el ángulo crítico? ) :
La situación completa tiene tres ondas relevantes: la onda incidente, la onda reflejada y la onda transmitida, y las dos primeras se suman para dar un patrón de interferencia en el medio de incidencia.
Cada onda tiene la forma general $$ E(x,y,z,t) = \operatorname{Re}\left[E_0 \exp\left(i\left(k_x x + k_y y - \omega t\right)\right)\right] $$ (donde he ignorado el $z$ estableciendo el plano de incidencia como el $x,y$ plano). Aquí el $x$ La dirección es la dirección horizontal en los gráficos de arriba $-$ es decir, la coordenada a lo largo de la interfaz $-$ y $y$ es la dirección normal a la interfaz. Dentro de esta imagen ondulatoria, la ley de Snell (y todas sus consecuencias) se desprende de un pequeño conjunto de principios físicos básicos:
-
El comportamiento de todas las ondas a lo largo de la interfaz debe coincidir, es decir, la dependencia transversal de la onda, dada por el factor de $$\exp(i k_x x),$$ debe ser la misma para las ondas reflejadas y transmitidas que para la onda incidente. Esto significa que la componente transversal del vector de onda, $k_x$ debe ser la misma para las tres ondas.
(Lo mismo debe ocurrir con la dependencia temporal, $\exp(-i\omega t)$ lo que significa que la frecuencia temporal no puede cambiar a través de la interfaz).
-
La magnitud de los vectores de onda en cada uno de los medios relevantes debe ser tal que las ondas obedezcan a la ecuación de onda correspondiente, lo que requiere entonces que $$ \frac{k_1^2}{n_1^2} = \frac{\omega^2}{c^2} = \frac{k_2^2}{n_2^2}. $$
Cuando se tiene una reflexión interna, esto significa que $n_1>n_2$ para que $n = n_1/n_2>1$ y por lo tanto $$k_1^2 = n^2 k_2^2>k_2^2.$$ Con ángulos de incidencia elevados, una gran fracción de $k_1^2 = k_{1x}^2 + k_{1y}^2$ proviene de la componente transversal $k_{1x}^2$ que también debe coincidir con $k_{2x}^2 = k_x^2 = k_{1x}^2$ para que $$k_1^2 = k_{x}^2 + k_{1y}^2 = n^2 ( k_{x}^2 + k_{2y}^2) > k_{x}^2 + k_{2y}^2 = k_2^2.$$ Si $k_{1x}^2$ es lo suficientemente grande, esto requiere $k_{2x}^2$ para ser cada vez más grande, mientras que todavía requiere el vector de onda total $k_2^2$ para mantenerse por debajo de un determinado límite, y en algún momento esto no se puede mantener, y no hay ninguna onda de propagación que pueda cumplir estas relaciones.
Más geométricamente, a medida que la onda incidente se inclina más y más, su longitud de onda transversal a lo largo del límite ( $\lambda_\perp = 2\pi/k_x$ ) se hace cada vez más corta, y en algún momento llega a ser más corta que la longitud de onda de la luz en el medio más delgado, $\lambda_2 = \frac{2\pi}{k_2} = n\frac{2\pi}{k_1} = n\lambda_1 > \lambda_1$ y esa ola ya no es compatible.
Esto se ve geométricamente cuando la onda alcanza el ángulo crítico,
y luego más allá del ángulo crítico en el régimen de reflexión interna total,
donde se puede ver que la longitud de onda transversal es ahora más corta que $\lambda_2$ En otras palabras, $k_{2x}^2 > k_2$ que requiere $k_{2y}^2$ para ser negativo (!). Así, en la imagen de la onda, $k_{2y}$ debe ser imaginaria, para que la onda transmitida sea una onda evanescente, con el factor "oscilatorio" $\exp(ik_y y) = \exp(-\kappa y)$ Ahora está tomando un declive exponencial. (Esto es generalmente extremadamente rápido, por lo que esta onda evanescente se suele ignorar por completo dentro de la imagen de rayos de la óptica geométrica).
Espero que esto ayude a aclarar lo que sucede en este proceso.