Limitemos nuestra consideración a:
- Un espacio tiempo de 1+1 dimensiones,
- Boosts de Lorentz (en contraposición a otras transformaciones de coordenadas).
La razón para restringirnos a los boosts de Lorentz, esencialmente radica en mantenernos dentro del marco matemático de la relatividad especial, sin adentrarnos en herramientas que requieran de la relatividad general. (La respuesta de J. Murray interpreta hábilmente esta pregunta utilizando un marco general relativista al discutir cómo transforma la métrica del espacio tiempo). Físicamente, los boosts de Lorentz son las transformaciones que relacionan observadores inerciales (en ausencia de gravedad), por lo que esta asunción se reduce a suponer que solo queremos considerar observadores inerciales y estamos descartando cualquier efecto gravitacional.
La trayectoria de un fotón puede especificarse dando el valor de $x$ como función de $t$ (en general querrías dar tanto $x$ como $t$ en términos de un parámetro $\lambda$, pero no es necesario complicar tanto el formalismo en este ejemplo). Una trayectoria de ejemplo sería $$ x = x_0 + ct $$ para alguna constante $x_0$. La velocidad 3 es, por supuesto, $c$: $$ v = \frac{dx}{dt} = c $$
Ahora realizamos una transformación de Lorentz para pasar del marco $(x, t)$ al marco $(x', t')$, relacionados por un boost con parámetro de velocidad $v$ \begin{eqnarray} t' &=& \gamma \left(t - \frac{x v}{c^2}\right) \\ x' &=& \gamma\left(x - v t\right) \end{eqnarray} ¿Qué pasa con nuestra trayectoria? Bueno, invirtiendo la transformación anterior, y sustituyéndola de nuevo en la trayectoria, obtenemos... \begin{eqnarray} x &=& x_0 + ct \\ \gamma\left(x' + v t'\right) &=& x_0 + c \gamma \left(t' + \frac{x' v}{c^2} \right) \\ x' \left(1 - \frac{v}{c}\right) &=& x_0 + c t' \left(1 - \frac{v}{c}\right) \\ x' &=& \frac{x_0}{1 - \frac{v}{c}} + c t' \end{eqnarray} En otras palabras, la posición inicial ha cambiado, pero la velocidad 3 $dx'/dt'$ sigue siendo $c$.
Ahora, puedes notar que la derivación anterior implica cancelar factores de $1-v/c$. ¿Qué pasa si $v=c$? Entonces $1-v/c=0$, y no es válido dividir por cero.
En realidad, esta es la cuestión que te interesa; una transformación de Lorentz al marco de reposo de un fotón implicaría usar un parámetro de boost igual a $c$.
De hecho, el problema al tomar $v=c$ ya surge en la primera línea. El factor $\gamma=1/\sqrt{1-v^2/c^2}$ se vuelve infinito cuando $v=c$, y por lo tanto, la transformación de Lorentz en sí misma está mal definida. (Por cierto, para $v>c$, $\gamma$ se vuelve imaginario, lo que también significa que las transformaciones de Lorentz no tienen sentido físico para $v>c$!)
Una forma más sofisticada de interpretar esto geométricamente es que el producto escalar de dos 4-vectores permanece invariante bajo una transformación de Lorentz. En particular, el signo del producto escalar permanece invariable. Esto nos permite dividir separaciones entre puntos en el espacio tiempo en regiones temporalmente separadas (generalmente trabajo con una convención donde estas tienen una norma positiva), regiones separadas espacialmente (que tienen una norma negativa en mi convención), y regiones separadas nulas (que tienen una norma de cero). Una transformación de Lorentz no puede cambiar el signo del producto escalar, por lo que no puede cambiar un vector temporal en un vector espacial, o un vector nulo en un vector temporal. Las trayectorias de los fotones son caminos nulos, y por lo tanto permanecen nulos después de una transformación de Lorentz.
Finalmente, como se menciona en los comentarios, aunque esta respuesta ofrece algunas perspectivas diferentes sobre por qué no se puede construir un marco de reposo de un fotón dentro del marco de la relatividad especial, de hecho la relatividad especial misma está construida asumiendo que la velocidad de la luz es la misma en todos los marcos de referencia inerciales. Por lo tanto, lógicamente hablando, estos argumentos deberían considerarse como comprobaciones de consistencia, pero no realmente como una "prueba".