Hola,
Para este problema, mi enfoque es obviamente deficiente, ya que no utilizo la pista. Pero no estoy seguro de cómo utilizar la pista o por qué es necesario hacer este problema.
Esto es lo que hice:
$$ \langle Ax, Ay \rangle = \langle x,y\rangle $$
$$ A\langle x,y\rangle = \langle x,y\rangle $$
$$ \|A\langle x,y\rangle\| = \| \langle x,y\rangle \|$$
Lo anterior sólo es válido si $\|A\| = 1$ , lo que es cierto con $A$ es una transformación ortogonal.
Así,
$$ \|Ax \| = \|x\| $$