Su intuición es correcta, es una buena idea comenzar con la definición de un valor propio, es decir $A x = \lambda x$ . Ahora el problema es que en ambos lados de la ecuación tienes vectores, por lo que no puedes dividir por $x$ . La idea es "transformar" la ecuación en una ecuación que sólo implique cantidades escalares. Una buena manera de hacerlo es tomar el producto escalar con otro vector $y$ es decir, (escribiré el producto escalar $x \cdot y$ como $\langle x, y \rangle$ para no confundirla con la multiplicación normal de los números reales) $$ \langle Ax, y \rangle = \lambda \langle x,y \rangle. $$ Ahora surge la pregunta: ¿qué $y$ ¿debemos elegir? Para resolver la ecuación de $\lambda$ obviamente queremos dividir por $\langle x,y \rangle$ (¡que ya es un número real!). Pero este número podría ser cero si elegimos el vector equivocado $y$ (por ejemplo, si $y = 0$ o $y \perp x$ ). Así que tenemos que asegurarnos de que $\langle x,y \rangle \neq 0$ . Lo único que sabemos es que $x$ es un vector propio. Pero por definición esto significa que $x \neq 0$ y por las propiedades de los productos escalares, se sabe que $\langle x, x \rangle \neq 0$ si y sólo si $x \neq 0$ .
Así que $y = x$ ¡parece una buena elección!
Entonces obtenemos $$ \langle Ax, x \rangle = \lambda \langle x,x \rangle \Rightarrow \lambda = \frac{\langle Ax, x \rangle}{\langle x,x \rangle} $$ o en su notación $$ \lambda = \frac{Ax \cdot x}{x \cdot x}. $$