Dado que $a\cdot b= \|a\|\cdot \|b\|\cos(\theta)$ tenemos que $$|a\cdot b|= \|a\|\cdot \|b\||\cos(\theta)|$$ (ya que la longitud de un vector es siempre no negativa).
Observando que $|\cos(\theta)|\leq 1$ podemos tener eso:
- $|\cos(\theta)|=1$ lo que implica que $|a\cdot b|\leq\|a\|\cdot \|b\|$ se satisface con la igualdad.
- $|\cos(\theta)|<1$ lo que implica que $|a\cdot b|<\|a\|\cdot \|b\|$
Esto último demuestra la afirmación.
$$|a\cdot b| \leq \|a\|\cdot \|b\|$$
EDITAR : Como señala @user en los comentarios de abajo, no tiene sentido mover el $|\cos(\theta)|$ al denominador como sugirió tu profesor, porque nada te impide tener $\theta=\frac{\pi}2$ lo que implica que $\cos(\theta)=0$ . Es mejor mantenerlo en el otro lado y derivar la conclusión desde allí.
Descargo de responsabilidad Creo que deberías, sin embargo, considerar lo que señalan @jose-carlos-santos y @giuseppe-negro, que en realidad se trata de un razonamiento circular, y por tanto no es una prueba válida.