La notación $\vert a\rangle\langle b\vert$ es algo que tú defines.
En particular, el objeto $\vert a\rangle\langle b\vert$ , para $\vert a\rangle$ , $\vert b\rangle \in \mathcal{H}$ se define como el operador lineal $\hat{O}\in\mathcal{L}(\mathcal{H})$ tal que $$\langle \psi_1\vert \hat{O}\vert\psi_2\rangle=(\langle\psi_1\vert a\rangle)(\langle b\vert\psi_2\rangle),\forall\vert \psi_{1,2}\rangle\in\mathcal{H}$$
Para demostrar que $\vert a\rangle\langle b\vert\psi\rangle=\vert a\rangle(\langle b\vert\psi\rangle)$ tenemos que demostrar que $\hat{O}\vert\psi\rangle=\vert a\rangle(\langle b\vert\psi\rangle)$ . La definición anterior es suficiente para demostrarlo.
Prueba:
\begin{align} \langle i\vert\hat{O}\vert\psi\rangle&=(\langle i\vert a\rangle)(\langle b\vert \psi\rangle)&,\forall\vert i\rangle\in\mathcal{H} \\&=\langle i\vert (\langle b\vert\psi\rangle)\vert a\rangle&,\forall\vert i\rangle\in\mathcal{H} \\\implies\hat{O}\vert\psi\rangle&=(\langle b\vert\psi\rangle)\vert a\rangle \\\mathrm{(by\ convention\ defined\ to\ be)}&=\vert a\rangle(\langle b\vert \psi\rangle) \end{align}
O, en otras palabras, $\vert a\rangle\langle b\vert\psi\rangle=\vert a\rangle(\langle b\vert\psi\rangle)$ .