Un espacio vectorial sobre un campo $\mathbb{F}$ es un conjunto $V$ con operaciones $+$ y $\cdot$ que satisface los axiomas del espacio vectorial. Dado un espacio vectorial $V$ es un espacio dual $V^\star$ se define como $\mathrm{Hom}(V,\mathbb{F})$ es decir, el conjunto de todos los mapas lineales (funcionales) entre el espacio vectorial y su campo subyacente (considerado como un espacio vectorial propio en este caso).
Normalmente, la notación de Dirac $\langle v|w\rangle$ es una representación de un producto escalar y el Sujetador y Ket corresponden en un nivel bajo a los vectores introducidos en este producto escalar. Nótese que para el producto escalar complejo, el orden de los argumentos es importante debido a su naturaleza hermitiana y a su semi-bilinealidad, es decir, que es lineal conjugado con respecto a un argumento. Una forma clásica es definir el producto escalar complejo estándar para que sea lineal conjugado en el segundo argumento. En Bra-Ket-notation, se suele invertir el orden de los argumentos del producto escalar complejo, es decir $\langle x,y\rangle=\langle y|x\rangle$ resultando una linealidad conjugada en el primer argumento.
La clave es que existe una fuerte correspondencia entre los productos escalares y los miembros del espacio dual, es decir, los funcionales lineales.
Existe una forma de que cualquier funcional se corresponda de forma unívoca con una representación mediante el producto escalar (del espacio vectorial asociado). Esto se conoce como Teorema de la representación de Riesz .
Más concretamente, se puede observar un vector $v\in V$ y supongamos que $\langle\cdot,\cdot\rangle$ es un producto escalar asociado (girando $V$ en un espacio euclidiano/unitario en el caso real/complejo). Entonces el mapa $\varphi_v:w\mapsto\langle w,v\rangle$ es un miembro del espacio dual $V^\star$ y el teorema dice que cualquier función lineal $\psi\in V^\star$ puede escribirse como $\varphi_v$ de forma única.
Así, puedes convertir un producto escalar entre dos vectores en una aplicación de un funcional lineal a otro vector, llevando el enunciado del problema al ámbito de los espacios duales, donde tienes otras posibilidades matemáticas para abordar diversas cuestiones.
EDITAR: Tenga en cuenta que la definición de $\varphi_v$ por supuesto depende también del argumento que se supone lineal conjugado, en este caso el segundo, ya que la linealidad en el primero es necesaria para hacer $\varphi_v$ un mapa lineal (comprueba esto).