Dejemos que $Ax + By + C = 0$ sea una ecuación general de una recta y $x\cos \alpha + y\sin \alpha - p = 0$ sea la forma normal de la ecuación.
Entonces,
$${-p\over C } = { \cos \alpha\over A} = { \sin\alpha\over B}\tag{1}$$ $${p\over C } = { \cos \alpha\over -A} = { \sin\alpha\over -B} \tag{2}$$ $${p\over C } = { \cos \alpha\over -A} = { \sin\alpha\over -B} = {\sqrt{\sin^2 \alpha + \cos^2 \alpha}\over \sqrt{A^2 + B^2}} = {1\over \sqrt{A^2 + B^2}} \tag{3}$$
$$\therefore \bbox[ #FFFDD0, 10px, Border:2px solid #DC143C]{p = {C\over \sqrt{A^2 + B^2}}, \cos \alpha = {-A\over \sqrt{A^2 + B^2}},\sin\alpha = {-B\over \sqrt{A^2 + B^2}}} $$
No conseguí el $(3)$ parte. ¿Dónde está el $\displaystyle{\sqrt{\sin^2 \alpha + \cos^2 \alpha}\over \sqrt{A^2 + B^2}}$ ¿vienen de?