Versión corta: Una base ortonormal es aquella para la que las representaciones de coordenadas asociadas no sólo preservan fielmente las propiedades lineales de los vectores, sino también las propiedades métricas.
Versión larga:
Una base da un sistema de coordenadas (lineal): si $(v_1,\dotsc,v_n)$ es una base para $\mathbb{R}^n$ entonces podemos escribir cualquier $x\in\mathbb{R}^n$ como combinación lineal $$ x = \alpha_1v_1 + \dotsb + \alpha_nv_n $$ exactamente de una manera. Los números $\alpha_i$ son las coordenadas de $x$ wrt la base. Así, asociamos el vector $x$ con una tupla de sus coordenadas: $$ x \leftrightarrow \left[\begin{matrix} \alpha_1 \\ \vdots \\ \alpha_n\end{matrix}\right] $$
Podemos realizar algunas operaciones sobre vectores realizando la misma operación sobre sus representaciones en coordenadas. Por ejemplo, si conocemos las coordenadas de $x$ como arriba, entonces las coordenadas de un múltiplo escalar de $x$ puede calcularse escalando las coordenadas: $$ \lambda x \leftrightarrow \left[\begin{matrix} \lambda\alpha_1 \\ \vdots \\ \lambda\alpha_n\end{matrix}\right] $$ En otras palabras, $$ \lambda x = (\lambda\alpha_1) v_1 + \dotsb + (\lambda\alpha_n) v_n $$ Por poner otro ejemplo, si conocemos las coordenadas de dos vectores, digamos $x$ como arriba y $$ y = \beta_1v_1 + \dotsb + \beta_nv_n $$ entonces las coordenadas de su suma $x+y$ puede calcularse sumando las coordenadas respectivas: $$ x+y \leftrightarrow \left[\begin{matrix} \alpha_1+\beta_1 \\ \vdots \\ \alpha_n+\beta_n\end{matrix}\right] $$ En otras palabras, $$ x+y = (\alpha_1+\beta_1)v_1 + \dotsb + (\alpha_n+\beta_n)v_n $$ Por tanto, en lo que respecta a las operaciones vectoriales básicas (multiplicación escalar y suma vectorial), las representaciones de coordenadas sustituyen perfectamente a los propios vectores. Incluso podemos identificar los vectores con sus representaciones de coordenadas, en contextos en los que sólo son relevantes estas operaciones vectoriales básicas.
Pero para otras operaciones, la representación de coordenadas no sustituye al vector original. Por ejemplo, no se puede calcular necesariamente la norma de $x$ calculando la norma de su tupla de coordenadas: $$ \|x\| = \sqrt{\alpha_1^2+\dotsb+\alpha_n^2}\qquad\text{might not hold.} $$ Por otro ejemplo, no necesariamente se puede calcular el producto punto de $x$ y $y$ calculando el producto punto de sus respectivas tuplas de coordenadas: $$ x\bullet y = \alpha_1\beta_1+\dotsb+\alpha_n\beta_n\qquad\text{might not hold.} $$ Por lo tanto, en contextos en los que estas operaciones son relevantes, las representaciones de coordenadas respecto a una base arbitraria son no perfectamente buenos sustitutos de los vectores reales.
Lo especial de una base ortonormal es que hace que se cumplan esas dos últimas igualdades. Con una base ortonormal, las representaciones de coordenadas tienen las mismas longitudes que los vectores originales y forman los mismos ángulos entre sí.