"Sólo se ocupa de los vectores", usted está tratando con los vectores de aquí también! Las funciones son vectores, y este es un producto interior en un espacio vectorial!
Realmente, la integral es exactamente lo mismo que con el producto escalar. Para dos vectores en $\Bbb{R}^n$, el producto escalar es $(x_1,...,x_n)\cdot (y_1,...,y_n)=x_1y_1+\cdots+x_ny_n$.
Para las funciones, se puede pensar en el producto escalar de ser la misma cosa! Se multiplican los dos componentes y agregar a ellos! La única diferencia es la medida o el "peso" de cada punto. Desde $\Bbb{R}^n$ es discreto, cada componente tiene peso $1$, donde en estos espacios de funciones de cada componente de peso "$dx$".
Así que, vagamente, en $\Bbb{R}^n$:
$$(x_1,...,x_n)\cdot (y_1,...,y_n)=x_1y_1 \times1+\cdots+x_ny_n\times 1$$
En un espacio de secuencia:
$$(x_1,...)\cdot (y_1,...)=x_1y_1 \times1+\cdots$$
En estos espacios de funciones (escribo $f\cdot g$ destacar que quiero decir que el producto escalar entre las funciones de $f$ $g$ y no el producto $f(x)g(x)$ entre los números de $f(x)$$g(x)$):
$$f \cdot g=f(a)g(a)\times dx+f(a+dx)g(a+dx)\times dx+\cdots=\int_a^b f(x)g(x) dx$$
El interior del producto en función de los espacios es exactamente el punto regular de productos, sólo en dimensiones infinitas y con un diferente "peso".
Edit, por el tema de la ortogonalidad. El acuciante problema aquí es que el interior de los productos de definir lo que significa ser ortogonales. Lo desafío a usted aquí. Sin la referencia a un producto interior (esto incluye los ángulos, como el producto interior DEFINE los ángulos), ¿qué significa ser ortogonales? Usted no puede responder a esta pregunta. Toda la noción de ángulo, ortogonalidad, etc. se resumen en:
$$(x_1,...,x_n)\cdot (y_1,...,y_n)=x_1y_1 \times1+\cdots+x_ny_n\times 1$$
Incluso visualizando esto es difícil. ¿Qué vectores ortogonales en 4 dimensiones, por ejemplo? Yo ciertamente no lo sé. Podría usted trate de imaginarse esta en infinitas dimensiones? No puedo.
Entonces, ¿qué significa decir que el interior del producto de dos funciones es $0$? La misma cosa de siempre, que esas dos funciones son ortogonales! Hay una buena visualización de esto? De verdad que no.
Para otro ejemplo, con este producto interior viene de la norma $\|f(x)\|_2=\sqrt{\int_a^b f^2(x) dx}$. Usted puede dibujar un círculo unitario? Es decir, todas las funciones $f:[a,b]\to\mathbb R$ tal que $\|f(x)\|_2=\sqrt{\int_a^b f^2(x) dx}=1$?
Ciertamente no se puede. Las cosas se vuelven menos geométrica en infinitas dimensiones.