Por tu comentario, parece que no eres consciente de que el producto exterior es equivalente a una suma en el exponente. Utilizando $\exp(a)\exp(b)=\exp(a+b)$ y transformando los índices como se sugiere en un comentario, puede reescribir su función como
$$ f(x_1,x_2,\ldots,x_n) = C\exp\left\{\sum_{m=1}^n\left(-\frac{1}{2a^2}\left(x_m-\sum_{k=m-L}^{m-1}\alpha_{m-k}x_k\right)^2+y_m\sum_{l=0}^L\beta_{m-k}x_k\right)\right\}\;. $$
De esta representación se desprende que la matriz de la forma cuadrática (cuyo determinante se necesita) es una matriz de banda con ancho de banda $2L+1$ . Las entradas diagonales son constantes ( $1+\sum_i\alpha_i^2$ ) hasta $m=n-L$ pero disminuye para mayores $m$ (porque las sucesivas $\alpha_i^2$ desaparecen) hasta $1$ para $m=n$ . Debido a esta asimetría, dudo que encuentres una buena forma cerrada para el determinante.