Desde $A$ es simétrica, existe una matriz ortogonal $D$ (es decir, $D^{-1} = D^T$) por lo que el $A = D^T \Lambda D$ donde $\Lambda$ es diagonal. Desde
$$h^T Ah = A \Leftrightarrow (DhD^T)^T \Lambda (DhD^T) = \Lambda$$
Así
$$O(q) = D^T O_{\Lambda} D,$$
donde $O_\Lambda = \{ h: h^T \Lambda h = \Lambda\}$. Por lo tanto para responder a (1), (2), es suficiente para asumir que $A$ es diagonal.
Al elegir otro $D$ es necesario asumir que las entradas de la diagonal $\lambda_i$ $\Lambda$ están ordenados por su signo. Si algunos de ellos $\lambda_{k+1}, \cdots, \lambda_l$ son cero, entonces es fácil ver que $h$ debe ser de la forma
$$ h = \begin{bmatrix} A & 0 & B \\ 0 & G &0 \\ C& 0& D\end{bmatrix},$$
donde $G \in GL(n-k,\mathbb R)$. Esta muestra ya que el $O(q)$ es noncompact.
Por lo tanto suponemos ahora que $\lambda_i\neq 0$ todos los $i$. Deje $B,S$ ser la diagonal de la matriz diagonal con entradas $B_i = \sqrt{|\lambda_i|}$, $S_i = \text{sgn} (\lambda_i)$ respectivamente. Entonces
$$\begin{split} &h^T \Lambda h = \Lambda \\ \Leftrightarrow\ &h^T BSB h = B SB \\ \Leftrightarrow\ &((B^{-1} h^T B) S (B h B^{-1}) = S \\ \Leftrightarrow \ & (BhB^{-1})^T S (BhB^{-1}) = S\end{split}$$
Así que de nuevo tenemos que reducir para comprobar el caso de $\Lambda = S$ (tenga en cuenta que también se encontró que el si $A$ es positivo o negativo definitivo, a continuación, $O(q)$ es compacta desde $S = \pm I$ $O(q)$ es diffeomorphic para el grupo ortogonal. Por otro lado, que el $O(q)$ es noncompact de lo contrario, se puede comprobar como la sugerida por Mike en el comentario).
Por supuesto, estos objetos son bien conocidos. Ellos son los indefinida ortogonal grupo $O(p,q)$. Para mostrar que, de hecho, es suave, se puede argumentar, como de costumbre, mediante la asignación de $ h\mapsto h^T Sh$ y demostrar que la tangente mapa es surjective para todos los $h$ en la preimagen de $S$. Pero la suavidad también se deduce del hecho de que todo subgrupo cerrado de una Mentira automáticamente al grupo de suave, así que me limitaré a omitir la comprobación.
La dimensión de $O_S$ puede ser encontrado para ser el mismo como el grupo ortogonal.
Por lo tanto, para resumir, todos los $O(q)$ son suaves colectores, y si $A$ $a$ positivo autovalores, $b$ cero autovalores y $c$ negativo autovalores, a continuación, $O(q)$ es diffeomorphic a$O(a,c) \times GL(b,\mathbb R)$, y la dimensión de es
$$b^2 + \frac{1}{2} (a+c) (a+c-1).$$