La geometría algebraica real tiene su propio conjunto de métodos. Aunque tener en cuenta la imagen compleja es a veces útil (por ejemplo, para cualquier variedad algebraica real X la desigualdad de Smith-Thom afirma que $b(X(\mathbb{R})) \leq b(X(\mathbb{C}))$ , donde $b(\cdot)$ denota la suma de los números de Betti topológicos con coeficientes mod 2), la mayoría de la técnica utilizada se construye desde cero o se toma prestada de otras áreas, como la teoría de la singularidad o la teoría de modelos.
La bibliografía es mucho más reducida para el GAR que para el GA tradicional; la referencia básica es el libro de Bochnak, Coste y Roy (preferiblemente la edición en inglés, que es más reciente en más de 10 años, y ha sido muy ampliada). El libro cubre en particular el espectro real, el principio de transferencia (que hace que los métodos no estándar sean realmente fáciles), las estratificaciones y los colectores de Nash, entre otros temas. Michel Coste también tiene Introducción a la geometría semialgebraica disponible en su página web un tratamiento muy breve de algunos resultados básicos, suficiente para darle una primera impresión.
Otros libros interesantes suelen ser más breves y centrados que BCR, ya que tratan un aspecto específico; por ejemplo, el libro de Prestel Polinomios positivos. (que trata sobre todo de resultados como el teorema de Schmudgen), y Andradas-Brocker-Ruiz Conjuntos construibles en geometría real (que trata sobre todo del número mínimo de desigualdades necesarias para definir conjuntos básicos). El libro de Benedetti y Risler es muy interesante y concreto; encontré algunos pasajes muy útiles y algunos resultados son difíciles de encontrar en otros libros (las secciones sobre la complejidad aditiva de los polinomios son muy completas), pero es un poco disperso para mi gusto.
Como su nombre indica, el libro de Basu Pollack y Roy se centra por completo en los aspectos algorítmicos. Es un libro muy bueno, y todavía puede recoger algo de la teoría allí, pero no suena como lo que está buscando en este momento.
En cuanto a la o-minimalidad, también en este caso la página web de Michel Coste contiene una introducción que complementa muy bien el libro de van den Dries. Yo dudaría en agrupar la o-minimalidad con la geometría algebraica real. En algunos aspectos, los dos dominios son sin duda primos cercanos, y la o-minimalidad puede verse como una amplia generalización de las estructuras algebraicas reales; por otro lado, cada disciplina tiene también sus propios aspectos y problemas que no se trasladan tan bien a la otra.
Estoy siendo verboso como siempre. Aun así, espero que sirva de ayuda.