Hablando como no experto, destacaría que el tema en su conjunto es profundo y difícil. Incluso dejando de lado los recientes avances para $p$ -ádicos, la teoría de la representación de los grupos de Lie semisimples se ha estudiado durante generaciones en el espíritu del análisis armónico. Así que hay mucha literatura y un buen número de libros (no todos se siguen imprimiendo). Tras haber escuchado muchas de las conferencias de Harish-Chandra hace años, sé que el tema requiere una enorme dedicación y muchos conocimientos previos, incluidos los casos especiales clásicos. Algunos libros son sin duda más accesibles que otros para el autoestudio, pero mucho depende de lo que uno ya sepa y de lo que crea que quiere aprender.
El acceso a MathSciNet es útil para rastrear libros y otra bibliografía, así como algunas reseñas perspicaces. Sin intentar hacer mi propia evaluación, aquí están los libros más probables que hay que tener en cuenta, además de la reimpresión en rústica corregida del libro de Varadarajan publicado en Cambridge en 1989 (tengo el original, pero no la impresión corregida, así que no sé cuántos cambios se hicieron):
MR2426516 (2009f:22009), Faraut, Jacques (F-PARIS6-IMJ), Análisis sobre grupos de Lie. An introduction. Cambridge Studies in Advanced Mathematics, 110. Cambridge University Press, Cambridge, 2008.
MR1151617 (93f:22009), Howe, Roger (1-YALE); Tan, Eng-Chye (SGP-SING), Nonabelian harmonic analysis. Applications of SL(2,R). Universitext. Springer-Verlag, Nueva York, 1992.
MR0498996 (58 #16978), Wallach, Nolan R., Análisis armónico en espacios homogéneos. Pure and Applied Mathematics, No. 19. Marcel Dekker, Inc. Marcel Dekker, Inc., Nueva York, 1973.
Este antiguo libro de Wallach, así como otro suyo sobre las representaciones de grupos de Lie, están presumiblemente agotados. En cualquier caso, los libros de texto de nivel introductorio que hacen hincapié tanto en las representaciones de grupos de Lie como en el análisis armónico (a menudo en la dirección de los espacios simétricos) son relativamente escasos. Esto probablemente refleja el hecho práctico de que no se suele intentar impartir cursos de posgrado, que inevitablemente son bastante avanzados. Por otro lado, existen algunos textos modernos de posgrado sobre grupos de Lie compactos y análisis armónico relacionado, así como libros sobre grupos de Lie y sus representaciones con menos cobertura del análisis armónico y los espacios simétricos.