Teoría ingenua de conjuntos - Halmos . Es un buen punto de partida para la teoría de conjuntos. Tiene unas 100 páginas. Si esta obra le resulta interesante, puede pasar a otras más formales. \advanced textos como Hrbacek & Jech - Introducción a la teoría de conjuntos .
En el caso del Álgebra, probablemente obtendrá una mezcla entre Fraleigh y Herstein . Ambos son excelentes, pero te recomendaría que te hicieras con un ejemplar de Fraleigh, ya que le gusta explicarlo todo con todo detalle. Puedes encontrar conferencias de Fraleigh (gratis en línea en UCCS). Si quieres algo un poco más avanzado, te recomendaría Álgebra - Artin (hay una serie de conferencias gratuitas de Harvard sobre este texto).
Para el álgebra lineal, ' Álgebra lineal bien hecha ' es muy popular. Introducción al álgebra lineal - Strang también es muy bueno. Podrá encontrar conferencias del MIT sobre este libro (¡por el propio autor!), lo que lo hace perfecto para el autoestudio. Aunque un poco anticuado, ' Matrices y transformaciones lineales - Cullen ' está escrito con mucha claridad y le guiará hacia el núcleo de la teoría de forma muy clara. La notación es sólo un poco anticuada.
El análisis es difícil, ya que depende en gran medida de su "madurez matemática". Como dices, para el autoestudio, te recomendaría " Análisis - Steven Lay '. Este libro tiene una excelente introducción a la lógica y a las pruebas. También cubre la teoría de conjuntos y funciones y cómo demostrar casi cualquier cosa relacionada con conjuntos y funciones. A partir de ahí, está, por supuesto, ' Principios de análisis matemático de Rudin '. Por supuesto, este no es un libro adecuado para el auto-estudio, pero usted puede encontrar conferencias gratuitas en youtube (Harvey Mudd) que cubre alrededor de la mitad del material en este libro. Las conferencias son muy buenas y le permitirá trabajar a través de este material.