He pasado MUCHO tiempo en la biblioteca de matemáticas de Rutgers hojeando todos los libros, y nunca he encontrado un libro sobre la "mentalidad matemática" que fuera medianamente decente. Podrías hacer mucho peor que leer stack exchange todos los días y convertirte en un asiduo de este foro; todo el mundo aquí es realmente útil y no deberías tener miedo de publicar una pregunta "tonta" por miedo a pasar vergüenza; lo único que molesta a la gente aquí es cuando alguien no pone una cantidad suficiente de pensamiento/esfuerzo en el problema antes de preguntar, o bien cuando la pregunta que se hace está claramente fuera de tema.
Creo que hablar con matemáticos sobre problemas concretos en los que estás trabajando te dará una visión mucho más profunda de cómo piensan los matemáticos que leer algún libro de bajo nivel para un público popular.
Lo más importante en mi opinión no es el libro que finalmente elijas, sino la actitud de que siempre debes intentar resolver TODOS y CADA UNO de los problemas de cualquier libro de matemáticas que leas. Deberías pasar más tiempo resolviendo los problemas que leyendo las secciones.
Le recomiendo que lea "A survey of modern algebra" de Birkhoff y Mclane. El nivel de dificultad es bastante bajo, y los problemas son numerosos e instructivos. Una de las razones por las que te recomiendo tanto este libro en concreto es que el "álgebra moderna" no sólo tiene una importancia fundamental para las matemáticas contemporáneas, sino que además no se suele enseñar en los institutos, por no mencionar que muchos de los resultados son preciosos. Otra cosa estupenda de este libro en concreto es que los autores son matemáticos famosos, y puedes averiguar cómo piensan sobre las matemáticas simplemente viendo la organización de cómo se presenta el material y cómo se derivan los resultados. El primer capítulo de este libro trata de la teoría de números, pero en realidad contiene una muy buena introducción a la escritura de demostraciones lógicas y rigurosas.
Creo que deberías limitarte a leer libros sobre temas específicos y elegir el tema que vas a estudiar en función de tus intereses actuales y tu nivel de conocimientos. Algunos temas para empezar son:
teoría de conjuntos, espacios métricos, análisis complejo, teoría de grupos, teoría de números
Una cosa que quizá quieras probar es leer algunos libros de los grandes maestros. Por ejemplo, hay un gran libro de teoría de conjuntos de Frankel (que da nombre a los axiomas de la teoría de conjuntos), y un gran libro de teoría de números de Sierpinski; recomiendo ambos no sólo porque están muy bien escritos y son básicamente de nivel de bachillerato, sino porque te darán una idea de cómo pensaban los grandes maestros de las matemáticas. Por último, si te sientes seguro de ti mismo, consulta las Disquisiciones aritméticas de Gauss para probar suerte.
Permítanme mencionar también una recopilación de escritos para un público popular de Henri Poincare titulada "El valor de la ciencia". Una gran parte de este libro trata de física, pero hay dos pasajes en particular a los que deberías prestar atención para entender la "mentalidad matemática": el primero es la discusión de la inducción, y el segundo es una sección bastante famosa en la que Poincare discute el proceso psicológico interno que experimentó al resolver un problema altamente técnico.
Mucha suerte.