Las matemáticas no son algo que una persona normal pueda leer una vez y luego utilizar. Se necesita práctica y experiencia. Puedes leer todos los teoremas que quieras, estudiar todos los grandes libros y obras, y aun así, habrás olvidado la mayor parte o no habrás captado la idea.
Lo que más me ayuda a entender algo es traducirlo a mi propio idioma. Tengo unos conocimientos y una forma de ver las cosas. Te habrás dado cuenta de que una misma cosa puede verse y discutirse de varias maneras diferentes, por ejemplo, el álgebra lineal puede hacerse en notación matricial o en notación de mapa/función. El primer paso para entender una obra nueva es averiguar cómo se integra en lo que ya sabes, cómo se traduce al lenguaje que utilizas.
Otro punto importante son las repeticiones. No se puede leer un texto matemático una sola vez y, de repente, saberlo todo. Pero, a diferencia de otros temas, leerlo 100 veces tampoco ayuda, aprendiéndolo de memoria nunca lo entenderás del todo. Las matemáticas tienen mucho de aprendizaje práctico, aunque a primera vista parezcan más bien teóricas. Por eso, si de verdad quieres entender un tema, úsalo tú mismo. Hay múltiples maneras de hacerlo. Por ejemplo, a veces los autores omiten las demostraciones por ser fáciles o se limitan a decir "esto se ve aplicando el teorema X.Y al caso especial de ...". No se limite a leer esos pasajes, tómeselos como un ejercicio: Si el autor del libro cree que usted, como lector, debería ser capaz de demostrar lo que ha escrito, hágalo. Esto no sólo te ayuda a desarrollar una comprensión más profunda del tema y las herramientas para utilizarlo, sino que también repite los teoremas anteriores, ya que lo más probable es que los utilices. Un libro de texto que incluya ejercicios (e incluso soluciones) es de gran ayuda cuando se aprende un tema por primera vez. Por ejemplo, puedes buscar libros de texto de cursos superiores en tu universidad e intentar conseguir los ejercicios y las soluciones de hace unos años.
Como tercer punto para ayudar a entender y memorizar un tema, intenta (después de hacer los dos primeros puntos) filtrar las partes relevantes. Supongamos que estás preparando un examen sobre este tema y sólo se te permite, digamos, llevar una página de apuntes, por lo que debes elegirlos sabiamente. Después de hacer las pruebas y los ejercicios del libro, deberías ser capaz de ver qué resultados son importantes y cuáles son técnicos y sólo están ahí para ayudar a demostrar el teorema principal, por lo que lo más probable es que no sean importantes fuera de este capítulo.
Sé que no he respondido a tu pregunta sobre cómo aprender más en un entorno, pero es porque, en mi opinión, no se puede. Hay una cierta cantidad que puedes aprender, para algunos es más, para otros es menos, pero no puedes ir y entender completamente el contenido de todo un semestre en un fin de semana (podrías leerlo quizás, pero aún así no serías capaz de usarlo). Lo que he intentado darte son pistas sobre cómo estudiar adecuadamente por tu cuenta, cómo asegurarte de que no lo desaprovechas y de que realmente memorizas lo que has hecho, de que serás capaz de utilizarlo incluso fuera del marco del libro/texto. Para mí, mi límite cuando realmente quiero aprender (como se ha descrito anteriormente) un tema completamente nuevo de un libro de alta densidad es quizás de 10-15 páginas al día. Así que 4x12 ya me parece mucho, por eso supongo que no lo estás aprendiendo bien y, por tanto, no podrás utilizarlo plenamente.
Sin embargo, no pierdas la motivación: Si amplías tus conocimientos y recuerdas el primer paso para traducirlos a tu propio idioma, entonces te darás cuenta (pocas veces al principio, más a menudo a medida que pase el tiempo) de que un tema no es completamente nuevo, sino más bien una ampliación de lo que ya sabes; quizá un punto de vista diferente sobre un tema que ya estudiaste. Esto te permite repasarlo más rápido (ya que, por ejemplo, puede que ya conozcas algunos de los trucos utilizados) y, por otro lado, también permite un cuarto punto, el más divertido de todos: Aplicar la nueva teoría para ampliar y simplificar tus conocimientos. A menudo ocurre en matemáticas que un hecho que al principio era realmente difícil y que el profesor tardaba horas en demostrar, se vuelve fácil y obvio una vez que has desarrollado el lenguaje adecuado para entenderlo correctamente (a menudo sólo años después). Revisar los puntos que te causaron problemas, tal vez incluso preguntas abiertas o pequeños enigmas que encontraste por ti mismo, más tarde con nuevos conocimientos y ver cómo algunos de ellos se resuelven como si nada es sencillamente hermoso.
edit: Uno de los comentarios de arriba me ha recordado un hecho que descubrí dando clases como ayudante de alumno: sólo he entendido completamente un tema, si soy capaz de enseñarlo de forma comprensible a los demás y motivarles, mostrarles cómo lo que aprendieron en la clase del día anterior y que sonaba realmente extraño, en realidad no es tan difícil sino más bien bonito. Si tienes la oportunidad, busca un trabajo a tiempo parcial como ayudante de profesor, te ayudará mucho a repasar temas que antes creías haber entendido del todo y ver que ahí hay aún más que aprender.