Como han indicado otros, sería mucho más fácil responder a esta pregunta si dieras una mejor indicación del nivel en el que estás estudiando actualmente las matemáticas/intentando demostrar teoremas. (¿Instituto, estudiante de grado, estudiante de doctorado, profesional, ...?) No obstante, he aquí algunos consejos generales, que son similares a los consejos que doy a mis propios estudiantes en el nivel de licenciatura avanzada/estudiante de doctorado principiante.
Empecemos por lo que hacen los matemáticos profesionales: demuestran nuevos teoremas, resultados que nunca se han demostrado antes. Hacer esto tiene una dificultad evidente: hasta que no se demuestra el teorema, no se puede estar seguro de que sea cierto. Por lo tanto, hay que tratar de adivinar lo que podría ser cierto antes de estar seguro de que la suposición es correcta. de estar seguro de que tu suposición es correcta. La forma en que la gente hace esto es mediante algún tipo de intuición construida con la experiencia. Como regla general, probablemente sea mejor posponer el intento de hacer esto hasta que se haya tenido tiempo de construir la intuición y la experiencia necesarias; normalmente ese momento sería en algún momento durante el curso de los estudios de doctorado.
Antes de intentar demostrar nuevos teoremas, lo mejor es practicar la demostración de teoremas que ya se sabe que son ciertos. Una fuente de ellos son los problemas de tarea asignados en los cursos que estás estudiando, pero por tu pregunta parece que estás teniendo problemas con ellos.
Una buena manera de mejorar tus habilidades de demostración de teoremas, entonces, es hacer lo siguiente volver a un curso (teórico) que hayas estudiado hace tiempo y con cuyos resultados te sientas cómodo. Para mucha gente, éste sería un primer curso de teoría de grupos, o quizás un curso de teoría de números elemental. A continuación, intenta demostrar los principales teoremas del curso sin mirar tus apuntes o tu libro de texto.
El objetivo de esto es que, con suerte, esté bastante familiarizado con las declaraciones de los resultados, por haberlos utilizado muchas veces desde entonces, y probablemente también esté razonablemente familiarizado con las técnicas del curso. Pero, por otro lado, es probable que no recuerde todas las pruebas exactamente . Por lo tanto, es un buen lugar para practicar: su experiencia anterior con el curso, y la ventaja de haber visto los resultados probados cuidadosamente antes, debería servir como una intuición que puede guiarle al tratar de reprobar los resultados usted mismo.
Si después de un tiempo no consigues demostrar un resultado, puedes consultar tus notas o el texto. Pero intenta no mirar todo el argumento. Sólo busca el punto del argumento en el que el autor trata el punto en el que estás atascado. Una vez que hayas visto qué técnica general utilizan para superar ese punto de atasco, ¡deja de leer! Intenta utilizar tú mismo esa técnica para terminar la prueba. De este modo, empezarás a aprender las diferentes técnicas y cómo se utilizan en los argumentos.
Este es el proceso que yo mismo utilicé (y sigo utilizando) como práctica para demostrar teoremas, y lo recomiendo encarecidamente. Cuantos más teoremas demuestre usted mismo, mejor lo hará. Una vez que hayas repasado un curso de esta manera, también entenderás los resultados y las técnicas de ese curso mucho mejor que antes.