El llamado teorema maestro no es necesario de todos modos, ni aquí ni en muchas otras preguntas de la misma índole que se hacen en math.se, así que el hecho de que requieras una solución que no lo utilice es bastante bienvenido... Aquí vamos:
Al igual que cuando se estudian las ecuaciones diferenciales ordinarias, se parte de la parte lineal de la relación, es decir, $$T(n)=4T(n/2)=\color{blue}{2}^{\color{red}{2}}T(n/\color{blue}{2}),$$ o de forma equivalente, $$\frac{T(n)}{n^{\color{red}{2}}}=\frac{T(n/2)}{(n/2)^{\color{red}{2}}},$$ que obviamente se resuelve con $$T(n)=Cn^{\color{red}{2}},$$ para alguna constante $C$ . Esto sugiere transformar la relación en cuestión, utilizando $$S(n)=T(n)/n^2.$$ Se obtiene $$S(n)=S(n/2)+1/n.$$ Mejor, pero no la mejor formulación posible... Iterando la identidad que implica $S$ produce los valores de $S$ en $n/2$ , $n/4$ y así sucesivamente, por lo que también podríamos considerar desde el principio $$R(k)=S(2^k)=T(2^k)/4^k.$$ Ahora la relación en cuestión se convierte en $$R(k)=R(k-1)+1/2^k,$$ es decir, $$R(k)=R(0)+1/2+1/4+\cdots+1/2^k=R(0)+1-1/2^k,$$ o de forma equivalente, $$T(2^k)=4^k(T(1)+1)-2^k,$$ lo que demuestra que $$T(2^k)=\Theta(4^k),$$ para cada no negativo $T(1)$ . Y ahora viene una de las prácticas más insatisfactorias del campo, que es pretender que esta última identidad implica que $$T(n)=\Theta(n^2),$$ aunque no lo hace (y de todos modos, cuál sería la identidad de la que partimos cuando $n=3$ ?).
En retrospectiva, la fórmula exacta que encontramos sugiere que el límite superior $$T(n)\leqslant Cn^2-n,$$ debería pasar fácilmente. Y si este límite superior se mantiene para $n/2$ entonces $$T(n)=4T(n/2)+n\leqslant4(C(n/2)^2-(n/2))+n=Cn^2-n,$$ como se desee. Asimismo, todo límite inferior $$T(n)\geqslant cn^2-n,$$ es hereditaria.