Queremos calcular:
$$ I=\int_{0}^{\frac{\pi}{2}}\log(\sin\theta)\log\left(\cos^2\frac{\theta}{2}\right)\cot(\theta)\,d\theta \tag{1}$$
y por integración por partes, el problema se reduce a calcular:
$$ J = \int_{0}^{\pi/2}\log^2(\sin\theta)\tan\frac{\theta}{2}\,d\theta =2\int_{0}^{1}\log^2\left(\frac{t}{1+t^2}\right)\frac{t\,dt}{1+t^2}.\tag{2}$$
Por otro lado, tenemos a:
$$ \int_{0}^{1}\frac{t\log^2(t)}{1+t^2}\,dt=\frac{3\zeta(3)}{16},\qquad \int_{0}^{1}\frac{t\log^2(1+t^2)}{1+t^2}\,dt=\frac{\log^3(2)}{6},\tag{3}$$
donde la primera integral puede ser calculada a través de la diferenciación bajo el signo integral, mediante la explotación de la función beta de Euler, mientras que la segunda integral es elemental. De la misma manera, se obtiene:
$$ \int_{0}^{1}\frac{t\log(t)\log(1+t^2)}{1+t^2}\,dt = -\frac{\zeta(3)}{32} \tag{4}$$
por lo que es sencillo para calcular los $(2)$,$(1)$.