Sí. Por convexidad estricta $\theta_0$ es el único mínimo global, ya que si $f(\theta_1)\leq f(\theta_0)$ entonces para cualquier $0f(\theta_0)$. Sea $$\theta'=\theta_0+\frac{\epsilon}{\|\theta-\theta_0\|}(\theta-\theta_0)=\frac{\epsilon}{\|\theta-\theta_0\|}\theta+\left(1-\frac{\epsilon}{\|\theta-\theta_0\|}\right)\theta_0$$ y notamos que $0<\epsilon/\|\theta-\theta_0\|\leq 1$, entonces por convexidad obtenemos que $$f(\theta')\leq\frac{\epsilon}{\|\theta-\theta_0\|}f(\theta)+\left(1-\frac{\epsilon}{\|\theta-\theta_0\|}\right)f(\theta_0)\leq f(\theta).$$ Dado que $\theta'$ está en el conjunto $S=\{\theta:\|\theta-\theta_0\|=\epsilon\}\subseteq \Theta\setminus B(\theta_0,\epsilon)$, esto nos da $\inf\limits_{\theta\notin B(\theta_0,\epsilon)}f(\theta)=\inf\limits_{\theta\in S}f(\theta)$. Dado que $S$ es compacto, alcanza su infimum, por lo tanto $\inf\limits_{\theta\in S}f(\theta)>f(\theta_0)$.
Edit: s_2 señala que este argumento solo funciona si $S\subseteq \Theta$, lo cual puede no ser el caso. Para remediar esto, notamos que es suficiente que $S\subseteq \Theta$ para $\epsilon$ suficientemente pequeño. Si $S\nsubseteq \Theta$ para todos los $\epsilon$, entonces por convexidad $\Theta$ está contenido en un subespacio afín de dimensión menor a $n$. Cambiando coordenadas podemos reducir la dimensión, y repetimos esto hasta que $\Theta$ contenga a $S$ para algún $\epsilon>0, o lleguemos a $n=0$, en cuyo caso $\Theta$ debe ser un único punto y el resultado es trivial.