La respuesta a su primera pregunta es un rotundo no. Un ejemplo (entre muchos) es dado por $X=\mathrm{Spec} k$ , $R=k[x]/(x^2)$ y $M=k$ considerado como un $R$ -a través del módulo $k$ -dado por $x\mapsto 0$ .
En cuanto a la segunda pregunta, la razón es que en general hay corrección a esta fórmula procedentes del fracaso de $M$ siendo localmente proyectiva. De hecho hay una larga secuencia exacta $$ 0\rightarrow H^1(X,\mathcal{H}\mathrm{om}_R(M,M))\rightarrow \mathrm{Ext}^1_R(M,M)\rightarrow H^0(X,\mathcal{E}\mathrm{xt}^1_R(M,M)), $$ donde el $\mathcal{E}\mathrm{xt}^i_R(M,M)$ son las gavillas de clases Ext (sus tallos en $x$ son los $\mathrm{Ext}^i_{R_x}(M_x,M_x)$ ). Por lo tanto, se necesita algo como (posiblemente algo un poco más débil) la desaparición $\mathrm{Ext}^i_{R_x}(M_x,M_x)$ para $i=1$ que a su vez están implícitas (aunque no implican) la $R$ -proyectividad de $M$ . Esta secuencia se obtiene más fácilmente por el mapa de la derecha tomando una secuencia a las clases de isomorfismo de extensiones locales y el segundo mapa se obtiene retorciendo la secuencia trivial por un torsor sobre su grupo de automorfismo. la exactitud en el medio proviene del hecho de que cualquier secuencia localmente trivial proviene de tal torsión.
Anexo : Corregida una errata (stacks) y cambiada la secuencia exacta para que sea correcta (una forma de obtenerla es de la secuencia espectral local a la global y yo, como desgraciadamente hago demasiado a menudo, le había dado la vuelta 45 grados).