La pregunta (v1) abusa ligeramente del lenguaje, se entienda como se entienda. Aquí esbozo tres interpretaciones.
1) Interpretación en términos de matriz de densidad $\rho$ :
Supongamos que el operador ${\cal O}$ es diagonalizable. Como los estados propios son estados puros, los valores propios deben ser $1$ . En otras palabras, ${\cal O}$ es el operador de identidad. Entonces $\langle {\cal O} \rangle = \mathrm{tr}{\cal O}\rho=\mathrm{tr}\rho=1$ para cualquier matriz de densidad mixta o pura $\rho$ .
2) Interpretación en términos de operador ${\cal O}$ que satisfaga
$$\langle 0 |{\cal O}| 0\rangle =1,$$ $$\langle 1 |{\cal O}| 1\rangle =1,$$ $$\langle \psi |{\cal O}| \psi\rangle =0 \qquad \mathrm{for~~all} \qquad |A|=|B|=\frac{1}{\sqrt{2}}.$$
Aquí
$$|\psi\rangle = A| 0\rangle+B| 1\rangle, \qquad 1=||\psi||^2 = \langle \psi|\psi\rangle =|A|^2+|B|^2 .$$
$|A|=|B|=\frac{1}{\sqrt{2}}$ es no lo que tradicionalmente se entiende por ser "el Estado más mixto". Nótese que no hay sólo uno de estos estados, sino infinitos pares de números complejos $(A,B)$ que satisfagan $|A|=|B|=\frac{1}{\sqrt{2}}$ . Incluso después de eliminar una fase global, queda una fase relativa.
Supongamos que ${\cal O}$ es un operador hermitiano. Entonces ${\cal O}$ tiene una matriz de la forma
$${\cal O} = \left[\begin{array}{cc} 1 & c \\ c^* & 1 \end{array}\right]. $$
Así que
$$0=\langle \psi |{\cal O}| \psi\rangle = |A|^2+|B|^2+A^*cB+B^*c^*A = 1+2\mathrm{Re}(A^*cB).$$
Pero esto es imposible para las fases complejas generales de $A$ y $B$ con $|A|=|B|=\frac{1}{\sqrt{2}}$ .
3) Interpretación en términos de operador ${\cal O}$ que satisfaga
$$\langle 0 |{\cal O}| 0\rangle =1,$$ $$\langle 1 |{\cal O}| 1\rangle =1,$$ $$\langle \psi |{\cal O}| \psi\rangle =0 \qquad \mathrm{for~at~least~one} \qquad |A|=|B|=\frac{1}{\sqrt{2}}.$$
El polinomio característico $p_{\cal O}(\lambda)$ para la matriz ${\cal O}$ lee
$$p_{\cal O}(\lambda)=\det({\cal O}-\lambda {\bf 1})= (\lambda-1)^2-|c|^2= (\lambda-1-|c|) (\lambda-1+|c|).$$
Por tanto, los dos valores propios de ${\cal O}$ son $\lambda=1\pm|c|$ . Dado que los valores esperados para ${\cal O}$ debe estar entre $0$ y $1$ debemos exigir que $c=0$ . En otras palabras, ${\cal O}$ es el operador identidad, lo que conduce a la siguiente incoherencia
$$0=\langle \psi |{\cal O}| \psi\rangle =\langle \psi |\psi\rangle =1.$$