Depende un poco de cómo se realice el gradiente. El caso más probable es que sea simplemente una función lineal $$\mathbf{c}(t)=\langle 255,0,0\rangle + t\langle -255,255,0\rangle.$$ para $t\in[0,1]$ nota que $\mathbf{c}(0)$ es el vector correspondiente al color uno y $\mathbf{c}(1)$ es el color dos.
Lo importante es que el segundo sumando siempre añade a la segunda coordenada la misma cantidad que elimina de la primera. Por lo tanto, se podría utilizar este sencillo criterio: un color $\langle a,b,c\rangle$ está en el gradiente si
- $c=0$
- $a+b=255$
Editar: Voy a redondear mi respuesta para que sea un poco más general. Si te dan dos colores $\alpha=\langle r_1,g_1,b_1\rangle$ y $\beta=\langle r_2,g_2,b_2\rangle$ entonces cada color del gradiente de la línea recta entre ellos puede ser realizado como un valor de la función $$\mathbf{c}(t)=\alpha+t(\beta-\alpha)=\langle r_1,g_1,b_1\rangle+t\langle r_2-r_1,g_2-g_1,b_2-b_1\rangle$$ de nuevo, como $t$ se sitúa en el intervalo $[0,1]$ . Como antes, $\mathbf{c}(0)=\alpha$ y $\mathbf{c}(1)=\beta$ .
Ahora bien, si tienes un vector $\gamma=\langle r_3,g_3,b_3\rangle$ y quieres determinar si este color se encuentra en el gradiente, tendrías que ver si hay un $t\in[0,1]$ que satisface la ecuación $$\gamma=\alpha+t(\beta-\alpha)$$ que puede comprobarse mediante la función $\lambda_i$ utilizado en la respuesta de @vadim123.