Vale, esto se adentra más en el territorio de stackoverflow que en el de math.stackexchange, pero así va. Esto es demasiado largo para un comentario.
Dejemos que $f(n,k,m)$ sea el número de formas de elegir $k$ invitados fuera de $n$ tal que $m$ pares de ellos son familiares. Para simplificar las cosas, etiquetemos a los invitados $a_1,a_2,\dots,a_n$ .
Ahora veamos lo que ocurre con $a_n$ . Hay $f(n-1,k,m)$ formas de elegir $k$ invitados que no sean $a_n$ para que haya $m$ Los pares de ellos son familiares. Ahora bien, si $a_n$ es uno de los miembros elegidos, pero $a_{n-1}$ no es, entonces hay $f(n-2,k-1,m)$ formas de elegir a los miembros restantes. Si $a_n$ y $a_{n-1}$ son ambos elegidos, pero $a_{n-2}$ no es entonces hay $f(n-3,k-2,m-1)$ formas de elegir el resto. Del mismo modo, si $a_{n-i}$ a $a_n$ son todos elegidos pero $a_{n-i-1}$ no es, entonces hay $f(n-i-2, k-i-1, m-i)$ formas de elegir el resto. Juntando todo esto, obtenemos $$f(n,k,m) = f(n-1,k,m) +\sum_{i=0}^m f(n-i-2,k-i-1,m-i).$$
Las condiciones de contorno simples son $f(n,k,m)=0$ si $k>n$ y $f(n,k,m)=0$ si $m\ge k$ a menos que $m=k=0$ y $f(n,k,m)=0$ si $m<0$ y $f(n,0,0)=1$ y $f(n,n,m-1) = 1$ .
Esto se puede mejorar, pero dejaré que tú resuelvas los detalles.