Revisado: al menos podemos conseguir algo mejor cota superior.
Supongamos que $B\subseteq S$$|B|=b$. Para $k=0,\ldots,a-1$ hay $\binom{b}k\binom{n-b}{a-k}$ subconjuntos $A$ $S$ tal que $|A|=a$$A\nsubseteq B$, por lo que hay una familia de
$$\sum_{k=0}^{a-1}\binom{b}k\binom{n-b}{a-k}$$
los subconjuntos de a $S$ de cardinalidad $a$, ninguno de los cuales es un subconjunto de a $B$. Todos los otros $a$-subconjunto de $S$ es un subconjunto de a $B$. Por lo tanto,
$$f(a,b)\le 1+\sum_{k=0}^{a-1}\binom{b}k\binom{n-b}{a-k}\;.$$
Tenga en cuenta que $\binom{b}k\binom{n-b}{a-k}=0$ si $k<0$ o $k>a$, por lo que
$$\begin{align*}
\sum_{k=0}^{a-1}\binom{b}k\binom{n-b}{a-k}&=\sum_k\binom{n}k\binom{n-b}{a-k}-\binom{b}a\binom{n-b}0\\
&=\binom{n}a-\binom{b}a
\end{align*}$$
por Vandermonde de la identidad. Finalmente, entonces,
$$f(a,b)\le\binom{n}a-\binom{b}a+1\;.$$
Agrega1: por supuesto, yo lo hice de la manera difícil: $S$ $\binom{n}a$ subconjuntos de cardinalidad $a$, $\binom{b}a$ de que son subconjuntos de a $B$, por lo que ha $\binom{n}a-\binom{b}a$ que no son subconjuntos de a $B$.
Añadido2: Este límite superior es, sin duda no $f$, sin embargo. Tome $n=5,a=2$, e $b=3$, y de considerar a la familia
$$\left\{\{1,2\},\{3,4\},\{1,5\},\{2,5\}\right\}$$
de dos elementos, subconjuntos de a $S=\{1,2,3,4,5\}$. Si $B$ es un tres elementos subconjunto de $S$ que no contiene ni $\{1,2\}$ ni $\{3,4\}$,$5\in B$, y desde $\{3,4\}\nsubseteq B$, es claro que $B\cap\{1,2\}\ne\varnothing$ y que, por ende, $B$ contiene $\{1,5\}$ o $\{2,5\}$. Así, por $n=5$ tenemos $f(2,3)\le 4$. De hecho,$f(2,3)=4$. Si le $\mathscr{A}$ es una colección de dos elementos, subconjuntos tales que cada tres-elemento subconjunto de $S$ contiene un miembro de $\mathscr{A}$, podemos suponer que la $\{1,2\}\in\mathscr{A}$. Ahora vamos a $B$ ser un tres elementos subconjunto de $S$ tal que $B\cap\{1,2\}=\{1\}$; si $B$ es para contener un miembro de $\mathscr{A}$, debemos tener $B\setminus\{1\}\in\mathscr{A}$. Pero hay $\binom32=3$ posibilidades de $B\setminus\{1\}$, lo $|\mathscr{A}|\ge 4$.