Ta có : \(5 C_{n}^{n-1}-C_{n}^{3}=0 \Leftrightarrow 5 n-\frac{n(n-1)(n-2)}{6}=0 \Leftrightarrow 30-(n-1)(n-2)=0\) do \(n \geq 3\).

\(\Leftrightarrow n^{2}-3 n-28=0 \Leftrightarrow\left[\begin{array}{l}n=7(\mathrm{tm}) \\n=-4(l)\end{array}\right.\)

Số hạng tổng quát trong khai triển \(\left(\frac{x^{2}}{2}-\frac{1}{x}\right)^{7}\) là:

\(C_{7}^{k}\left(\frac{x^{2}}{2}\right)^{7-k} \cdot\left(-\frac{1}{x}\right)^{k}=C_{7}^{k} \cdot(-1)^{k} \cdot\left(\frac{1}{2}\right)^{7-k} x^{14-3 k} \text { do } 0 \leq k \leq 7\)

Số hạng chứa \(x^{5}\) ứng với số tự nhiên \(k\) thỏa mãn: \(14-3 k=5 \Leftrightarrow k=3\).

Vậy hệ số của \(x^{5}\) là: \(C_{7}^{3} \cdot(-1)^{3} \cdot\left(\frac{1}{2}\right)^{7-3}=-\frac{35}{16} \Rightarrow a-b=35-16=19\).