Ta có \(P=(2 x-5 y)^{2}-(15 y-6 x)^{2}-|x y-90|\)

Ta thấy \((2 x-5 y)^{2} \geq 0\) với mọi \(\mathrm{x}, \mathrm{y}\) nên \(8 .(2 x-5 y)^{2} \geq 0\) với mọi \(\mathrm{x}, \mathrm{y}\)

Khi đó \(8 .(2 x-5 y)^{2}+|x y-90| \geq 0\) với mọi \(\mathrm{x}, \mathrm{y}\)

Suy ra \(-\left[8 .(2 x-5 y)^{2}+|x y-90|\right] \leq 0\) với mọi \(\mathrm{x}, \mathrm{y}\)

Hay \(\mathrm{P} \leq 0\) với mọi \(\mathrm{x}, \mathrm{y}\)

Dấu"=" xảy ra khi \((2 x-5 y)^{2}=0\) và \(|x y-90|=0\)

+ Với \((2 x-5 y)^{2}=0\) thi \(2 x=5 y \Rightarrow \frac{x}{5}=\frac{y}{2}\)

+ Với \(|x y-90|=0\) thì \(x y=90\)

Đặt \(\frac{x}{5}=\frac{y}{2}=k\) ta được \(\mathrm{x}=5 \mathrm{k}\); và \(\mathrm{y}=2 \mathrm{k}\)

Mà \(x y=90\) nên \(5 \mathrm{k} .2 \mathrm{k}=90\)

Tìm được \(k=3\) hoă̆c \(k=-3\)

+ Nếu \(\mathrm{k}=3\) thì \(\mathrm{x}=15 ; \mathrm{y}=6\)

+ Nếu \(\mathrm{k}=-3\) thì \(\mathrm{x}=-15 ; \mathrm{y}=-6\)

Kết luân : Vậy giá trị lớn nhất của \(\mathrm{P}\) là 0 khi và chỉ khi \(\mathrm{x}=15 ; \mathrm{y}=6\) hoăc \(x=-15 ; y=-6\)