Đặt $f(x,y)=-5x^2-2xy-2y^2+14x+10y-20$. Ta có
$f(x,y)=-5x^2-2x(y-7)-2y^2+10y-20.$
Coi đây như PT bậc hai với biến $x$, và $y$ là tham số thì
$\max f(x,y)=-\frac{\Delta}{4a}=\frac{(y-7)^2-5(2y^2-10y+20)}{5}=-\frac95y^2+\frac{36}5y-\frac{51}5.$
tại $x=-\frac{b}{2a}=\frac{y-7}{5}$.
Bây giờ thì chỉ cần tìm GTLN của $g(y)=-\frac95y^2+\frac{36}5y-\frac{51}5$. Và cũng làm tương tự như trên ta được
$\max g(y)=-\frac{\Delta}{4a}=-3.$
tại $y=-\frac{b}{2a}=2$.
Vậy GTLN của $-5x^2-2xy-2y^2+14x+10y-20$ là $-3$ khi
$\begin{cases}x=\frac{y-7}{5} \\ y=2 \end{cases}\Leftrightarrow \begin{cases}x=-1 \\ y=2 \end{cases}$