Ta có $P=x^2+y^2-7xy=(x+y)^2-9xy=16(xy)^2-32xy$
Đặt $t=xy$, $\Rightarrow t\in \left [ \frac{1}{4};1 \right ]$
$\Rightarrow P=f(t)=16t^2-9t$
$\Rightarrow f'(t)=32t-9=0\Leftrightarrow t=\frac{9}{32}$
Lập
bảng biến thiên của $f(t)$ ta có $\left\{\begin{matrix} f(t)\geqslant
f(\frac{9}{32})=\frac{-81}{64}\\f(t)\leqslant
f(\frac{1}{4})=\frac{-5}{4} \end{matrix}\right.$
GTNN xảy ra khi $\left\{\begin{matrix} x+y=4xy\\xy=\frac{9}{32} \end{matrix}\right.$
GTLN xảy ra khi $x=y=\frac{1}{2}$
$\bullet$ Cách 2: $x+y=4xy\,\,(xy>0)\Leftrightarrow \dfrac{x}{y}+\dfrac{1}{x}=4\Rightarrow $ có ít nhấtm ột trong hai số nhỏ hơn hoặc bằng hai.
Giả sử: $\dfrac{1}{x}\leq2\Rightarrow x\geq\dfrac{1}{2}\Rightarrow 4x-1\neq0\Rightarrow y=\dfrac{x}{4x-1}\\\Rightarrow P=x^2+\dfrac{x^2}{(4x-1)^2}-7\times\dfrac{x^2}{4x-1}=16\left(\dfrac{x^2}{4x-1}\right)^2-9\times\dfrac{x^2}{4x-1}$
Đặt: $t=\dfrac{x^2}{4x-1}\Rightarrow P=f(t)=16t^2-9t$
Xét: $g(x)=t=\dfrac{x^2}{4x-1};\,\,x\in\left[\dfrac{1}{2};\,1\right]$
$g'(x)=\dfrac{4x^2-2x}{(4x-1)^2};\,\,g'(x)=0\Leftrightarrow \left[ \begin{array}{l}x=0\\x=\dfrac{1}{2}\end{array} \right.$
Kẻ bảng biến thiên ta suy ra được $\dfrac{1}{4}\leq t\leq\dfrac{1}{3}.$
Xét: $f(t)=16t^2-9t;\,\,t\in\left[\dfrac{1}{4};\,\dfrac{1}{3}\right]$
$f'(t)=32t-9;\,\,f'(t)=0\Leftrightarrow t=\dfrac{9}{32}$
$f\left(\dfrac{1}{4}\right)=-\dfrac{5}{4};\,\,f\left(\dfrac{1}{3}\right)=-\dfrac{11}{9};\,\,f\left(\dfrac{9}{32}\right)=-\dfrac{81}{64}$
Vậy: $GTNN$ của $P$ là $-\dfrac{11}{9}$ tại: $\left[ \begin{array}{l}\left\{ \begin{array}{l} x=1\\ y=\dfrac{1}{3} \end{array} \right.\\\left\{ \begin{array}{l} x=\dfrac{1}{3}\\ y=1 \end{array} \right.\end{array} \right.$
$GTLN$ của $P$ là $-\dfrac{81}{64}$ tại: $\left[
\begin{array}{l}\left\{ \begin{array}{l} x=\dfrac{3}{4}\\
y=\dfrac{3}{8} \end{array} \right.\\\left\{ \begin{array}{l}
x=\dfrac{3}{8}\\ y=\dfrac{3}{4} \end{array} \right.\end{array} \right.$