đặt x+y=S; xy=P Ta có:
\begin{cases}x-y+2xy= 5\\ x^{2}+y^{2}+xy= 7\end{cases} <=>\begin{cases}-(x+y)+2xy=5 \\ (x+y)^{2}-xy=7 \end{cases}<=>\begin{cases}-S+P=5(1)\\ S^{2}-P= 7(2)\end{cases}
=>S=P-5 thế vào (2)=> (P-5)^{2}-P=7 <=> P^{2}-11P+18=0 <=> P=9 hoặc P=2
P=9=>S=4=> x,y là nghiệm của pt x^{2}-4x+9=0 (vô nghiệm)
P=2=>S=-3=> x,y là nghiệm của pt x^{2}+3x+2=0 <=> x=-1 => y=-2 hoặc x=-2 => y=-1