Đặt A=x2+xy+y2, B=x2−xy−3y2
Nếu y=0 thì B=x2⇒0≤B≤3 (đúng)
Nếu y khác 0 thì đặt t=xy ta được: B=A.x2−xy−3y2x2+xy+y2=A.t2−t−3t2+t+1
Xét t2−t−3t2+t+1=m
⇔(m−1)t2+(m+1)t+m+3=0
Pt này có nghiệm kia m=1 hay Δ≥0
⇒−3−√483≤m≤−3+√483
Mà do 0≤A≤3⇒−3−4√3≤m≤−3+√48