Điều kiện xác định: x2y+xy−5≥0.
Ta có:
π. y=0 không phải là nghiệm của hệ
π. Xét y≠0, ta có:
xy2(√x2+1+1)=3√y2+9+3y
⇔x√x2+1+x=3y√(3y)2+1+3y (★)
Xét hàm f(t)=t√t2+1+t,(t∈R) dễ thấy f(t) đồng biến trên R.
Do đó: (★)⇔x=3y⇔xy=3.
Thay vào phương trình (2) của hệ, ta được:
(2)⇔(3x−1)√3x−2−4x3+9x2−7x=0 (x≥23.)
⇔4x(x2−3x+2)+(3x−1)(x−√3x−2)=0
⇔(x2−3x+2)(4x+3x−1x+√3x−2)⏟>0,∀x≥23=0 (vì x≥23 nên x+√3x−2>0)
⇔x2−3x+2=0
⇔[x=1⇒y=3x=2⇒y=32
Kết luận: (x;y)=(1;3) hoặc (x;y)=(2;32).