Xét √3x−6y+5−2√6y−3x−1=15x−30y+9√3x−6y+5+2√6y−3x−1=(15x−30y+9)√x−2y+36(1) Kết hợp (1) với ptr thứ nhất của hệ, ta được ptr sau:
2√3x−6y+5=(15x−30y+9)√x−2y+36+6√x−2y+3
Đặt t=x−2y, ta được ptr sau:
2√3t+5=(15t+9)√t+36+6√t+3
⇔12√(3t+5)(t+3)=(15t+9)(t+3)+36=15t2+54t+63
Do 15t2+54t+63>0 nên ta bình phương 2 vế, ta sẽ được ptr sau:
⇔144(3t+5)(t+3)=(15t2+54t+63)2
⇔225t4+1620t3+4374t2+4788t+1809=0
⇔(t+1)2(225t2+1170t+1809)=0
Do 225t2+1170t+1809>0
nên t+1=0 hay t=−1⇒x−2y=−1 hay 2y=x+1, thế vào ptr thứ 2 của đề bài, ta được ptr sau:
x3−(x+1)+√(x+1)2−x+√x2+x+1+3−(x2+2)[1−(x+1)−x2]=2
⇔√x2+x+1+√x2+x+4+x4+2x3+2x2+x−3=0
⇔√x2+x+1−1+√x2+x+4−2+x4+2x3+2x2+x=0
⇔x(x+1)√x2+x+1+1+x(x+1)√x2+x+4+2+x(x+1)(x2+x+1)=0
⇔x(x+1)(1√x2+x+1+1+1√x2+x+4+2+x2+x+1)=0 hay x(x+1)A=0
Do A>0
nên x(x+1)=0
⇔x=0 hay x=−1
Với x=0⇒y=12
Với x=−1⇒y=0
Vậy ptr có 2 cặp nghiệm là (−1,0),(0,12)