Điều kiện: x2−2y−1≥0(PT1)⇔(x−y)(x2−2y)=0⇔x=y∨x2−2y=0(loại)
Thế x=y vào (PT2) ta được: 2√x2−2x−1+3√x3−14=x−2
Đặt u=2−x;v=√x2−2x−1(v≥0)
Khi đó,ta có:
2v−3√u3−6v=−u⇔u3−6v=(2v+u)3⇔8v3+12v2u+6u2v+6v=0⇔v[v2+3(u+v)2+3v]=0⇔v=0∨v=0∧u+v=0⇔v=0⇔x2−2x−1=0⇔x=1±√2.(Trường hợp còn lại loại do u=v=0 vô nghiệm)