Xét $\sqrt{3x-6y+5}-2\sqrt{6y-3x-1}=\frac{15x-30y+9}{\sqrt{3x-6y+5}+2\sqrt{6y-3x-1}}=\frac{(15x-30y+9)\sqrt{x-2y+3}}{6}(1)$
Kết hợp $(1)$ với ptr thứ nhất của hệ, ta được ptr sau:
$2\sqrt{3x-6y+5}=\frac{(15x-30y+9)\sqrt{x-2y+3}}{6}+\frac{6}{\sqrt{x-2y+3}}$
Đặt $t=x-2y$, ta được ptr sau:
$2\sqrt{3t+5}=\frac{(15t+9)\sqrt{t+3}}{6}+\frac{6}{\sqrt{t+3}}$
$\Leftrightarrow 12\sqrt{(3t+5)(t+3)}=(15t+9)(t+3)+36=15t^2+54t+63$
Do $15t^2+54t+63>0$ nên ta bình phương 2 vế, ta sẽ được ptr sau:
$\Leftrightarrow144(3t+5)(t+3)=(15t^2+54t+63)^2$
$\Leftrightarrow 225t^4+1620t^3+4374t^2+4788t+1809=0$
$\Leftrightarrow (t+1)^2(225t^2+1170t+1809)=0$
Do $225t^2+1170t+1809>0$
nên $t+1=0$ hay $t=-1\Rightarrow x-2y=-1$ hay $2y=x+1$, thế vào ptr thứ 2 của đề bài, ta được ptr sau:
$x^3-(x+1)+\sqrt{(x+1)^2-x}+\sqrt{x^2+x+1+3}-(x^2+2)[1-(x+1)-x^2]=2$
$\Leftrightarrow \sqrt{x^2+x+1}+\sqrt{x^2+x+4}+x^4+2x^3+2x^2+x-3=0$
$\Leftrightarrow \sqrt{x^2+x+1}-1+\sqrt{x^2+x+4}-2+x^4+2x^3+2x^2+x=0$
$\Leftrightarrow \frac{x(x+1)}{\sqrt{x^2+x+1}+1}+\frac{x(x+1)}{\sqrt{x^2+x+4}+2}+x(x+1)(x^2+x+1)=0$
$\Leftrightarrow x(x+1)(\frac{1}{\sqrt{x^2+x+1}+1}+\frac{1}{\sqrt{x^2+x+4}+2}+x^2+x+1)=0$ hay $x(x+1)A=0$
Do $A>0$
nên $x(x+1)=0$
$\Leftrightarrow x=0$ hay $x=-1$
Với $x=0\Rightarrow y=\frac{1}{2}$
Với $x=-1\Rightarrow y=0$
Vậy ptr có 2 cặp nghiệm là $(-1,0),(0,\frac{1}{2})$