ĐK:$x\geq-1;y\geq\frac{-1}{2}$(*)
Đặt$\begin{cases}a=\sqrt{x+1} \\ b=\sqrt{2y+1}\end{cases},a,b\geq0$
(1)$\Leftrightarrow (a^{2}+b^{2}-3)b=(a^{2}-b^{2})a$
$\Leftrightarrow 3b-2b^{3}=-(a+b)(a-b)^{2}\leq0\Rightarrow 2b^{2}-3\geq0\Leftrightarrow y\geq \frac{1}{4}(1')$
ÁD BĐT AM-GM :$\sqrt{(x+1)(2y+1)}\leq \frac{x+2y+2}{2}\Rightarrow 2xy+5y\leq \frac{x+2y+2}{2}$
$\Leftrightarrow (4y-1)(x+2)\leq0\Leftrightarrow y\leq\frac{1}{4}(2')$
Từ(1')&(2')$\Rightarrow \begin{cases}y=\frac{1}{4}\\ \sqrt{x+1}=\sqrt{2y+1} \end{cases}\Leftrightarrow\begin{cases}x=\frac{1}{2} \\ y=\frac{1}{4} \end{cases}(t/m(*))$
KL:...