Biến đổi vế phải$\frac{\sqrt2.(cosx-sinx)}{cotx-1}=\frac{\sqrt2(cosx-sinx)}{\frac{cosx}{sinx}-1}=\sqrt2.sinx$
Vế trái
$\frac{1}{tanx+cot2x}=\frac{1}{\frac{sinx}{cosx}+\frac{cos2x}{sin2x}}$
Đẳng thức đã cho tương đương với
$\sqrt2.sinx.(\frac{sinx}{cosx}+\frac{cos2x}{sin2x})=1$
$\Leftrightarrow \frac{sin^2x}{cosx}+\frac{sinx.cos2x}{2sinx.cosx}=\frac{1}{\sqrt2}$
$\Leftrightarrow \frac{1-cos^2x}{cosx}+\frac{cos2x}{2cosx}=\frac{1}{\sqrt2}$
$\Leftrightarrow \frac{2-2cos^2x}{2cosx}+\frac{2cos^2x-1}{2cosx}=\frac{1}{\sqrt2}$
$\Leftrightarrow \frac{1}{2cosx}=\frac{1}{\sqrt2}$
$\Leftrightarrow cosx=\frac{1}{\sqrt2}$
$\Leftrightarrow x=\pm \frac{\pi}{4}+2k\pi$
Tuy nhiên ta phải loại nghiệm $x=\frac{\pi}{4}+2k\pi$ để $cotx-1\neq 0$
Vậy $x=-\frac{\pi}{4}+2k\pi$