Biến đổi vế phải√2.(cosx−sinx)cotx−1=√2(cosx−sinx)cosxsinx−1=√2.sinx
Vế trái
1tanx+cot2x=1sinxcosx+cos2xsin2x
Đẳng thức đã cho tương đương với
√2.sinx.(sinxcosx+cos2xsin2x)=1
⇔sin2xcosx+sinx.cos2x2sinx.cosx=1√2
⇔1−cos2xcosx+cos2x2cosx=1√2
⇔2−2cos2x2cosx+2cos2x−12cosx=1√2
⇔12cosx=1√2
⇔cosx=1√2
⇔x=±π4+2kπ
Tuy nhiên ta phải loại nghiệm x=π4+2kπ để cotx−1≠0
Vậy x=−π4+2kπ