Trước hết ta chứng minh công thức sau
cotx−tanx=2cot2x
Thật vậy,
cotx−tanx=cosxsinx−sinxcosx=cos2x−sin2xsinxcosx=2cos2xsin2x=2cot2x
Từ đây suy ra 2cot2x+tanx=cotx và PT đã cho tương đương với
cotx+√cotx+3=3
Dễ thấy cotx=1 thỏa mãn PT trên.
Nếu cotx>1⟹cotx+√cotx+3>1+√1+3=3
Nếu cotx<1⟹cotx+√cotx+3<1+√1+3=3
Như vậy chỉ có thể cotx=1⇔x=π4+kπ(k∈Z).