Giả sử $(C)$ cắt $y=a$ tại $(x_1,a), (x_2,a),(x_3,a)$Đặt $g(x)=f(x)-a=2x^3-x^2-a$
$\Rightarrow g(x_1)=g(x_2)=g(x_3)=0$
$g'(x)=6x^2-2x=0\Leftrightarrow x=0,\frac{1}{3}$
$g'(x)>0 $ khi $x\in(-\infty,0)$ và $(\frac{1}{3},\infty)$
$g'(x)<0$ khi $x\in(0,\frac{1}{3})$
Lập bảng biến thiên ta có $g(x)$ có $3$ nghiệm phân biệt $\Leftrightarrow g(0)>0 , g(\frac{1}{3})<0$
Mà $g(0)=-a , g(\frac{1}{3})=-\frac{1}{27}-a$
Vậy $\frac{1}{27}>a>0$
Khi đó theo định lý Viète
$\begin{cases}x_1+x_2+x_3=\frac{1}{2} \\ x_1x_2+x_2x_3+x_3x_1=0 \end{cases}$
$\Rightarrow x_1^2+x_2^2+x_3^2=\frac{1}{4}$