TXĐ: $D=R$
$y' = 3x^2 +6x +12m^2$
Hàm số có cd - ct khi $y'=0$ có 2 nghiệm phân biệt $x_1;\ x_2$
$\Leftrightarrow \Delta >0 \Leftrightarrow 9-36m^2 >0 \Leftrightarrow -\dfrac{1}{4} < m < \dfrac{1}{4} (1)$
Khi đó $A=x_1^2 +x_2^2 = (x_1 + x_2)^2 -2x_1 x_2$
Theo Vi-et ta có $x_1 +x_2 = -2;\ x_1 x_2 = 4m^2$ thay lên ta có
$A=x_1^2 +x_2^2 = 4-8m^2 \le 4$. Vậy $\max A = 4 \Leftrightarrow m=0$ thỏa mãn $(1)$