Xét: $A=(a^2+b^2+c^2)(a+b+c)-3(a^2.b+b^2.c+c^2.a)$$= a^3 + b^3 + c^3 + a.b^2 + b.c^2 + c.a^2 - 2a^2.b - 2b^2.c - 2c^2.a$
$= a^2(a-b) + b^2(b-c) + c^2(c-a) + (b-a).c^2 + (a-c).b^2 + (c-b).a^2$
$= (a-b)^2.(a+b) + (b-c)^2.(b+c) + (c-a)^2.(c+a) \geq 0$
Vì $a,b,c$ là các số dương nên $A\geq0$
Hay, $(a^2+b^2+c^2)(a+b+c) \geq 3.(a^2.b+b^2.c+c^2.a)$
Hay, $\frac{a^2b+b^2c+c^2a}{a^2+b^2+c^2} \leq \frac{a+b+c}{3}$
Nên, $P\leq \frac{a+b+c}{3} - \frac{a^2+b^2+c^2}{3}$
$\Leftrightarrow 12P \leq 4a + 4b + 4c - 4a^2 - 4b^2 - 4c^2$
$\Leftrightarrow 12P \leq 4a - 4a^2 -1 + 4b - 4b^2 - 1 + 4c - 4c^2 - 1 + 3$
$\Leftrightarrow 12P \leq -(2a-1)^2 - (2b-1)^2 - (2c-1)^2 + 3$
$\Leftrightarrow 12P \leq 3$
$\Leftrightarrow P\leq \frac{1}{4}$
Dấu bằng xảy ra khi và chỉ khi $a=b=c=\frac{1}{2}$