Xét: A=(a^2+b^2+c^2)(a+b+c)-3(a^2.b+b^2.c+c^2.a)= a^3 + b^3 + c^3 + a.b^2 + b.c^2 + c.a^2 - 2a^2.b - 2b^2.c - 2c^2.a= a^2(a-b) + b^2(b-c) + c^2(c-a) + (b-a).c^2 + (a-c).b^2 + (c-b).a^2= (a-b)^2.(a+b) + (b-c)^2.(b+c) + (c-a)^2.(c+a) \geq 0Vì a,b,c là các số dương nên A\geq0Hay, (a^2+b^2+c^2)(a+b+c) \geq 3.(a^2.b+b^2.c+c^2.a)Hay, $\frac{a^2+b^2+c^2}{(a^2+b^2+c^2} \leq \frac{a+b+c}{3}Nên, P\leq \frac{a+b+c}{3} - \frac{a^2+b^2+c^2}{3}\Leftrightarrow 12P \leq 4a + 4b + 4c - 4a^2 - 4b^2 - 4c^2\Leftrightarrow 12P \leq 4a - 4a^2 -1 + 4b - 4b^2 - 1 + 4c - 4c^2 - 1 + 3\Leftrightarrow 12P \leq -(2a-1)^2 - (2b-1)^2 - (2c-1)^2 + 3\Leftrightarrow 12P \leq 3$$\Leftrightarrow P\leq \frac{1}{4}$Dấu bằng xảy ra khi và chỉ khi $a=b=c=\frac{1}{2}$
Xét:
A=(a^2+b^2+c^2)(a+b+c)-3(a^2.b+b^2.c+c^2.a)= a^3 + b^3 + c^3 + a.b^2 + b.c^2 + c.a^2 - 2a^2.b - 2b^2.c - 2c^2.a= a^2(a-b) + b^2(b-c) + c^2(c-a) + (b-a).c^2 + (a-c).b^2 + (c-b).a^2= (a-b)^2.(a+b) + (b-c)^2.(b+c) + (c-a)^2.(c+a) \geq 0Vì
a,b,c là các số dương nên
A\geq0Hay,
(a^2+b^2+c^2)(a+b+c) \geq 3.(a^2.b+b^2.c+c^2.a)Hay, $\frac{a^2
b+b^2
c+c^2
a}{a^2+b^2+c^2} \leq \frac{a+b+c}{3}
Nên, P\leq \frac{a+b+c}{3} - \frac{a^2+b^2+c^2}{3}
\Leftrightarrow 12P \leq 4a + 4b + 4c - 4a^2 - 4b^2 - 4c^2\Leftrightarrow 12P \leq 4a - 4a^2 -1 + 4b - 4b^2 - 1 + 4c - 4c^2 - 1 + 3
\Leftrightarrow 12P \leq -(2a-1)^2 - (2b-1)^2 - (2c-1)^2 + 3\Leftrightarrow 12P \leq 3$$\Leftrightarrow P\leq \frac{1}{4}$Dấu bằng xảy ra khi và chỉ khi $a=b=c=\frac{1}{2}$