Ta xét$(\sqrt{2}+1)-ab-bc-2ca$$=(\sqrt{2}+1)(a^2+b^2+c^2)-(ab+bc+2ca)$$=(a-c)^2+ (\sqrt{\frac{\sqrt{2}-1}{2}}a-\sqrt{\frac{\sqrt{2}+1}{2}}b)^2+(\sqrt{\frac{\sqrt{2}-1}{2}}c-\sqrt{\frac{\sqrt{2}+1}{2}}b)^2\geq 0 (1)$Do đó $ab+bc+2ca\leq \sqrt{2}+1$.Vậy $\max P=\sqrt{2}+1$.Các giá trị $a, b, c$ được tìm từ $(1)$ và điều kiện ban đầu.
Ta xét$
\left(\
frac
{1+\sqrt{
3}}{2}
\right)(a^2+b^2+c^2)-(ab+bc+2ca)
=$
$(a-c)^2+\frac{\sqrt{
3}-1}{2}
\left(\
left
(\frac{\sqrt{
3}+1}{2}
\right)b
-a\right)^2+\frac{\sqrt{
3}-1}{2}
\left(\
left
(\frac{\sqrt{
3}+1}{2}
\right)b
-c\right)^2\geq0
$ $(1)$Do đó $ab+bc+2ca\leq
\frac{1+\sqrt{
3}}{2}$.Vậy $\max P=\
frac{1+\sqrt{
3}}{2}$.Các giá trị $a, b, c$ được tìm từ $(1)$ và điều kiện ban đầu.