Ta có
√2a4+2a2b+5b2=√(a4+a2b+a2b+b2)+a4+4b2AM−GM≥√4a2b+a4+4b2=a2+2b
⇒a√2a4+2a2b+5b2+3≤aa2+2b+3
Tương tự
⇒∑a√2a4+2a2b+5b2+3≤∑aa2+2b+3
⇔P≤∑aa2+2b+3=∑a(a2+1)+2b+2≤∑a2a+2b+2
Ta sẽ chứng minh ∑a2a+2b+2≤12
⇔∑aa+b+1≤1⇔∑b+1a+b+1≥2
BĐT trên đúng do
∑b+1a+b+1=∑(b+1)2(a+b)(a+b+1)≥(a+b+c+3)2∑(a+b)(a+b+1)=2 (khai triển k.hợp đk :D)
Vậy P≤12