Ta có : c=3−(a+b), thế vào P ta được
P=ab3+[3−(a+b)]2+b[3−(a+b)]3+a2+[3−(a+b)]a3+b2
=ab12−6(a+b)+(a+b)2+3b−b(a+b)3+a2+3a−a(a+b)3+b2
=ab12−6(a+b)+(a+b)2+[3b−b(a+b)][3+b2]+[3a−a(a+b)][3+a2](3+a2)(3+b2)
=ab12−6(a+b)+(a+b)2+9(a+b)+3(a3+b3)−3(a+b)(a+b)−(a+b)(a3+b3)9+3(a2+b2)+a2b2
=ab12−6(a+b)+(a+b)2+9(a+b)+3(a+b)(a2−ab−b2)−3(a+b)2−(a+b)2(a2−ab+b2)9+3(a+b)2−6ab+a2b2
=ab12−6(a+b)+(a+b)2+9(a+b)+3(a+b)[(a+b)2−3ab]−3(a+b)2−(a+b)2[(a+b)2−3ab]3(a+b)2+(3−ab)2
=ab12−6(a+b)+(a+b)2+−(a+b)4+3(a+b)3−3(a+b)2+9(a+b)+3ab[(a+b)2−3(a+b)]3(a+b)2+(3−ab)2
Áp dụng BĐT Cauchy cho 2 số a,b, ta được: ab≤(a+b)24
Nên P≤ (a+b)24[12−6(a+b)+(a+b)2]+−(a+b)4+3(a+b)3−3(a+b)2+9(a+b)+3(a+b)2[(a+b)2−3(a+b)]43(a+b)2+[3−(a+b)24]2
=(a+b)248−24(a+b)+4(a+b)2]+−(a+b)44+3(a+b)34−3(a+b)2+9(a+b)(a+b)416+3(a+b)22+9
Đặt t=a+b với 0<t<3 do c=3−(a+b)=3−t>0
f(t)=t248−24t+4t2+−t44+3t34−3t2+9tt416+3t22+9
f′(t)=−3t(t−4)2(t2−6t+12)2−12(t2+8t−12)(t2+12)2
Cho f′(t)=0⇒−24(t2+8t−12)(t2−6t+12)2−3t(t−4)(t2+12)2=0
hay −27(x−2)2(x2+6x−24)(x2−6x+16)=0
⇒x=2∨x=−√33−3∨x=√33−3
Lập bảng biến thiên cho hàm số f(t) với 0<t<3
Ta tìm được GTLN của f(t) khi t=√33−3
⇒a+b=√33−3⇒a=b=√33−32 và c=3−(a+b)=6−√33