Ta có :
ab3+c2=ab(c2+a2)+(c2+b2)≤14.(a+b)2(c2+a2)+(c2+b2)≤14(a2c2+a2+b2c2+b2)≤14(a2c2+a2+b2c)
Hoàn toàn tương tự :
bc3+a2≤14(c2c2+a2+b2a)
Suy ra :
ab3+c2+bc3+a2≤14(1+12(ba+bc))=14+18(ba+bc)
Và :
24A≤6+3(ba+bc)−(b3a3+c3a3)
Dễ dàng chứng minh được :
3x−x3≤2(x>0)
Suy ra :
24A≤6+(3ba−b3a3)+(3bc−b3c3)≤6+2+2=10⇔A≤512
Kết luận :
Amax=512⇔a=b=c=1