Ta có:$a\sqrt{b^{3}+1}+b\sqrt{c^{3}+1}+c\sqrt{a^{3}+1}$=$a\sqrt{(b+1)(b^{2}-b+1)} + b\sqrt{(c+1)(c^{2}-c+1)}+c\sqrt{(a+1)(a^{2}-a+1)}$
$\leq a.\frac{b^{2}+2}{2}+b.\frac{c^{2}+2}{2}+c.\frac{a^{2}+2}{2}=\frac{ab^{2}+bc^{2}+ca^{2}}{2}+3(1)$
Ta phải cm:$ab^{2}+bc^{2}+ca^{2}\leq4$
Gỉa sử$a \leq b \leq c$,ta có:
$a(b-a)(b-c)\leq0(2)$
$\Leftrightarrow ab^{2}+ca^{2} \leq ba^{2}+abc$
$\Leftrightarrow ab^{2}+bc^{2}+ca^{2}\leq ba^{2}+abc+bc^{2}=b(a^{2}+ac+c^{2})\leq b(a+c)^{2}=\frac{1}{2}.2b.(3-b)^{2}$
$\leq$$\frac{1}{2}$.$(\frac{2b+3-b+3-b}{3})^{3}$=4(3)
$\Rightarrow$đpcm
Xét dấu''='' xra ở $(1);(2);(3)$
$\Rightarrow $Dấu''=''xra$\Leftrightarrow a=0;b=1;c=2$ (và các hoán vị tùy theo cách ta giả sử)