Đặt a=x−2>0,b=y−1>0,c=z>0Ta có: x2+y2+z2−2(2x+y−3)=x2−4x+4+y2−2y+1+z2+1=(x−2)2+(y−1)2+z2+1=a2+b2+c2+1
và y(x−1)(z+1)=(b+1)(a+1)(c+1)
⇒P=12√a2+b2+c2+1−1(a+1)(b+1)(c+1)
Ta có: a2+b2≥(a+b)22(1)
tương tự: c2+12≥(c+1)22(2)
Từ (1),(2) suy ra: a2+b2+c2+1≥12[(a+b)2+(c+1)2]≥14(a+b+c+1)2
Từ đây, suy ra: 12√a2+b2+c2+1≤1a+b+c+1
Ta có (a+1)(b+1)(c+1)≤(a+1+b+1+c+1)327⇒−1(a+1)(b+1)(c+1)≤−27(a+b+c+3)3
Đặt t=a+b+c+1(t>1)
ta sẽ được: P≤1t−27(t+2)3,t>1
kshs f(t)=1t−27(t+2)3,t>1
Sẽ tìm đc fmax=4 khi t=4⇒a=b=c=1⇒x=3,y=2,z=1