3.Từ điều kiện suy ra b2(a−c)−ac(a−c)=0, hay (a−c)(b2−ac)=0. Vì a≠c nên b2−ac=0, hay b2=ac.
Giả sử d là ước chung lớn nhất của a và c.
Trường hợp d>1.
Khi đó a2+b2+c2=a2+ac+c2 chia hết cho d và d2. Suy ra a2+b2+c2 là hợp số.
Trường hợp d=1. Không mất tính tổnq quát khi coi a>c.
Vì b2=ac nên a và c cùng chính phương; suy ra a=m2 và c=n2 với m,n là các số nguyên dương và m>n. Khi đó a2+b2+c2=(m2+mn+n2)(m2−mn+n2). Vì m,n nguyên dương nên m2+mn+n2>m2−mn+n2>1. Suy ra m2+mn+n2 và m2−mn+n2 là hai ước khác nhau và cùng lớn hơn 1 của a2+b2+c2. Suy ra a2+b2+c2 là hợp số.