Trước hết, giả sử rằng đa giác A1A2…Ak có một đường chéo thỏa mãn bình phương của đường chéo đó là một số nguyên chia hết cho n, khi đó ta sẽ cắt đa giác này bằng đường chéo này thành hai đa giác với số cạnh nhỏ hơn. Do đó không giảm tổng quát có thể giả sử đa giác A1A2…Ak không có một đường chéo nào có bình phương chia hết cho n.
Giả sử k≥4. Không mất tính tổng quát, ta sẽ chứng minh cho trường hợp n=pa (p là số nguyên tố lẻ). Khi đó, xét một số tự nhiên r thỏa a>r≥0 và pr∣AiA2j với mọi i≠j, 0<i,j≤k. Hiển nhiên ta có r+1≤a nên pr+1∣pa∣AiA2j nếu Ai,Aj là hai đỉnh kề nhau.
Ta sẽ chứng minh bằng quy nạp rằng nếu r là một số tự nhiên thỏa mãn điều kiện trên thì r+1 cũng sẽ thỏa mãn các điều kiện trên. Do tất cả các đỉnh của đa giác cùng nằm trên một đường tròn nên xét cụ thể cho một tứ giác Ai−1AiAi+1Aj và cho đơn giản, ta đặt: Ai−1Ai=b,AiAi+1=c,Ai+1Aj=d,AjAi−1=e,Ai−1Ai+1=f,AiAj=g.
Và theo giả thiết quy nạp, ta đặt: b2=pax,c2=pay,d2=prz,e2=prk,f2=prw,g2=prt ( với x,y,z,k,w,t là các số nguyên) Khi đó theo định lý Ptolemy thì ta có được:bd+ce=fg⇒f2g2=b2d2+c2e2+2bcde=pa+r(xz+yk+2√xyzk). Từ đó ta có √xyzk là một số hữu tỉ nên cũng là một số nguyên. Do đó ta có được: pa+r∣f2g2⇒vp(f2g2)≥a+r. Tuy nhiên: vì AiAjvà Ai−1Ai+1 là các đường chéo nên vp(f2)≤a−1⇒vp(g2)≥r+1⇒pr+1∣g2
Tức là khi đó pr+1∣AiA2j với AiAj là một đường chéo và tương tự với các đường chéo khác, ta có được pr+1∣AiA2j với mọi i≠j, 0<i,j≤k. Như vậy theo nguyên lí quy nạp, giả thiết được chứng minh. Khi đó theo giả thiết thì pa−1∣AiA2j với mọi i≠j và cũng chứng minh tương tự mà pa∣AiA2j với mọi i≠j. Đây là điều vô lí ( do ta đã giả sử rằng không có đường chéo nào chia hết cho pa).
Do đó k<4, tức là ta sẽ quy về trường hợp đơn giản k=3. Ta có thể chứng minh điều này cách dễ dàng vì các đỉnh A1,A2,A3 có tọa độ nguyên nên dễ dàng chứng minh được 2S là số nguyên.
Hơn nữa theo công thức Hê-rông thì 2S=√4a2b2−(a2+b2−c2)22 (a,b,c là các cạnh của tam giác) nên 4.(2S)2=(4a2b2−(a2+b2−c2)2)⋮n2. Do n lẻ nên (4,n)=1 do đó n2∣(2S)2 nên n∣2S.
Vậy bài toán được chứng minh hoàn toàn.■