y=x3+6mx2+9x+2my′=3x2+12mx+9=0
⇒y′3=x2+4mx+3=0
Thực hiện phép chia đa thức ta có
y=y′3.(x+2m)+(6−8m2)x−4m
Tại hai điểm cực trị M(x1,y1),N(x2,y2):y′(x1)=y′(x2)=0
⇒{y1=(6−8m2)x1−4my2=(6−8m2)x2−4m
Vậy đường thẳng MN có PT: d:y+(8m2−6)x+4m=0
Khoảng cách từ (0,0) đến d là
|4m|√(8m2−6)2+1=4√5
⇒5m2=(8m2−6)2+1=64m4−96m2+37
⇒64m4−101m2+37=0
⇒(m2−1)(64m2−37)=0
⇒m=±1,±√378