Hàm số đã cho xác định khi x≠4 và y′=2x2−16x−m−10(x−4)2,∀x≠4.Điều kiện để hàm số có cực đại và cực tiếu là phương trình 2x2−16x−m−10=0 (*) có hai nghiệm phân biệt khác 4; tức là 2m+84>0∧−42−m≠0; suy ra m>−42 (1).
Giả sử x1 và x2 là hai nghiệm của phương trình (*) với x1<x2. Từ định lý Vi-ét suy ra x1+x2=8 và x1x2=−m+102. Đồng thời yCĐ=y(x1)=4x1+3 và yCT=y(x2)=4x2+3. Từ đó suy ra |yCĐ−yCT|=4|x1−x2|=4√(x1+x2)2−4x1x2=4√2m+84.
Do đó, điều kiện đề bài tương đương với 4√2m+84<12, hay m<−752 (2).
Kết hợp (1) và (2) được −42<m<−752 là kết quả phải tìm.