a)
*) Nếu $a^2+b^2=0 \Rightarrow a=b=0$ thì $f(x)=\cos4x$
Vậy $f(x)$ nhận cả giá trị âm và dương.
*) Nếu $a^2+b^2>0\Rightarrow a+b$ và $a-b$ không thể đồng thời bằng $0$.
Giả sử: $a+b\ne0$, ta có:
$f(\frac{\pi}{8})f(\frac{5\pi}{8})=[\frac{\sqrt2}{2}(a+b)][-\frac{\sqrt2}{2}(a+b)]<0$
Suy ra $f(x)$ nhận cả giá trị âm và dương.
Giả sử: $a-b\ne0$, ta có:
$f(\frac{-\pi}{8})f(\frac{3\pi}{8})=[\frac{\sqrt2}{2}(a-b)][-\frac{\sqrt2}{2}(a-b)]<0$
Suy ra $f(x)$ nhận cả giá trị âm và dương.