设 $a\ne 0$,若 $x=a$ 为函数 $f(x)=a(x-a)^2(x-b)$ 的极大值点,则( )
A.$a<b$
B.$a>b$
C.$ab<a^2$
D.$ab>a^2$
答案 D.
解析
法一 考虑到 $f(a)=0$,因此在 $x=a$ 的左右邻域 $f(x)$ 函数值均为负数,从而\[a(a-b)<0\iff ab>a^2.\]
法二 若 $a=b\ne 0$,则\[ f(x)=a(x-a)^3 \] 是 $\mathbb{R}$ 上的单调函数,与“$x=a$ 为函数 $f(x)$ 的极大值点”矛盾,所以 $a\ne b$. 由题意可知, \[\begin{split} f'(x)&=a\left(2(x-a)(x-b)+(x-a)^2\right)=a(x-a)(3x-a-2b),\\ f''(x)&=a\left((3x-a-2b)+3(x-a)\right)=a(6x-4a-2b), \end{split}\] 于是 \[ f'(a)=0, f''(a)=2a(a-b)\ne 0. \] 因为 $x=a$ 为函数 $f(x)$ 的极大值点,所以根据极值的第二充分条件可知, \[ f''(a)=2a(a-b)<0\iff ab>a^2. \]
备注 极值的第二充分条件:假设存在 $\delta>0$,使得函数 $f(x)$ 在 $(x_0-\delta,x_0+\delta)$ 内可导,在 $x=x_0$ 处二阶可导,且 $f'(x_0)=0$,$f''(x_0)\ne 0$. 若 $f''(x_0)<0$,则 $f(x)$ 在 $x_0$ 处取得极大值; 若 $f''(x_0)>0$,则 $f(x)$ 在 $x_0$ 处取得极小值.