设函数 $y=f(x),x\in D$.记 $\underbrace{f(f(f\cdots f(x)))}_{n~\text{个}~f}=f_n(x)$,$n\in\mathbb N$,$n\geqslant 1$.对于 $D$ 的非空子集 $A$,若对任意 $x\in A$,都有 $f(x)\in A$,则称函数 $y=f(x)$ 在集合 $A$ 上封闭.
(1)若 $g(x)=2^x$,$h(x)=2^{-x}$,$A=[0,1]$,分别判断函数 $y=g(x)$ 和 $y=h(x)$ 是否在集合 $A$ 上封闭;
(2)设 $f(x)=x^2$,$x\in\mathbb R$,区间 $B=[a,b]$(其中 $a<b$),若函数 $y=f(x)$ 在集合 $B$ 上封闭,求 $b-a$ 的最大值;
(3)设 $k\in\mathbb N$,$k\geqslant 1$,若函数 $y=f(x)$ 的定义域为 $\mathbb R$,函数 $y=f(x)$ 和 $y=f_k(x)$ 的图象都是连续的曲线,且函数 $y=f_k(x)$ 在区间 $I=[a,b]$(其中 $a<b$)上封闭,证明:存在 $x_0\in\mathbb R$,使得 $f\left(x_0\right)=x_0$.
解析
(1)由于 $g(1)=2$,而 $1\in A$,$2\notin A$,因此函数 $y=g(x)$ 不在集合 $A$ 上封闭; 由于 $\{ 2^{-x}\mid x\in A\}=\left[\dfrac 12,1\right]\subseteqq A$,因此函数 $y=h(x)$ 在集合 $A$ 上封闭.
(2)根据题意,有\[\begin{cases} f(a)\leqslant b,\\ f(b)\leqslant b,\end{cases}\implies \begin{cases} a^2\leqslant b,\\ b^2\leqslant b,\end{cases}\implies \begin{cases} 0\leqslant b\leqslant 1,\\ a^2\leqslant 1,\end{cases}\]因此 $b-a\leqslant 2$,且当 $(a,b)=(-1,1)$ 时取得,等号,因此 $b-a$ 的最大值为 $2$.
(3)用反证法,若不存在 $x_0\in\mathbb R$,使得 $f(x_0)=x_0$,则以下二式中必然有一个成立:\[\forall x\in I,f(x)>x,\tag{1}\]以及\[\forall x\in I,f(x)<x,\tag{2}\]此时\[f_k(b)>f_{k-1}(b)>\cdots >f(b)>b,\]以及\[f_k(a)<f_{k-1}(a)<\cdots<f(a)<a,\]中必然有一个成立,这与函数 $y=f_k(x)$ 在区间 $I=[a,b]$ 上封闭矛盾,因此命题得证.