9 多元函数的极限与连续
能用欧氏距离描述多维输入的趋近与扰动;掌握多元极限的定义、点列判别法及常用估计;区分沿路径极限、累次极限与联合极限;理解紧集上连续函数的有界性、最值存在性和一致连续性。先修内容为实数完备性、一元函数极限及连续性。本章只讨论有限维空间,不引入无限维函数空间。
一个具有多个输入或多个参数的模型,可以写成\(f:\mathbb{R}^d\to\mathbb{R}^m\)。一元极限中的距离\(|x-a|\)需要替换成向量距离,而”从左右趋近”则扩展为在定义域内以各种方式趋近。多元分析的困难不在于变量字母增加,而在于必须同时控制所有允许的方向、比例和路径。证明极限存在,通常需要统一估计;否定极限存在,只需构造相互矛盾的趋近方式。
9.1 欧氏空间、邻域与点集
定义 9.1 (内积与欧氏范数). 对\(x=(x_1,\ldots,x_d)\)、\(y=(y_1,\ldots,y_d)\in\mathbb{R}^d\),定义 \[\left\langle x,y\right\rangle=\sum_{j=1}^dx_jy_j,\qquad \left\lVert x\right\rVert_2=\left(\sum_{j=1}^dx_j^2\right)^{1/2},\qquad d(x,y)=\left\lVert x-y\right\rVert_2.\] 本章未标下标的\(\left\lVert x\right\rVert\)均表示欧氏范数。开球\(B(a,r)=\{x:\left\lVert x-a\right\rVert<r\}\)称为\(a\)的\(r\)邻域。
定理 9.2 (Cauchy–Schwarz不等式与三角不等式). 对任意\(x,y\in\mathbb{R}^d\),有 \[|\left\langle x,y\right\rangle|\le\left\lVert x\right\rVert\left\lVert y\right\rVert,\qquad \left\lVert x+y\right\rVert\le\left\lVert x\right\rVert+\left\lVert y\right\rVert,\qquad |\left\lVert x\right\rVert-\left\lVert y\right\rVert|\le\left\lVert x-y\right\rVert.\]
证明. Proof. 若\(y=0\),第一式显然成立。若\(y\ne0\),取\(t=\left\langle x,y\right\rangle/\left\lVert y\right\rVert^2\),由\(\left\lVert x-ty\right\rVert^2\ge0\)得到 \[\left\lVert x\right\rVert^2-\frac{\left\langle x,y\right\rangle^2}{\left\lVert y\right\rVert^2}\ge0,\] 即第一式。继而 \[\left\lVert x+y\right\rVert^2=\left\lVert x\right\rVert^2+2\left\langle x,y\right\rangle+\left\lVert y\right\rVert^2 \le(\left\lVert x\right\rVert+\left\lVert y\right\rVert)^2,\] 两边开方得到第二式。将\(x=(x-y)+y\)代入第二式,得到\(\left\lVert x\right\rVert-\left\lVert y\right\rVert\le\left\lVert x-y\right\rVert\);交换\(x,y\)即得第三式。 ◻
命题 9.3 (分量与范数的关系). 令\(\left\lVert x\right\rVert_\infty=\max_j|x_j|\)、\(\left\lVert x\right\rVert_1=\sum_j|x_j|\),则 \[\left\lVert x\right\rVert_\infty\le\left\lVert x\right\rVert_2\le\sqrt d\left\lVert x\right\rVert_\infty, \qquad \left\lVert x\right\rVert_2\le\left\lVert x\right\rVert_1\le\sqrt d\left\lVert x\right\rVert_2.\] 因此在固定有限维空间中,点列\(x^{(n)}\to a\)当且仅当每个分量\(x_j^{(n)}\to a_j\);采用上述任一范数定义收敛得到相同结论。
证明. Proof. 每个\(x_j^2\)不超过平方和,而平方和不超过\(d\max_j|x_j|^2\),得到第一组。展开\((\sum|x_j|)^2\)得\(\left\lVert x\right\rVert_2\le\left\lVert x\right\rVert_1\),对向量\((|x_j|)\)和\((1)\)使用Cauchy–Schwarz不等式得到另一侧。若范数趋零,每个分量绝对值均趋零;反之,有限个分量可选取共同的指标,使其最大值任意小。 ◻
范数给出同一种收敛概念,不表示同一个数值误差阈值。若每个分量误差不超过\(\delta\),欧氏误差只保证不超过\(\sqrt d\delta\);若希望整体欧氏误差不超过\(\varepsilon\),可以要求每个分量误差不超过\(\varepsilon/\sqrt d\)。维数因子在误差预算中不能遗漏。
定义 9.4 (内点、边界点与聚点). 设\(D\subset\mathbb{R}^d\)。若存在\(r>0\)使\(B(a,r)\subset D\),则\(a\)是\(D\)的内点。若\(a\)的每个邻域都同时含有\(D\)中的点和\(D\)外的点,则\(a\)是边界点。若每个去心邻域\(B(a,r)\setminus\{a\}\)都含有\(D\)中的点,则\(a\)是\(D\)的聚点。内点全体记为\(D^\circ\),边界记为\(\partial D\),闭包记为\(\overline D\)。
集合\(D\)的每个点都是内点时,称\(D\)为开集;若\(D\)包含其所有聚点,则称其为闭集。等价地,闭集包含其中每个收敛点列的极限。空集和整个\(\mathbb{R}^d\)同时是开集与闭集,其他集合也可能既非开集又非闭集。开闭不是”包含或不包含某一个端点”的一维表面特征,而是邻域结构。
例 9.5 (从公式确定定义域). 对 \[f(x,y)=\frac{\log(1-x^2-y^2)}{\sqrt{y-x}},\] 对数要求\(1-x^2-y^2>0\),分母要求\(y-x>0\)。因此定义域为 \[D=\{(x,y):x^2+y^2<1,\ y>x\}.\] 它是单位开圆盘与开半平面的交集,是一个有界开集。其边界由直径线段\(y=x\)、\(x^2+y^2\le1\)及圆弧\(x^2+y^2=1\)、\(y\ge x\)组成。公式的连续性只能在满足全部约束的定义域内讨论。
9.2 多元极限与路径检验
定义 9.6 (多元函数的极限). 设\(f:D\subset\mathbb{R}^d\to\mathbb{R}^m\),\(a\)是\(D\)的聚点。若存在\(L\in\mathbb{R}^m\),使对任意\(\varepsilon>0\)均有\(\delta>0\),满足 \[x\in D,\quad 0<\left\lVert x-a\right\rVert<\delta \quad\Longrightarrow\quad\left\lVert f(x)-L\right\rVert<\varepsilon,\] 则称\(f(x)\)在\(x\to a\)、\(x\in D\)时的极限为\(L\),记为\(\lim_{x\to a,\,x\in D}f(x)=L\)。
聚点条件排除了没有任何点能够趋近\(a\)的空洞情况。极限定义不要求\(a\in D\),也不使用\(f(a)\);若\(a\)是定义域边界点,只考虑定义域内的趋近。实值函数的极限运算法则与一元情形相同,其证明仍依靠三角不等式、局部有界性及分母与零的分离。
定理 9.7 (多元极限的点列判别法). 在上述条件下,\(\lim_{x\to a,\,x\in D}f(x)=L\)当且仅当对每个满足\(x^{(n)}\in D\setminus\{a\}\)、\(x^{(n)}\to a\)的点列,均有\(f(x^{(n)})\to L\)。
证明. Proof. 若极限存在,先为给定\(\varepsilon\)选择\(\delta\),再由点列收敛选择\(N\),即可得到\(n\ge N\)时的函数值误差小于\(\varepsilon\)。反之,若极限定义不成立,则存在\(\varepsilon_0>0\),使对每个正整数\(n\)均能选到\(x^{(n)}\in D\)满足 \[0<\left\lVert x^{(n)}-a\right\rVert<1/n, \qquad \left\lVert f(x^{(n)})-L\right\rVert\ge\varepsilon_0.\] 该点列趋于\(a\),其函数值却不趋于\(L\),与假设矛盾。 ◻
例 9.8 (两条直线否定极限). 对\(f(x,y)=xy/(x^2+y^2)\),\((x,y)\ne(0,0)\),沿\(y=0\)趋于原点时函数值恒为零,沿\(y=x\)时恒为\(1/2\)。因此原点处不存在联合极限。也可取点列\((1/n,0)\)与\((1/n,1/n)\)得到相同结论。这里不需要遍历其他路径,两条不相容的路径已经足够否定极限。
例 9.9 (全部直线路径相同仍不充分). 设 \[g(x,y)=\frac{x^2y}{x^4+y^2},\qquad(x,y)\ne(0,0).\] 沿任意非竖直直线\(y=kx\),若\(k\ne0\)则\(g(x,kx)=kx/(x^2+k^2)\to0\);\(k=0\)时函数恒为零。沿竖直线\(x=0\)也恒为零。然而沿抛物线\(y=x^2\)有\(g(x,x^2)=1/2\)。因此所有过原点直线上的极限都是零,联合极限仍不存在。
例 9.10 (用统一估计证明极限). 对\(h(x,y)=x^2y/(x^2+y^2)\),\((x,y)\ne(0,0)\),有 \[|h(x,y)|\le|y|\le\sqrt{x^2+y^2}.\] 给定\(\varepsilon>0\),取\(\delta=\varepsilon\),便得到\(0<\sqrt{x^2+y^2}<\delta\)时\(|h(x,y)|<\varepsilon\),故极限为零。与前例相比,分母的阶数发生改变,统一径向估计也随之改变;不能仅凭两个表达式外观相似判断。
极坐标\(x=r\cos\theta\)、\(y=r\sin\theta\)常有助于构造统一估计。若能证明\(|f(r\cos\theta,r\sin\theta)-L|\le\omega(r)\),对全部角度成立且\(\omega(r)\to0\),即可证明极限。若仅对每个固定\(\theta\)取\(r\to0\),仍只检查了直线路径。上例\(g\)在极坐标下的角度可以随\(r\)变化,这正是漏检曲线路径的原因。
例 9.11 (幂次估计与临界情形). 设\(\alpha,\beta>0\),考察 \[F(x,y)=\frac{|x|^\alpha|y|^\beta}{(x^2+y^2)^\gamma}.\] 令\(r=\sqrt{x^2+y^2}\),有\(0\le F(x,y)\le r^{\alpha+\beta-2\gamma}\)。若\(\alpha+\beta>2\gamma\),该界趋零,极限为零。若\(\alpha+\beta=2\gamma\),沿\(y=0\)为零,沿\(y=x\)为常数\(2^{-\gamma}\),所以无极限。若\(\alpha+\beta<2\gamma\),沿\(y=x\)趋于\(+\infty\),沿\(y=0\)仍为零,亦无有限极限。分子在坐标轴上为零并不能代表所有趋近行为。
9.3 连续映射、复合与累次极限
定义 9.12 (相对连续与Lipschitz连续). 设\(f:D\to\mathbb{R}^m\)、\(a\in D\)。若对任意\(\varepsilon>0\)存在\(\delta>0\),使\(x\in D\)且\(\left\lVert x-a\right\rVert<\delta\)时\(\left\lVert f(x)-f(a)\right\rVert<\varepsilon\),则称\(f\)在\(a\)处连续。若存在\(L\ge0\),使所有\(x,y\in D\)满足\(\left\lVert f(x)-f(y)\right\rVert\le L\left\lVert x-y\right\rVert\),则称\(f\)在\(D\)上Lipschitz连续。
在聚点\(a\in D\),连续性等价于极限等于函数值;定义域的孤立点处函数自动连续。Lipschitz条件给出统一的线性扰动界,显然蕴含连续性,但连续性不一定提供这样的线性界。例如\(\sqrt{x}\)在\([0,1]\)上连续,而\(|\sqrt x-0|/|x-0|=1/\sqrt x\)无界,故不是Lipschitz连续。
定理 9.13 (连续映射的分量与复合规则). 映射\(f=(f_1,\ldots,f_m):D\to\mathbb{R}^m\)在\(a\)处连续,当且仅当每个分量在\(a\)处连续。若\(f\)在\(a\)处连续,\(g:E\subset\mathbb{R}^m\to\mathbb{R}^q\)在\(f(a)\)处连续,且\(f(D)\subset E\),则\(g\circ f\)在\(a\)处连续。
证明. Proof. 分量结论由\(|f_j(x)-f_j(a)|\le\left\lVert f(x)-f(a)\right\rVert\le\sqrt m\max_j|f_j(x)-f_j(a)|\)及有限个分量的共同邻域得到。对复合结论,给定\(\varepsilon\),先由\(g\)的连续性选取\(\eta\),使\(E\)中与\(f(a)\)距离小于\(\eta\)的点被映到\(\varepsilon\)邻域内;再由\(f\)的连续性选取\(\delta\)使\(\left\lVert f(x)-f(a)\right\rVert<\eta\)。依次代入即得结论。 ◻
坐标函数连续,有限的和、积及分母不为零时的商保持连续,所以多项式在整个空间连续,有理函数在分母非零处连续。范数函数由反三角不等式满足\(|\left\lVert x\right\rVert-\left\lVert y\right\rVert|\le\left\lVert x-y\right\rVert\),因此是Lipschitz连续映射。这些运算规则可以把复杂模型的连续性分解到基本运算,而无需每次从头构造\(\varepsilon\)–\(\delta\)证明。
例 9.14 (分别连续不推出联合连续). 令\(f(0,0)=0\),其余点\(f(x,y)=xy/(x^2+y^2)\)。固定任意\(y\)后,关于\(x\)的函数连续;固定任意\(x\)后,关于\(y\)的函数也连续。在坐标值为零的特殊情形,所得到的一元函数恒为零。故\(f\)分别连续。然而沿\(y=x\)趋近原点时值为\(1/2\),所以不联合连续。分别改变一个输入不能检验多个输入同时变化时的响应。
定义 9.15 (累次极限). 若固定邻近的\(x\)后\(\lim_{y\to b}f(x,y)=\phi(x)\)存在,再有\(\lim_{x\to a}\phi(x)=L\),则称\(\lim_{x\to a}\lim_{y\to b}f(x,y)=L\)为一个累次极限。交换\(x,y\)的顺序得到另一个累次极限。
前例的两个累次极限都为零,但联合极限不存在,所以累次极限即使相等也不足以证明联合极限。另一方面,联合极限存在也不自动保证每一个内层极限存在。例如 \[f(x,y)=x\sin(1/y),\qquad y\ne0,\] 由\(|f(x,y)|\le|x|\)知在\((x,y)\to(0,0)\)时联合极限为零,但固定\(x\ne0\)后,\(y\to0\)的内层极限不存在。若联合极限存在,而且相应内层极限在邻近参数处确实存在,则累次极限才可据联合极限估计证明与之相等。
先写明定义域与目标点;观察坐标轴和简单曲线以寻找候选值或反例;需要证明存在时,把差值统一控制为仅依赖\(\left\lVert x-a\right\rVert\)的趋零量。检验路径用于发现问题,最终的肯定结论应覆盖定义域内所有足够近的点。
9.4 紧集上的连续函数
定义 9.16 (本章采用的紧性刻画). 在有限维欧氏空间中,若集合\(K\)中任意点列都存在一个收敛子列,且子列极限仍属于\(K\),则称\(K\)为紧集。此处采用点列形式;在\(\mathbb{R}^d\)中它与开覆盖形式的紧性等价。
定理 9.17 (有限维空间中的闭有界判据). \(K\subset\mathbb{R}^d\)紧当且仅当\(K\)闭且有界。
证明. Proof. 若\(K\)闭且有界,取\(K\)中任意点列。第一分量有界,由实数的Bolzano–Weierstrass定理选出第一分量收敛的子列;在该子列中继续选出第二分量收敛的子列。经过有限\(d\)次选取,得到全部分量都收敛的子列,故其在欧氏范数下收敛。闭性保证极限在\(K\)内。
反之,若\(K\)无界,可选\(x^{(n)}\in K\)满足\(\left\lVert x^{(n)}\right\rVert>n\),其任何子列都不可能收敛,与紧性矛盾。若\(K\)不闭,则存在\(K\)中收敛到\(a\notin K\)的点列;紧性却给出一个极限属于\(K\)的收敛子列,点列极限唯一性导致矛盾。因此\(K\)闭且有界。 ◻
定理 9.18 (连续函数的最值存在定理). 设\(K\subset\mathbb{R}^d\)非空且紧,\(f:K\to\mathbb{R}\)连续,则\(f\)有界,并在\(K\)上取得最大值与最小值。
证明. Proof. 若\(f\)无界,可取\(x^{(n)}\in K\)使\(|f(x^{(n)})|>n\)。紧性给出子列\(x^{(n_k)}\to a\in K\),连续性使\(f(x^{(n_k)})\to f(a)\),与其无界矛盾。故\(M=\sup_Kf\)为有限数。按上确界定义,选\(x^{(n)}\)使\(M-1/n<f(x^{(n)})\le M\),再选收敛子列\(x^{(n_k)}\to a\in K\),便有\(f(a)=M\)。对\(-f\)应用同一结论即可取得最小值。 ◻
例 9.19 (圆盘上的距离最值). 在闭圆盘\(K=\{(x,y):x^2+y^2\le1\}\)上,求 \[F(x,y)=(x-2)^2+(y+1)^2\] 的最值。\(K\)非空闭有界,\(F\)连续,故最值必存在。令\(z=(x,y)\)、\(a=(2,-1)\),\(\left\lVert a\right\rVert=\sqrt5\)。由三角不等式, \[\sqrt5-1\le\left\lVert z-a\right\rVert\le\sqrt5+1.\] 左等号在\(z=a/\sqrt5\)处取到,右等号在\(z=-a/\sqrt5\)处取到。因此最小值为\((\sqrt5-1)^2\),最大值为\((\sqrt5+1)^2\)。存在性定理保证目标确实取到界,具体位置则由几何不等式确定。
缺少紧性时,连续函数可能没有最值。例如\(F(x,y)=\mathrm e^{-x^2-y^2}\)在\(\mathbb{R}^2\)上连续,其下确界为零,却没有任何有限点使函数等于零。函数\(x^2+y^2\)在开圆盘上有上确界\(1\),也不取到最大值。必须区分”有限下确界存在”与”最小值在某点取得”。
定理 9.20 (紧集上的一致连续性). 若\(K\subset\mathbb{R}^d\)紧,\(f:K\to\mathbb{R}^m\)连续,则\(f\)一致连续:对任意\(\varepsilon>0\),存在\(\delta>0\),使所有\(x,y\in K\)只要\(\left\lVert x-y\right\rVert<\delta\),就有\(\left\lVert f(x)-f(y)\right\rVert<\varepsilon\)。
证明. Proof. 若结论不成立,则存在\(\varepsilon_0>0\),对每个\(n\)均可取\(x^{(n)},y^{(n)}\in K\)满足 \[\left\lVert x^{(n)}-y^{(n)}\right\rVert<1/n,\qquad \left\lVert f(x^{(n)})-f(y^{(n)})\right\rVert\ge\varepsilon_0.\] 由紧性选\(x^{(n_k)}\to a\in K\)。三角不等式同时给出\(y^{(n_k)}\to a\)。连续性使两列函数值都趋于\(f(a)\),它们的距离趋零,与上述下界矛盾。 ◻
命题 9.21 (沿连续路径的介值性质). 设\(f:D\to\mathbb{R}\)连续,存在连续路径\(\gamma:[0,1]\to D\)连接\(a\)与\(b\)。则\(f\)在该路径上取得\(f(a)\)与\(f(b)\)之间的每个实数值。
证明. Proof. \(f\circ\gamma\)是\([0,1]\)上的连续实函数,对它使用一元介值定理即可。 ◻
在凸集内,可用线段\(\gamma(t)=(1-t)a+tb\)连接两点,因而直接得到介值性质。对于不连通的定义域,连续函数的值域可能有缺口;最值存在定理并不自动意味着最大值与最小值之间的每个值都被取到。
9.5 有限维模型的连续性与扰动界
9.5.1 线性映射与输入尺度
设\(A=(a_{ij})\)为\(m\times d\)实矩阵,定义\(T(x)=Ax+b\)。逐行使用Cauchy–Schwarz不等式,可得 \[\left\lVert A(x-y)\right\rVert^2 =\sum_{i=1}^m\left(\sum_{j=1}^da_{ij}(x_j-y_j)\right)^2 \le\left(\sum_{i,j}a_{ij}^2\right)\left\lVert x-y\right\rVert^2.\] 记\(\left\lVert A\right\rVert_{\mathrm F}=(\sum_{i,j}a_{ij}^2)^{1/2}\),则\(T\)满足Lipschitz界\(\left\lVert T(x)-T(y)\right\rVert\le\left\lVert A\right\rVert_{\mathrm F}\left\lVert x-y\right\rVert\)。该界可能不是最小常数,但无需谱理论便可计算,并清楚显示系数尺度对扰动的影响。
例 9.22 (两维映射的显式敏感性估计). 对\(T(x_1,x_2)=(2x_1-x_2,x_1+2x_2)\),直接展开得 \[\left\lVert T(x)-T(y)\right\rVert^2=5\left\lVert x-y\right\rVert^2.\] 因此准确的放大系数为\(\sqrt5\)。一般的Frobenius界给出\(\sqrt{10}\),仍正确但较保守。若输入欧氏误差不超过\(10^{-3}\),输出误差不超过\(\sqrt5\times10^{-3}\)。使用上界时应区分”已证明可行”与”最优常数”。
9.5.2 归一化与远离奇点的条件
常见的长度归一化映射为\(N(z)=z/\left\lVert z\right\rVert\),其定义域必须排除\(z=0\)。它在该域上连续,但原点附近不存在统一的小扰动保证。例如\(z_t=(t,0)\)与\(w_t=(0,t)\)在\(t\to0+\)时彼此距离为\(\sqrt2t\to0\),归一化结果的距离却恒为\(\sqrt2\)。
命题 9.23 (远离零点的归一化估计). 若\(\left\lVert u\right\rVert,\left\lVert v\right\rVert\ge r>0\),则 \[\left\lVert \frac u{\left\lVert u\right\rVert}-\frac v{\left\lVert v\right\rVert}\right\rVert\le\frac2r\left\lVert u-v\right\rVert.\]
证明. Proof. 分解为 \[\frac{u-v}{\left\lVert u\right\rVert}+v\left(\frac1{\left\lVert u\right\rVert}-\frac1{\left\lVert v\right\rVert}\right).\] 第一项的范数不超过\(\left\lVert u-v\right\rVert/\left\lVert u\right\rVert\),第二项的范数等于\(|\left\lVert v\right\rVert-\left\lVert u\right\rVert|/\left\lVert u\right\rVert\),由反三角不等式也不超过同一量。再用\(\left\lVert u\right\rVert\ge r\)即可。 ◻
若采用\(N_\eta(z)=z/\sqrt{\left\lVert z\right\rVert^2+\eta^2}\),其中\(\eta>0\),则该映射在整个空间连续。令\(a=\sqrt{\left\lVert u\right\rVert^2+\eta^2}\)、\(b=\sqrt{\left\lVert v\right\rVert^2+\eta^2}\),把\(a,b\)分别看作\((u,\eta)\)、\((v,\eta)\)的范数,有\(|a-b|\le\left\lVert u-v\right\rVert\)。仿照上面的分解,利用\(a\ge\eta\)及\(\left\lVert v\right\rVert/b\le1\),可得 \[\left\lVert N_\eta(u)-N_\eta(v)\right\rVert\le\frac2\eta\left\lVert u-v\right\rVert.\] 正参数消除了分母为零的问题,同时误差界依赖\(1/\eta\);把\(\eta\)取得很小并不使该理论界更强。
9.5.3 参数约束与最优解的存在
给定有限数据\((x_i,y_i)\),设对每个固定\(x_i\),模型\(F(\theta;x_i)\)关于\(\theta\in\mathbb{R}^p\)连续。则 \[J(\theta)=\frac1m\sum_{i=1}^m\bigl(F(\theta;x_i)-y_i\bigr)^2\] 是连续函数。在非空闭有界参数集\(K\)上,最值存在定理保证至少有一个\(\theta_*\in K\)使\(J(\theta_*)=\min_KJ\)。这一结论只保证存在,不保证唯一,也不提供找到该点的计算方法。
连续性还允许把统一目标误差转化为最优值误差。若\(J\)与\(\widetilde J\)在同一紧集\(K\)连续,且\(\sup_K|J-\widetilde J|\le\varepsilon\),则取各自最小点可得 \[\left|\min_KJ-\min_K\widetilde J\right|\le\varepsilon.\] 但最优参数的位置未必相近。例如在\([-1,1]\)上,\(J_\varepsilon(t)=\varepsilon t\)与\(\widetilde J_\varepsilon(t)=-\varepsilon t\)的统一差不超过\(2\varepsilon\),最小点却分别为\(-1\)与\(1\)。最优值稳定和最小点稳定是不同性质,后者需要进一步结构条件。
9.6 知识回顾与分层习题
多元极限由同一邻域内所有允许的趋近方式定义。范数不等式把分量误差、函数误差与输入距离联系起来;路径可以否定极限,统一估计可以证明极限。紧性把局部连续性转化为全局有界、最值存在和一致连续等性质。对模型而言,连续性、误差放大系数和最优点稳定性应分别判断。
基础题
对\(x=(1,-2,2)\)计算\(\left\lVert x\right\rVert_1\)、\(\left\lVert x\right\rVert_2\)、\(\left\lVert x\right\rVert_\infty\),并验证本章范数比较不等式。
求\(f(x,y)=\sqrt{4-x^2-y^2}/(y-1)\)的定义域,说明其是否开、是否闭、是否有界。
证明\(\lim_{(x,y)\to(0,0)}xy^2/(x^2+y^2)=0\)。
判断\(\lim_{(x,y)\to(0,0)}(x^2-y^2)/(x^2+y^2)\)是否存在。
在\((x,y)\ne(0,0)\)处定义\(f(x,y)=\sin(x^2+y^2)/(x^2+y^2)\)。应怎样定义\(f(0,0)\)才能使函数连续?
求\(x^2+y^2\)在集合\(\{(x,y):1\le x^2+y^2\le4\}\)上的最大值和最小值,并写出取值点集合。
推理题
证明到固定非空集合\(S\subset\mathbb{R}^d\)的距离函数\(d_S(x)=\inf_{s\in S}\left\lVert x-s\right\rVert\)是Lipschitz连续的,常数可取\(1\)。
设\(K\)为非空紧集,\(f:K\to\mathbb{R}\)连续且处处\(f>0\)。证明存在\(c>0\)使\(f(x)\ge c\);若\(K\)仅有界,结论是否仍成立?
给出两个累次极限都存在且相等、但联合极限不存在的函数,并完整计算三种判断。
若\(f:\mathbb{R}^d\to\mathbb{R}\)连续且\(f(x)\to+\infty\)当\(\left\lVert x\right\rVert\to+\infty\),证明\(f\)在整个\(\mathbb{R}^d\)上取得最小值。
拓展题
设\(K\)为非空紧集,连续函数\(J,\widetilde J\)满足\(\sup_K|J-\widetilde J|\le\varepsilon\)。若\(\widetilde\theta\)使\(\widetilde J(\widetilde\theta)\le\min_K\widetilde J+\delta\),证明\(J(\widetilde\theta)\le\min_KJ+2\varepsilon+\delta\)。
设\(f:D\to\mathbb{R}^m\)为\(L_f\)-Lipschitz映射,\(g:f(D)\to\mathbb{R}^q\)为\(L_g\)-Lipschitz映射。证明复合映射的Lipschitz常数可取\(L_gL_f\),并讨论三个连续处理步骤的误差放大上界。
9.7 本章选题解答
9.7.0.0.1 第1题
直接计算得\(\left\lVert x\right\rVert_1=5\)、\(\left\lVert x\right\rVert_2=3\)、\(\left\lVert x\right\rVert_\infty=2\)。因此\(2\le3\le2\sqrt3\)以及\(3\le5\le3\sqrt3\),与维数\(d=3\)时的比较界一致。
9.7.0.0.2 第2题
定义域为\(D=\{(x,y):x^2+y^2\le4,\ y\ne1\}\)。它有界,因\(\left\lVert (x,y)\right\rVert\le2\)。它不是开集,因为例如\((2,0)\)属于\(D\)却不是内点。它也不是闭集:\((0,1+1/n)\in D\)对足够大的\(n\)成立,点列极限\((0,1)\)不属于\(D\)。
9.7.0.0.3 第3题
因为\(|xy^2|/(x^2+y^2)\le|x|\le\sqrt{x^2+y^2}\),故给定\(\varepsilon>0\)取\(\delta=\varepsilon\)即可。该估计与趋近路径无关。
9.7.0.0.4 第4题
沿\(y=0\)且\(x\ne0\)时函数值为\(1\);沿\(x=0\)且\(y\ne0\)时函数值为\(-1\)。两条路径给出不同极限,联合极限不存在。
9.7.0.0.5 第5题
令\(t=x^2+y^2\),当\((x,y)\to(0,0)\)且不等于原点时,\(t\to0+\)。由\(\sin t/t\to1\)及复合极限定理,原函数极限为\(1\)。因此唯一的连续延拓是\(f(0,0)=1\)。
9.7.0.0.6 第7题
对任意\(s\in S\),三角不等式给出\(\left\lVert x-s\right\rVert\le\left\lVert x-y\right\rVert+\left\lVert y-s\right\rVert\)。取下确界得到\(d_S(x)\le\left\lVert x-y\right\rVert+d_S(y)\)。交换\(x,y\)即得\(|d_S(x)-d_S(y)|\le\left\lVert x-y\right\rVert\)。证明不要求最近点实际存在,所以\(S\)无需闭或有界。
9.7.0.0.7 第8题
最值存在定理给出\(x_*\in K\)使\(f(x_*)=\min_Kf\)。因为每点\(f>0\),令\(c=f(x_*)\)即可,且\(c>0\)。若仅有界,取\(K=(0,1)\)、\(f(x)=x\),则\(f>0\)但不存在统一的正常数下界。缺少的是极限点属于定义域的保证。
9.7.0.0.8 第9题
可取原点外\(f(x,y)=xy/(x^2+y^2)\),并定义\(f(0,0)=0\)。固定\(x\ne0\),\(y\to0\)时极限为零;\(x=0\)时函数恒零,所以\(\lim_{x\to0}\lim_{y\to0}f=0\)。交换变量同理。沿\(y=x\)有\(f=1/2\),沿\(y=0\)有\(f=0\),故联合极限不存在。
9.7.0.0.9 第10题
由无穷远处的条件,存在\(R>0\),使\(\left\lVert x\right\rVert>R\)时\(f(x)>f(0)+1\)。可增大\(R\)确保\(0\)属于闭球\(\overline B(0,R)\)。该闭球紧,故\(f\)在球内取得最小值\(f(x_*)\le f(0)\)。球外的值都大于\(f(0)+1\),因此\(x_*\)也是整个空间的最小点。
9.7.0.0.10 第11题
由统一误差界和近似最小条件, \[J(\widetilde\theta)\le\widetilde J(\widetilde\theta)+\varepsilon \le\min_K\widetilde J+\delta+\varepsilon \le\min_KJ+2\varepsilon+\delta.\] 两个\(\varepsilon\)分别来自在近似解处比较目标,以及比较两个最优值。该式给出真实目标值的近似保证,并不单独限制参数点之间的距离。
9.7.0.0.11 第12题
对任意\(x,y\in D\),依次使用两个Lipschitz界得 \[\left\lVert g(f(x))-g(f(y))\right\rVert\le L_g\left\lVert f(x)-f(y)\right\rVert \le L_gL_f\left\lVert x-y\right\rVert.\] 三个映射顺序复合时常数可取\(L_3L_2L_1\)。若只在最初输入产生大小不超过\(\eta\)的扰动,最终误差不超过该乘积乘\(\eta\);若各步骤内部还引入误差,则需分别传播后相加,不能把所有误差都当作同一次输入扰动。