考试题中的计算数学

xsaisigma

试题: 设 A 为三阶正定矩阵, v_1, v_2, \cdots, v_k \in \mathbb R^3 为 k 个列向量, 满足条件
v_i^T A v_j \leq -2023^{-1}, \quad i,j \in 1,2,\cdots,k,\quad i \neq j,
则 k \leq 4.

如果您象通常那样, 把它当成一个矩阵论的问题, 就必须考虑这些列向量排成的矩阵 V := \begin{bmatrix} v_1 & v_2 & \cdots & v_k \end{bmatrix}, 并让 G := V^T AV, 这样, G 的 (i,j)-元就是所要考虑的 v_i^T A v_j. 除此之外, G 还有着以下特性:

G 是对称半正定的: 因为 x^T Gx = (Vx)^T A (Vx), 这儿 A 本来是正定的, 但没有理由认为只有 x = 0 能零化 V; G 的对称性很明显;
\text{rank } G \leq 3: 因为 V 只是一些 \mathbb R^3 的列向量排成的, 而 \text{rank }G = \text{rank }V^T AV \leq \text{rank } V \leq 3;
G 的非对角元严格小于 0: 题设.

因此, 为了证明问题, 您必须证明在这些条件下, \text{rank }G \geq k-1. 这确实是一个有困难的问题, 因为 1) 您必须求下界, 而求下界本来就比求上界困难; 2) 您必须通过操纵 G 的具体的分量来完成这件事.

我们来设法取得这个下界. 因为 G 是 k \times k 的, 所以转而说明 \dim \ker G \leq 1 就够了.

先作粗的估计, 至少看看 \ker G 里面的东西是正的还是负的 --- 当 x \in \ker G 进而 x^T Gx = 0 的时候, x 是怎样的? 让我们以 |x| 表示对 x 的每个分量各取绝对值之后得到的向量.

为此, 用
x^T Gx = \sum_i G_{ii} x_i^2 + \sum_{i \neq j} G_{ij}x_i x_j \quad (=0)
和
|x|^T G|x| = \sum_i G_{ii} x_i^2 + \sum_{i \neq j} G_{ij} x_i x_j

两式相减, 得
|x|^T G|x| =\sum_{i\neq j} G_{ij} (|x_i| |x_j| - x_i x_j).

它 \leq 0, 因为 G_{ij} < 0 而括号里的东西 \geq 0. 可是 G 是半正定, |x|^T G |x| \geq 0, 所以只能 |x|^T G|x| = 0. 上式右端是一些非正项之和 = 0, 所以每一项必须都是零, 进而 |x_i||x_j| = x_i x_j, 即 x_i x_j \geq 0. 也就是说, x 的所有非零分量同号, 而且当 x \in \ker G 时, |x| 也 \in \ker G.

接下来, 利用这个符号的特性, 引出 \dim \ker G \leq 1. 使用反证法: 如果 \dim \ker G \geq 2, 就有线性无关的 x, y \in \ker G, 而且 x 和 y 都可以取成逐分量 \geq 0. 这是, 对每个 t \in \mathbb R, x - ty \in \ker G (因为核空间是一个空间) 进而每个 x - ty 的各非零分量都必须同号. 但这是不可能的. 因为:

1) 如果是某个 j-分量 x_j > 0, y_j = 0 的情形: 只要 t 足够大, 就能使另外某个 m-分量: x_m - ty_m < 0, 而与此同时 x_j - ty_j = x_j > 0. 矛盾;

所以为了避免 1), 对那些 x 非零的分量的位置, 同一个位置的 y 分量也必须非零. 也就是说, \text{supp } x \subseteq \text{supp } y := S, 其中 \text{supp } x 表示 x 的非零分量的指标的集合. 但这也是不可能的. 因为:

2) 对每个 j \in S 作出比 r_j = x_j / y_j. 首先这些 r_j 不可能全相等, 不然 x 和 y 就会线性相关. 所以设 \min r_j = r_p, \max r_j = r_q. 取 t \in (r_p, r_q), 则
(x - ty)_p = y_p(r_p - t) < 0
且
(x - ty)_q = y_q(r_q - t) > 0,
再次得到 x - ty 存在异号分量, 矛盾.

因此, 最后只能 \dim \ker G \leq 1, 从而 \text{rank } G = k - \dim \ker G \geq k - 1. 现在 k-1 \leq \text{rank } G \leq 3, 所以 k \leq 4.

您已经看到, 这里需要一些创造性的才能, 而且手续复杂; 阴谋论一点讲, 他们可能甚至乐于看到您这样陷在里面 (因为这个问题被排在试卷的最后一个). 可是, 如果您愿意使用一些基本的计算数学概念, 情况就完全不同了.

1) 非标准内积概念: 因为 A 是正定阵, 它宜于构成内积 (x,y)_A = x^T Ay. 这样, 原问题就变成: 在 \mathbb R^3 的向量里, 满足 (x,y)_A \leq -2023^{-1} (其实只要小于 0 就行了, 2023 只是一个用年份来作烟雾弹的顽固恶习) 的向量有几个? 如果再把每个向量各除其长, 左边就是向量间的夹角. 这就变成几乎是一个常识: 正是有四个 (甲烷 --- 从四面体的重心引向它的顶点). 一般来讲, 在 \mathbb R^k 的向量里, 最多 k+1 个向量可以作成互成钝角.

2) Cholesky 分解: 因为 A 是正定阵, 它容许 Cholesky 分解 A = BB^T, 而 v_i^T A v_j = v_i^T BB^T v_j = (B^T v_i)^T (B^T v_j) := w_i^T w_j, 从而迅速再次化成标准内积下的同一个常识.

此帖将长期更新, 因为我已经发现大量分析和代数试题中有着这种值得注意的现象.

xsaisigma

试题: 设函数 f(x) 在 (a,b) 上二阶可微, M > 0 是一个常数. 则对每个 x \in (a,b), |f''(x)| \leq M 的充分必要条件是对所有满足 x+h, x-h, x \in (a,b) 的 x 和 h 均有
\left|\frac{f(x+h) + f(x-h) - 2f(x)}{h^2}\right| \leq M.

即使您不喜欢计算数学, 也能看出来这是一个比较明确的问题, 而且不等式的左边已经明显地和二阶导数有关.

因此, 为了证明必要性, 您使用
\text{原式左边双纵线内} = \frac{\frac{f(x+h) - f(x)}{h} - \frac{f(x) - f(x - h)}{h}}{h}
并令 h \rightarrow 0. 有一个小小的细节是 \frac{f(x) - f(x-h)}{h} 相应于左导数, 从而整个二阶差分也相应于二阶左导数; 但是当然在这里并没有影响.

为了证明充分性, 您将用中值定理来求上界; 具体来说, 您必须建立形如
\text{原式左边双纵线内} = f''(\xi),\quad \xi \in (a,b)
的中值定理, 然后用已知的二阶导数的上界. 为此, 您需要写出形如
g(s) = f(s) - \frac{f(x+h) - f(x-h)}{2h}s,
然后对这个 g 用两次中值定理. 可是就我所观察到的, 恰当地写出类似于形式 g 这件事本身已经成为了很多人最棘手的障碍之一. 平心而论这当然不是个简单的事, 但我看到很多人用错误的方法克服它 --- 他们死记硬背: 遇到怎样的表达式时, 就应该把怎样的 g 用于中值定理. 这个方法不仅痛苦不堪, 而且实际上解决不了问题.

因此, 如果您暂时难以把握正确构造 g 的直觉, 但也厌烦了这种无谓的硬记, 可能您会喜欢如下基于数值微分和数值积分的方法.

原式左边双纵线内是 f 的一个二阶中心差分, 让我们记为 \delta_h^2 f; 则原问题其实就是要求您证明连续估计 \Vert f''\Vert_{L^\infty} \leq M 和离散估计 \Vert \delta_h^2 f\Vert_{L^\infty} \leq M 的等价性.

按带有积分余项的 Taylor 展开式:

f(x+h) = f(x) + hf'(x) + \int_0^h (h-t) f''(x+t)\,dt \quad \text{及} \quad f(x - h) = f(x) - hf'(x) + \int_0^h(h-t)f''(x-t)\,dt,
此二式相加, 得
f(x+h) + f(x - h) - 2f(x) = \int_0^h (h - t)(f''(x + t) + f''(x - t))\,dt.
或者令 s = t / h, 再两边以 h^2 除:
\delta^2_h f(x) = \int_0^1 (1-s)(f''(x + hs) + f''(x - hs))\,ds.
从数值方法来看, 这是一个带有正求积权 \rho(s) = 1-s 的数值积分格式; 而从分析学来看, 由于 \int_0^1 \rho ds = 2^{-1}, 这是 f'' 在 [x-h, x+h] 上作为积分的平均方法
\int_0^1\rho(s)(f''(x + hs) + f''(x - hs))\,ds = 2^{-1}\int_0^1 2\rho(s)((f''(x + hs) + f''(x - hs))\,ds,
其中 2\rho 作为一个密度函数 (或者按分析的术语, 作为一个归一化 (因为 \int_0^1 2\rho = 1) 的核) 出现. 这时, 求上界只需要最简单的三角形不等式:

\begin{aligned}|\delta^2_hf(x)| &= 2^{-1}\left|\left(\int_0^1 2\rho(s)f''(x + hs)\right) + \left(\int_0^1 2\rho(s) f''(x - hs)\right)\right| \leq \\ & \leq 2^{-1} \left(\left| \int_0^1 2\rho(s)f''(x + hs)\right| + \left|\int_0^1 2\rho(s)f''(x - hs)\right|\right) \leq \\ & \leq 2^{-1}\left(\int_0^1 2\rho(s) |f''(x + hs)| + \int_0^1 2 \rho(s) |f''(x - hs)|\right) \leq \\ & \leq 2^{-1}\left(M\int_0^1 2\rho(s) + M\int_0^1 2\rho(s)\right) = M. \end{aligned}

为了证明必要性, 同样对 h 取极限即可.

您将会发现, 上面的这个方法里并没有显出任何对数值方法的刻板印象中的那种以 "近似", "逼近" 或 "误差" 为中心的东西. 它面上就是一个普通的微积分学证明, 但它用的是计算数学中估计离散差分误差的常用手段 (两个 Taylor 展开式相加那里), 而其中的数学思想甚至牵涉到积分方程的核.

xsaisigma

矩阵分解方法使您毫不费力地计算二种被认为演算麻烦的行列式

1) 我们来考虑 ``爪形'' 矩阵
\mathscr{A} = \begin{bmatrix} a_1 & 0 & 0 & \cdots & 0 & b_1\\ 0 & a_2 & 0 & \cdots & 0 & b_2\\ 0 & 0 & a_3 & \cdots & 0 & b_3\\ \vdots & \vdots & \vdots & \ddots & \vdots & \vdots\\ 0 & 0 & 0 & \cdots & a_n & b_n\\ c_1 & c_2 & c_3 & \cdots & c_n & d \end{bmatrix}
的行列式. 也有形状略微不同的 "爪形" 矩阵, 例如 "多出的" 一行一列可能不是在右下角, 而在左上角; 但那时我们的分析还是不变. 这一种矩阵常出现在特征值问题, 特征值逆问题和线性方程组的迭代求解中.

通常, 您被要求以一行一列展开来计算它, 但我认为对于手工计算, 它并不总是好的实用方法. 我们限于研究每个 a_i (i = 1,2,\cdots, n) 都不是零的情形.

矩阵 \mathscr A 很明显符合 2 \times 2 分块结构
\mathscr A = \begin{bmatrix} A & b\\ c^T & d \end{bmatrix},
其中 b = [b_1,\cdots, b_n]^T, c = [c_1,\cdots, c_n]^T. 凡是这种 2 \times 2 分块结构 (大量 PDE-约束优化问题离散后得到的线性方程组的矩阵都是这个结构) 的矩阵
\mathscr A = \begin{bmatrix} A_{11} & A_{12}\\ A_{21} & A_{22} \end{bmatrix},
只要 A_{11} 是可逆的, 我们就可以确定 Schur 补 S := A_{22} - A_{21}A_{11}^{-1}A_{12}, 而且此 Schur 补自然出现在对 \mathscr A 的分块三角分解中:
\mathscr A = \begin{bmatrix} I & 0\\ A_{21}A_{11}^{-1} & I \end{bmatrix}\begin{bmatrix} A_{11} & \\ & S \end{bmatrix}\begin{bmatrix} I & A_{11}^{-1}A_{12} \\ 0 & I \end{bmatrix} := LDR.

您可以直接自己检验这个公式; 而且, 您不必强行记住这个分解的细节. 它其实有三个特征: 1) L 矩阵对角线上全是 1, 只有左下角有东西; 2) D 矩阵是 \text{blockdiag }(A_{11}, S), Schur 补出现在这里; 3) R 矩阵对角线上全是 1, 只有右上角有东西. 这些特征的视觉冲击力非常强烈, 见到一次就很难没有印象; 从而 L 的左下角和 R 的右上角具体是什么东西不再需要硬记. 即使将它们设为未知, 通过这几个特征, 可以轻易地反推出来.

如果您只是为了用它来计算行列式, 就更不需要硬记了. 因为 L 和 R 的行列式显然都是 1, 整个 \mathscr A 的行列式就是 A_{11} 的行列式乘上 S 的行列式.

现在, 回到我们的 "爪形" 例题. 此时 \mathscr A 的 Schur 补是 S = d - c^TA^{-1}b (注意, 是一个一阶的矩阵, 也就是一个数), 其中 A^{-1} = \text{diag }(a_1^{-1},\cdots, a_n^{-1}) 很容易算出. 这样, S = d - \sum_i a_i^{-1} b_i c_i, 从而
\det \mathscr A = \det A \det S = \left(\prod_i a_i\right)\left(d - \sum_i a_i^{-1} b_i c_i\right).
从数值代数方法来看, 这就是说, \mathscr A 的行列式就是它那个大的对角阵部分的行列式, 再乘上一个秩 1 的因子; 和矩阵 \mathscr A 本身的结构形成直接的观照.

xsaisigma

2) 我们来考虑带状矩阵
\mathscr{A} = \begin{bmatrix} a_1 & b_1 & & & 0\\ c_1 & a_2 & b_2 & &\\ & c_2 & a_3 & \ddots & \\ & & \ddots & \ddots & b_{n-1} \\ 0 & & & c_{n-1} & a_n \end{bmatrix}.
通常, 您写 x_n = \det \mathscr A, 并也按一行一列展开它, 进而得到一个递推方程
x_n = a_n x_{n-1} - b_{n-1}c_{n-1}x_{n-2}.

这个方法在很多时候同时是理论的和实用的工具. 例如, 当您用中心差分来离散最简单的两点边值问题
\begin{cases} -\Delta u(x) = f(x), & x \in (0,1),\\ u = 0, & x \in \{0,1\} \end{cases}
时, 就得到一个系数矩阵为
\mathscr{A} = \begin{bmatrix} 2 & -1 & & & 0\\ -1 & 2 & -1 & &\\ & -1 & 2 & \ddots & \\ & & \ddots & \ddots & -1 \\ 0 & & & -1 & 2 \end{bmatrix}.
的线性方程组.
按一行一列展开, 对应的递推方程是 x_n = 2x_{n-1} - x_{n-2}, 和原问题的齐次问题的差分方程
u_{i+1} - 2u_i + u_{i-1} = 0
具有完全相同的结构. 这些方程的特征都是 \lambda^2 - 2\lambda + 1 = 0 \Rightarrow \lambda = 1, 对应线性函数, 说明 (离散) Laplacian 的零空间就是 (离散) 线性函数的空间. 而且, 解递推方程也能得到 x_n = n+1, 说明 (离散) Laplacian 是个可逆算子.

可是, 当必须修改边界条件的时候, 例如, 就会出现 a_1 = a_2 = \cdots = a_{n-1} \neq a_n 的情况. 这种矩阵最近才出现在许多教学单位的试题中. 此时, 递推过程就被打断了 (或者说, 递推方程不是常系数的了); 从而不再是计算其行列式的实用方法.

可以考虑的是与这个递推过程等价, 且更直接的 LU 分解: 将
\mathscr A = \begin{bmatrix} 1 & & & &\\ l_1 & 1 & & & \\ & l_2 & 1 & & \\ & & \ddots & \ddots & \\ & & & l_n & 1 \end{bmatrix}\begin{bmatrix} r_1 & b_1 & & &\\ & r_2 & b_2 & &\\ & & r_3 & \ddots & \\ & & & \ddots & b_{n-1} \\ & & & & r_n \end{bmatrix} = LU,
其中的元 l_i 和 r_i 由
r_1 = a_1, \quad l_1 = c_1/ r_1, \quad l_i = c_i / r_i, \quad r_{i+1} = a_{i+1} - l_i b_i

确定. 这些系数就是自然地产生于 Gauss 消元法, 您可以自己验证, 也可以从文献 (例如, O Axelsson 的 Iterative Solution Methods, 或其它线性代数学教程) 中找到完整的演算. 您将发现它是局部更新的, 所以它不像依赖整体的循环结构的递推方程式那样, 受到一个元的改变的影响. 例如, 当 b_1 = b_2 = \cdots = b_{n-1} = B, c_1 = c_2 = \cdots = c_{n-1} = C, a_1 = a_2 = \cdots = a_{n-1} = A \neq 0, 但 a_n = D \neq a 时, 您只需要照例
r_1 = A, \quad r_2 = A - r_1^{-1}BC, \quad r_3 = A - r_2^{-1}BC, \quad \cdots,\quad r_{n-1} = A - r_{n-2}^{-1}{BC},
而在最后一步改成
r_n = D - r_{n-1}^{-1}BC
就行了; 最后, 由于 \det L = 1, \det \mathscr A = \det U = \prod_i r_i.

xsaisigma

试题: 研究级数
\sum_{n=1}^\infty \sqrt[n]{\frac 1n}\sin n \sin \frac 1n
的收敛性.

如果您的对这个问题的预期仅限于教科书上的古典级数理论 (或某种因素使您如此, 尽管事实上没有人要求您这样做), 您将只能使用 Dirichlet-Abel 的判别法, 并且像通常那样, 把 \sin n 看成一个因子 = c_n (因为它符号不定), 再把其它的部分看成另一个因子 = b_n. 可正是此时, 困难就出现了. 具体地说, \sum c_n 的部分和确实有界: 由于 \sin n = \Im e^{in} (通过它来证明最好, 因为这能把三角演算化成等比序列的和),

\sum_{n=1}^N \sin n = \sum_{n=1}^N \Im e^{in} = \Im \sum_{n=1}^N e^{in} = \Im e^i\frac{1 - e^{Ni}}{1-e^i},

并进行通常的算术化简, 就得到 \sum_{n=1}^N \sin n= \frac{\sin(N/2)\sin((N+1)/2)}{\sin(1/2)}. 如果把分子化成和, 得到
\sum_{n=1}^N \sin n = \frac{\cos 2^{-1} - \cos(N + 2^{-1})}{2\sin 2^{-1}},
就可以明显地看出它的有界性.

而且 b_n 也确实 \rightarrow 0: 因为
0 < b_n = n^{-1/n}\sin \frac 1n \leq \sin \frac 1n \leq \frac 1n;

但是 b_n 不是单调的. 如果您正在参加考试遇到这个问题, 您可能羞愤交加, 然后自暴自弃; 因为 Dirichlet 判别法无法被使用, 而您再也想不出其它的办法了.

实际上, 您此时首先应该清楚地明白这次不是所谓技巧或熟练的问题 (我也不承认存在所谓这类问题), 因为 b_n 的非单调性不以任何光辉的变换技术为转移. 从古典分析出发, 您需要做的 (也是这个问题的困难之处) 是观察 b_n 已经有的性质, 并 "修补" 您脑中那个版本的判别法, 使它在 b_n 已满足的条件下再次工作.

具体地说: b_n 自身的性质可以描述它的一部分渐近行为, 而更精细的需要 b_{n+1} - b_n --- 这就像 f(x) = x 和 g(x) = x^2, 当 x \rightarrow +\infty 时它们自身也都接近 +\infty, 在这里体现不出区别; 可是当考虑 f(x+1) - f(x) 和 g(x + 1) - g(x) 时, 情况就不同了. 这就是微分学的起始; 我们现在也要再用它.

b_n 里面再次是两个因子的乘积, 其中 s_n := \sin \frac 1n 已经 \downarrow 0, 而 f_n := n^{-1/n} = e^{-\frac{\ln n}{n}} 的渐近行为 (抛掉前两项的话) 是 \uparrow 1. 我们用
b_{n+1} - b_n = s_{n+1}f_{n+1} - s_n f_n = f_{n+1}(s_{n+1} - s_n) + s_n(f_{n+1} - f_n),
因为 s 和 f 在朝着反方向变; 而这样做, s 项和 f 项就可以被分别操纵了. 现在对 n 求和并用三角形不等式 (您还有别的事情可选吗?):

\left|\sum_{n} (b_{n+1} - b_n)\right| \leq \sum_n |b_{n+1} - b_n| \leq \sum_n f_{n+1}|s_{n+1} - s_n| + \sum_n s_n|f_{n+1} - f_n| := \sum_I + \sum_{II},

对于 \sum_{I}, 由于 s_n 递减而 f_{n+1} \leq 1, \sum_{I} \leq \sum_n (s_n - s_{n+1}) = s_1. 同理, 因为 f_n 从 n \geq 3 开始递增而 s_n \leq 1, \sum_{II} \leq \sum_{n \geq 3} (f_{n+1} - f_n) = \lim f_n - f_3 = 1 - f_3. 这两部分都是有限的, 所以总体来说 \sum_n|b_{n+1} - b_n| \leq 1 + s_1 - f_3 有限; 也就是说, b_n 是有有界变差的.

现在我们来"修补" Dirichlet 判别法, 把 b_n \downarrow 0 变成 b_n 有有界变差且 \rightarrow 0, 看看它还能否生效.

因为涉及到乘积的和, 我们来施行 Abel 的分部求和. 令 C_N = \sum_{n=1}^N c_n, 则
\sum_{n=M}^N c_n b_n = C_N b_N - C_{M-1} b_M + \sum_{n=M}^{N-1} C_n(b_n - b_{n+1}).
取绝对值并用三角形不等式:
\left|\sum_{n=M}^N c_n b_n\right| \leq |C_N b_N| - |C_{M-1} b_M| + \sum_{n=M}^{N-1} |C_n||(b_n - b_{n+1})|.

由于 C_n 有界 (设其绝对值 \leq C_0), 左边就 \leq C_0|b_N| + C_0 |b_M| + C_0\sum_{n=M}^{N-1} |b_{n+1} - b_n|. 而在右边, 由于当 N,M \rightarrow \infty 时 |b_N| \rightarrow 0, b_M \rightarrow 0, \sum_{n=M}^{N-1} 项也 \rightarrow 0 (有界变差), 根据 Cauchy 收敛定理, \left|\sum_{n=M}^N c_n b_n \right| \rightarrow 0, 进而 \sum c_n b_n 收敛.

我们从上面的题解, 作出四点评述:

您可以验证, b_n \downarrow 0 确实是 b_n 有有界变差且 \rightarrow 0 的一个充分条件, 所以我们的 "修补" 非常好;
可是, "修补" 工作实际上是放松了条件, 不仅需要创造性的才能, 而且它的工作量已经远大于一个具体的级数收敛问题; 而我甚至还没有完全处理关于绝对收敛性的剩余部分.
因此, 我有充分的理由认为, 没有人期望您真的通过这种 "修补" 工作来解决这个具体的级数收敛问题 (而另一些人可能会乐于看到您被陷在里面).
您会发现所有的 "修补" 我打了引号, 这是因为 Dirichlet 本人已经用了有界变差来叙述他自己的定理. 由于我不清楚的一些原因, 有界变差概念被人们遗忘地如此之快, 以至于在今天出现在教科书的版本里, 他的判别法也打了折扣. 并且, 当然, 没有理由要求您马上找到并学习 Dirichlet 的原始版本.

可是, 如果您愿意使用一些计算数学里的基本方法, 问题就很简单了. 这一次, 让我们用渐近展开式, 阶的估计和 O 的记号.

用这个方法来判断级数或积分的收敛性, 需要的唯一法则如下: 设自然指数, 多项式函数和自然对数是已知比较阶的函数. 把所考虑的函数用渐近表达式展开并演算, 找到用这些已知比较阶的函数表示的它的主要部分, 然后只看这个东西的收敛性.

由于 n^{-1/n} = e^{-\frac{\ln n}{n}} 而此时 \frac{\ln n}{n} \rightarrow 0, 可以用 e^x = 1 + x + O(x^2) 在 x \rightarrow 0 这一渐近展开式, 得到
n^{-1/n} = 1 - \frac{\ln n}{n} + O\left(\frac{\ln^2 n}{n^2}\right),
同理,
\sin \frac 1n = \frac 1n - \frac{1}{6n^3} + O(n^{-5}) = \frac 1n + O(n^{-3}),
进而和的通项为
\left(1 - \frac{\ln n}{n} + O\left(\frac{\ln^2 n}{n^2}\right)\right)\sin n \left(\frac 1n + O(n^{-3})\right),

乘开, 得到 \frac{\sin n}{n} + O\left(\frac{\ln n}{n^2}\right). 基于上面讲过的理由和 Dirichlet 判别法, 第一项的和是收敛的, 而 O-项的和也收敛 (比较阶的次序). 所以原来的级数收敛. 当然它不是绝对收敛 --- 因为通项的主要部分的绝对值为 \frac{|\sin n|}{n}, 它的和是发散的.

xsaisigma

用渐近展开式来解决级数和积分的收敛性问题

在刚才的问题里, 用渐近展开式轻易地分析了一个级数的收敛性. 为了避免引起那种论调, 即以为我是故意选择了适合这个方法的特别问题, 我有必要对这个方法作一个简要的介绍, 并用它解决更多已经出现了的, 常被认为是困难的此类试题. 渐近展开式的方法根植于您在一二年级就学过的基本概念; 可是在这个方面面向公共的教学资源非常少, 仅有的那些还往往是错的 (例如武断地说 "无穷小量的替换不能用于加法"; 实际上这只和所涉及的无穷小量的阶是不是合适有关, 和加法本身无关). 另一方面, 渐近展开式的方法已经广泛地遍布在整个计算数学, 乃至整个数学里; 可是很多人还不熟悉它. 如果完全在级数和积分的收敛性问题中抛弃它, 就不仅与时代脱节一个世纪, 而且将导致必然的困难, 因为您必须每次都同时处理可能性态复杂的函数和不那么灵活的判别法, 使前者的某种变体能够适应后者. 很不幸, 出于某种我所不清楚的原因, 现在很多学校的教学就是这样. 然后, 当您暂时不能如此完成时, 就归结于您个人, 说是智力问题或者道德问题. 我不承认这种归因有什么合理性.

假设您已经知道了什么是渐近展开式, 记号 O, o 和 \sim 的形式运算, 以及渐近阶的次序. 如果您还不熟悉, 您只需要花几十分钟看看相关文献中的叙述, 例如 Dieudonne 的 "无穷小计算", 或者潘承洞等人的 "阶的估计基础" 中的那些章节, 很快就会记起来的.

在用渐近方法来分析收敛性时, 常用的定理如下. --- 我们限于叙述它们, 并作出一些简要的赏析, 使您能够快速的理解并上手; 证明就不写出来了. 这不是因为证明不重要. 一方面, 它们并不难, 定义和最简单不等式的直接应用通常就够了; 另一方面, 是出于帖文篇幅和节奏的考虑. 您可以自己试着证明, 也可以从所说的那两本书中找到; 节约下来的篇幅用来展示这些定理在具体问题中的用法.

基本定理 I: 设 f, g 是在 [a, +\infty) 中分段连续的两个函数, 并且假定在其中 g(x) > 0. 那么

如果 \int_a^{+\infty} g 是无穷大, 则在 +\infty 的邻域中, f = O(g) 蕴涵 \int_a^x f = O\left(\int_a^x g\right), f = o(g) 蕴涵 \int_a^x f = o\left(\int_a^x g\right), f \sim cg (常数 c \neq 0) 蕴涵 \int_a^x f \sim c\int_a^x g;
如果 \int_a^{+\infty} g 是常数, 则在 +\infty 的邻域中, f = O(g) 蕴涵 \int_x^{+\infty} f = O\left(\int_x^{+\infty} g\right), f = o(g) 蕴涵 \int_x^{+\infty} f = o\left(\int_x^{+\infty} g\right), f \sim cg (常数 c \neq 0) 蕴涵 \int_x^{+\infty} f \sim c\int_x^{+\infty} g.

首先, 您不用硬记每种情况的条件. 显然这儿 g 是用于比较的函数, 那么如果 \int_a^{+\infty} g 已经发散了, 您控制尾部 \int_x^{+\infty} f 没有意义, 而应该控制头部 \int_a^x f, 同理, 如果它已经收敛了, 您再应该控制尾部. 这是很自然很合理的事情. 另外, 这个定理说明, O, o 和 \sim 的记号在积分关系里也得到了某种保持. 至于在哪里保持 --- 就是我刚才说的, 在 g 发散的时候作用于头部, 在 g 收敛的时候作用于尾部.

基本定理 II: 设 g 连续可微, 并且在 +\infty 的邻域里 >0. 假设我们有了 \frac{g'(x)}{g(x)} \sim \frac \mu x, 其中 \mu 不是 0 或 -1. 那么:

如果 \mu > -1, 且对于每个 \varepsilon > 0, 在 +\infty 的邻域中有 x^{\mu - \varepsilon} = o(g(x)); 则积分 \int_a^{+\infty} g 是无穷大, 并且在 +\infty 的邻域中有
\int_a^x g(t)\,dt \sim \frac{xg(x)}{\mu + 1};
如果 \mu < -1, 且对于每个 \varepsilon > 0, 在 +\infty 的邻域中有 g(x) = o(x^{\mu + \varepsilon}); 则积分 \int_a^{+\infty} g 收敛, 并且在 +\infty 的邻域中有
\int_x^{+\infty} g(t)\,dt \sim -\frac{xg(x)}{\mu + 1}.

这个定理通过 g 的渐近行为, 首先给出 \int_a^{+\infty} g 的收敛性; 然后, 在它发散的时候, 有头部的估计; 而在收敛的时候有尾部的估计. 在 \mu = 0 时, 公式
\int_a^x g(t)\,dt \sim \frac{xg(x)}{\mu + 1}
仍然成立, 这种情况可以理解成是相应于 \frac{g'(x)}{g(x)} = o\left(\frac 1x\right), 积分还是无穷大.

至于 \frac 1x = o\left(\left|\frac{g'(x)}{g(x)}\right|\right) 的情形 (如果把它理解成 \mu = -1 的话), 如果加上 g' 在 +\infty 的邻域里不变号的条件 (从而 h(x) = g(x) / g'(x) 是确定的), 还有以下定理:

基本定理 III: 设 h = g/g' 在 +\infty 的邻域里连续可微, 且 h'(x) = o(1). 那么:

如果在 +\infty 的邻域中 g'(x) > 0, 则 \int_a^{+\infty} g 是无穷大, 并且在此邻域中
\int_a^x g(t)\,dt \sim \frac{g^2(x)}{g'(x)};
如果在 +\infty 的邻域中 g'(x) < 0, 则 \int_a^{+\infty} g 收敛, 并且在此邻域中
\int_x^{+\infty} g(t)\,dt \sim \frac{g^2(x)}{|g'(x)|}.

定理的结果在 -1 时 "分叉", 仿佛 -1 这个点里面又有一整个世界. 如果您熟悉比较阶的次序, 会记起那里也有类似的现象. 另外, 再次提请注意, 我们的贫瘠的赏析不能使您掌握这些定理的全部细节. 如果您只是硬记这些结果, 则完全背离我的目的; 您必须自己通过证明 (无论是尝试自己完成还是看书上写的) 来切实了解它们. 认真看别人作证明和自己作证明很少有区别; 但是和没有接触证明有很大的区别.

一般项是 g(n) 的级数的收敛性和积分 \int_a^{+\infty} g(t)\,dt 的收敛性是一样的. 三个基本定理平行地叙述如下:
基本定理 I': 设 u_n, v_n 是两个正项级数的一般项. 那么:

如果一般项为 v_n 的级数收敛, 且 u_n = o(v_n), 则 \sum_{k=n}^\infty u_k = o\left(\sum_{k=n}^\infty v_k\right);
如果一般项为 v_n 的级数发散, 且 u_n = o(v_n), 则 \sum_{k=1}^n u_k = o\left(\sum_{k=1}^n v_k\right);
u_n \sim cv_n 和 u_n = O(v_n) 的情况同理.

基本定理 II': 设 g 连续可微, 并且在 +\infty 的邻域里 >0. 假设我们有了 \frac{g'(x)}{g(x)} \sim \mu, 其中 \mu 不是 0. 那么:

如果积分 \int_a^{+\infty} g 是无穷大 (\mu > 0 的时候必然会这样), 则
\sum_{k=1}^n g(k) \sim \frac{\mu}{1-e^{-\mu}} \int_a^n g(t)\,dt;
如果积分 \int_a^{+\infty} g 收敛, 则
\sum_{k={n+1}}^\infty g(k) \sim \frac{\mu}{1-e^{-\mu}} \int_n^{+\infty} g(t)\,dt.

在 \frac{g'(x)}{g(x)} = o(1) 的时候 (也就是 \mu = 0 对应的情形), 只需要把里面的 \frac{\mu}{1 - e ^{-\mu}} 换成 1 后, 结果仍然成立.

基本定理 III': 设 g 在 +\infty 的邻域里单调, 连续可微并且 >0. 设 1 = o\left(\left|\frac{g'(x)}{g(x)}\right|\right), 那么:

如果 g 在 +\infty 的邻域里递增, 则 \sum_{k=1}^n g(k) \sim g(n);
如果 g 在 +\infty 的邻域里递减, 则 \sum_{k=n+1}^\infty g(k) \sim g(n+1).

接下来用一些例子来演示.

xsaisigma

渐近展开式例题 1: 序列 x_n = 1 + \frac 12 + \cdots + \frac 1n - \ln n 的收敛性.

这是一个经典的问题; 可是很多人通过硬记标准证明来学习它. 当然, 若仅论这个问题, 用渐近展开式未必比您印象中那个标准证明简短; 我只是为了说明渐近展开式的用法, 它广泛的应用场合, 以及您忘记了那个标准证明时, 本方法的稳健性.

这里面的和具有通项 u_n = g(n), g(x) = \frac 1x. 此时, \frac{g'(x)}{g(x)} = -\frac 1x, 属于基本定理 II' 中 \frac{g'(x)}{g(x)} = o(1) 的那种情形, 所以
1 + \frac 12 + \cdots + \frac 1n \sim \int_1^n g(t)\,dt = \ln n.
但这还不够; 因为您只知道 \sum_{k=1}^n u_k 的主要部分恰好是 \ln n, 但还没有对 x_n 本身的主要部分作出判断. 现在, 考虑 x_n 的增量
\begin{aligned} w_{n+1} := x_{n+1} - x_{n}&= \frac {1}{n+1} - (\ln (n+1) - \ln n) = \frac{1}{n+1} - \ln\left(1 + \frac 1n\right) =\\ &= \left(\frac 1n - \frac{1}{n^2} + o(n^{-2})\right) - \left(\frac 1n - \frac{1}{2n^2} + o(n^{-2})\right) =\\ &= -\frac{1}{2n^2} + o(n^{-2}), \end{aligned}

即一般项 w_{n} 具有主要部分 -\frac{1}{2n^2}. 所以以 w_n 为一般项的级数收敛; 且这个级数的余项再次由基本定理 II' 估计:
\sum_{k = n+1}^\infty -\frac{1}{2k^2} \sim \int_{n}^{+\infty} -\frac{1}{2t^2}\,dt = -\frac{1}{2n}.

现在 x_m - x_n = \sum_{k=n+1}^m (x_k - x_{k-1}) = \sum_{k = n+1}^m w_k. 令 m \rightarrow \infty. 因为右边的级数收敛, x_m 在此过程中就有极限 (设为 \gamma, 就是 Euler 常数), 则
\gamma - x_n = \sum_{k=n+1}^\infty w_k = -\frac{1}{2n} + o(n^{-1}).
能看出 x_n 收敛. 不仅如此, 还得到
x_n = \gamma + \frac{1}{2n} + o(n^{-1})
这一更精确的渐近展开式.

xsaisigma

渐近展开式例题 2: 积分
\int_0^\infty \frac{x^c\,dx}{1 + x^a|\sin x|^b},\quad a > 0,\,b > 0,\,c \in \mathbb R
的收敛性.

看大的结构, 很明显这个积分在 x \rightarrow 0+0 和 x \rightarrow \infty 下都表现出反常性. 因此, 拆成两个: \int_0^\infty = \int_0^\pi + \int_\pi^\infty. 注意在这里只是为了让每个部分只有一个表现出反常性的点, \pi 本身不是决定性的; 只是在这里 \pi 比较方便.

\int_0^\pi 的部分相应于渐近过程 x \rightarrow 0+0, 这块很简单. 您知道在这个渐近过程下, |\sin x|^b = \sin^b x \sim x^b, 因此分母 \sim 1 + x^{a+b} \sim 1. 这样, 整个积分 \int_0^\pi \sim \int_0^\pi x^c\,dx, 收敛必须且只须 c > -1.

\int_1^\infty 的部分相应于渐近过程 x \rightarrow \infty. 这块麻烦之处在于, 在每个 x = n\pi,\,n \in \mathbb N 近旁, \sin x = o(1) ; 而在其它地方它才是 O(1). 当然 n\pi 位置没有导致积分的反常性, 只是说固定的渐近行为在这些地方总被打断. 因此, 必须取出每两个 \pi 的整倍数之间的地方, 即 I_n = \int_{n\pi}^{(n+1)\pi}, 作精细一些的渐近估计, 然后 \int_\pi^{\infty} = \sum_{n\geq 1} I_n. 也就是说, 找到 I_n 的主要部分, 并且由于 x \rightarrow \infty 时在这儿有 n \rightarrow \infty, 最后化成以这个主要部分为一般项的级数的收敛性.

在

I_n = \int_{n\pi}^{(n+1)\pi} \frac{x^c\,dx}{1 + x^a|\sin x|^b}
中, 先把积分限化简一点, 所以自然使用代换 t = x - n\pi. 这时 (这个位置特别关键) x = n\pi(1 + \frac{t}{n\pi}), 而随着 n \rightarrow \infty, 括号里的项为 1, 所以 x \sim n\pi. 另外, 根据我们的代换, \sin x = \sin t. 利用这些信息完成代换, 得到
I_n \sim (n\pi)^c \int_0^\pi \frac{dt}{1 + (n\pi)^a \sin^b t}.
我们把上式中出现的积分 (即 (n\pi)^c 后面的那个) 记为 J_n. 在 J_n 里真正处理 \sin 项变成 o(1) 的问题 --- 由于在 0 和 \pi 近旁 \sin x = o(1), 再把它分成三个 \int_0^\pi = \int_0^\delta + \int_\delta^{\pi - \delta} + \int_{\pi - \delta}^\pi. 在中间的积分区域 [\delta, \pi - \delta], \sin t 有界, 设为 \sin t \geq C > 0, 从而
\int_\delta^{\pi - \delta} \frac{dt}{1 + (n\pi)^a \sin^b t} \leq \int_\delta^{\pi - \delta} \frac{dt}{1 + (n\pi)^a C^b} = O((n\pi)^{-a}),
这部分贡献随着 n \rightarrow \infty 递降到 0. 而对于两边的积分, 可以有 \sin t \sim t. 于是
\int_0^\delta \frac{dt}{1 + (n\pi)^a \sin^b t} = \int_0^\delta \frac{dt}{1 + (n\pi)^a t^b}.
作代换 y = (n\pi)^{a/b}t, 这个积分进一步变成
\int_0^{(n\pi)^{a/b}\delta} \frac{(n\pi)^{-a/b}\,dy}{1 + y^b};
同理, 对于 \int_{\pi - \delta}^\pi 的部分, 通过变量代换 s = \pi - t 并再对 s 作类似的代换, 可以看出它的贡献和上式相同. 因此
J_n \sim 2(n\pi)^{-a/b}\int_0^{(n\pi)^{a/b}\delta}\frac{dy}{1 + y^b}\quad \text{当 $n \rightarrow \infty$}.

现在, 按 b 的取值, 区分三种情形.

b > 1: 此时上面的积分收敛, 从而 I_n \sim n^{c - a/b};
b = 1: 此时 I_n \sim n^{c-a} \ln n;
0 < b < 1: 此时 I_n \sim n^{c-a}.

这就是每种情形下, 以 I_n 为一般项的级数 \sum_{n \geq 1} I_n 的主要部分. 所以再根据这个级数的收敛性判别法, 第一种情形要求 c + 1 < \frac ab, 而后两种情形要求 c - a < -1. 这些条件, 和 \int_0^\pi 部分得到的条件结合, 得到原来积分收敛的条件为

c + 1 < \frac{a}{\max(1, b)} \quad \text{且} \quad c > -1.