中文翻译Introduction to Linear Algebra, 5th Edition 10.1节
多年以来我常常见到一个模型，我发现它是如此的基本和实用，于是我总是将它放在第一位。该模型由 边连在一起的点组成。这叫做图。
通常类型的图表现为函数 f(x)。这种边连节点类型的图可引出矩阵来。本章是关于图的关联矩阵 ——它表明 n 个节点是如何由 m 条边连起来的。通常 m > n，边比节点多。
对于任何 m × n 矩阵，都有 Rn 中的两个基本子空间和 Rm 中的两个基本子空间。它们是 A 与 AT 的行空间及零空间。它们的维数r,n−r及r,m−r源于线性代数最重要的定理。该定理的第二部 分是行空间与零空间的正交性。我们的目标是展示些图的实例是如何阐明这个线性代数基本定理的。
当我创建一个图及其关联矩阵时，将很容易找出其子空间维数。但我们想要子空间本身——就由 正交性来协助。将子空间与它们所在的图联系起来是必要的。通过使关联矩阵专门化，线性代数定律就 变成了基尔霍夫定律。请不要对词汇“电流”和“电压”反感。这些矩形矩阵是最合适的。
中文翻译Introduction to Linear Algebra, 5th Edition 9.3节
线性代数的许多应用都需要时间来发展。在一个小时内解释它们并不容易。教师和作者必须在使理论 完整与加入现代应用之间做选择。通常是理论获胜，然而本节是个例外。本节解释了上世纪最有价值的 数值算法。
我们想快速地乘上傅里叶矩阵 F 与它的逆 F−1。这通过快速傅里叶变换完成。一个普通乘积 Fc 用到 n2 次乘法(F 具有 n2 项)。FFT 仅需要 n 乘以 12 log2 n 次乘法。我们将看到这是如何实现的。 FFT 彻底改变了信号处理。整个行业都因该思想而迅速发展。电气工程师是第一个知道其中区别
的人——当他们遇见你时会取你的傅里叶变换(假设你是个函数)。傅里叶的思想是将 f 表示为谐波 ckeikx 的和。在频率空间中通过系数 ck 观察该函数，而非在实际空间中通过其值 f(x) 来观察它。c 与 f 间的前向、后向通道是由傅里叶变换实现。快速通道由 FFT 实现。中文翻译Introduction to Linear Algebra, 5th Edition 9.3节
单位根与傅里叶矩阵
二次方程有两个根(或者一个重根)。n 次方程具有 n 个根(算上重复次数)。这是代数基本定
中文翻译Introduction to Linear Algebra, 5th Edition 9.2节
中文翻译Introduction to Linear Algebra, 5th Edition 9.2节
本节的要点可由一句话表达：当你转置一个向量 z 或一个矩阵 A 时，也要取其复共轭。不要停在 z T
或 AT 。反转所有虚部的符号。从列向量 zj = aj + ibj 开始，其符合标准的行向量 z T 为分量是 aj − ibj
的共轭转置：
这里是转为 z T 的一个原因。实向量长度的平方为 x21 + · · · + x2n 。复向量长度的平方并非 z12 + · · · + zn2 。
用这个错误定义的话，(1, i) 的长度将是 12 + i2 = 0。一个非零向量将有 0 长度——不可接受。其它向
量将有复数长度。我们想要 a2 + b2 而不是 (a + bi)2 ，即绝对值的平方。就是 (a + bi) 乘以 (a − bi)。
2
对于每个分量，我们想使 zj 乘以 z j ，即 |zj | = a2j + b2j 。当 z 的分量乘以乘以 z 的分量时：
中文翻译Introduction to Linear Algebra, 5th Edition 9.1节
线性代数的完整展示必须包含复数 z = x + iy。即使在矩阵是实矩阵的情况下，其特征值与特征向量也往往是复数。例如：一个 2 × 2 矩阵有复特征向量 x = (1, i) 与 x = (1, −i)。
Introduction to Linear Algebra 3.2 A 的零空间
本节围绕包含 Ax = 0 所有解的子空间。矩阵 A 可以是方形或矩形。右手边为 b = 0。一个立马可得的解是中文翻译Introduction to Linear Algebra对于可逆矩阵，这是其唯一解。消元法将求出所有解并识别出这个非常重要的子空间。
Introduction to Linear Algebra 3.1 向量空间与子空间
对于初学者来说，矩阵计算涉及许多数。对于你来说，它们涉及向量。我们正观察计算的内部，中文翻译，以找出当中的数学。 作者的职责是使它变得清晰。本章以“线性代数基本定理”结束。
Introduction to Linear Algebra 2.7 转置与置换
我们还需要一个矩阵，幸运的是它比逆简单得多。它是 A 的“转置”，由 AT 表示。AT 的列都是
A 的行。中文翻译Introduction to Linear Algebra, 5th Edition 2.7节一个下三角矩阵的转置是一个上三角矩阵。需要认真思考的问题是关于乘积
2.6 消元法 = 因式分解：A = LU
学生们常说数学课太理论了。好吧，不过本节不是。本节几乎是纯实践的。目标是以最有用的方式
来描述高斯消元法。当你仔细观察时，许多关键的线性代数思想实际上都是矩阵的分解。原始矩阵 A
变成两个或三个特定矩阵的乘积。第一个因式分解——也是实践中最重要的——现来自于消元法。因 子 L 与 U 都是三角矩阵。源自消元法的因式分解是 A = LU。
我们已经了解了 U，其为主元在对角线上的上三角矩阵。消元步骤将 A 消为 U。我们将展示用一
个下三角的 L 是如何完成逆转这些步骤的（将 U 带回到 A）。L 的元素恰好是乘数 lij——即当它由行
i 减去时，主元行 j 的倍数。
从一个 2 × 2 例子开始。矩阵 A 包含 2, 1, 6, 8。要消去的数是 6。从行 2 减去 3 倍的行 1。该步
骤是前向消元中具有乘数 l21 = 3 的 E21。从 U 回到 A 的步骤是 L = E−1
21 （运用 +3 的加法）：
A 前向消元至 U：E21A = [−
1 0
3 1] [2 1
中文翻译Introduction to Linear Algebra, 5th Edition 2.5节
中文翻译Introduction to Linear Algebra, 5th Edition 2.5节
1 若方阵 A 有逆，则既有 A−1A = I 又有 AA−1 = I。 2 检验可逆性的算法是消元法：A 必须有 n 个（非零）主元。
3 可逆性的代数检验是 A 的行列式：det A 必须非零。
4 可逆性的方程检验为 Ax = 0：x = 0 必须是唯一解。 5 若 A 和 B 都可逆，则 AB 也可逆： (AB)−1 = B−1A−1。 6 AA−1 = I 是关于 A−1 的 n 个列的 n 个方程。高斯—若尔当将 [A I] 消元为 [I A−1]。 7 本书最后一页提供了方阵 A 可逆的 14 个等价条件。
假设 A 是个方阵。我们寻找一个相同大小的“逆矩阵”A−1，使得 A−1 乘以 A 等于 I。无论 A 做
什么，A−1 总是反着来。它们的积是单位矩阵——即对向量什么都不做，因此 A−1Ax = x。然而 A−1
可能不存在。
一个矩阵的主要作用是与一个向量 x 相乘。将 Ax = b 乘上 A−1 得出 A−1Ax = A−1b。这就是
x = A−1b。乘
中文翻译Introduction to Linear Algebra, 5th Edition 2.4节
我将从基本事实开始。矩阵是一个数字或“元素”的矩形数组。当 A 是 m 行 n 列时，它是一个“m×n”中文翻译Introduction to Linear Algebra, 5th Edition 2.4节矩阵。若矩阵形状相同，则它们可以相加。它们可以乘上任意常数 c。
中文翻译Introduction to Linear Algebra, 5th Edition 2.3节
中文翻译Introduction to Linear Algebra, 5th Edition 2.3节
本节给出了矩阵乘法的第一个例子。自然地，我们从包含许多 0 的矩阵开始。我们的目标是理解
矩阵的所作所为。E 作用于一个向量 b 或一个矩阵 A 来产生一个新向量 Eb 或一个新矩阵 EA。
我们的第一个例子将是“消元矩阵”。它们执行消元步骤。第 j 个方程乘以 lij 然后从第 i 个方程中
减去它。（这从方程 i 中消去 xj。）我们需要许多这样的简单矩阵 Eij，它针对主对角线下每个要消去的
非零元素。
幸运的是我们不会在后面的章节见到所有这些矩阵。它们是开始接触时的好例子，但它们太多了。
它们可以组合成一个一次做所有步骤的总体矩阵 E。最简洁的方式是将它们的逆 (Eij )−1 组合成一个
总体矩阵 L = E−1。以下是下一页的打算。
1. 弄清每一个步骤怎么就是一次矩阵乘法的？
2. 将所有这些步骤 Eij 整合成一个消元矩阵 E。
3. 弄清每个 Eij 是如何由它的逆矩阵 Eij
−1 逆转的？
4. 将所有这些逆 Eij
−1（按正确顺序）整合成
中文翻译Introduction to Linear Algebra, 5th Edition 2.2节
中文翻译Introduction to Linear Algebra, 5th Edition 2.2节
本章阐述一个解线性方程的系统方法。该方法称为“消元法”，你可马上在我们的 2 × 2 例子中见到
它。在消元之前，x 和 y 在两个方程中均有出现。消元之后，第一个未知数 x 从第二个方程 8y = 8 中
消失了：
之前
x − 2y = 1
3x + 2y = 11
之后 x − 2y = 1
8y = 8
（方程 1 乘以 3）
（减去以消去 3x）
新方程 8y = 8 立马得出 y = 1。将 y = 1 带回到第一个方程中留下 x − 2 = 1。因此 x = 3，求解
(x, y) = (3, 1) 就完成了。
消元法产生了一个上三角方程组——这是目标。非零系数 1, −2, 8 来自一个三角形。这个方程组从
底向上求解——首先 y = 1 然后 x = 3。这个快速过程被称作回代。它用于任何大小的上三角方程组，
经过消元得出一个三角形。重点：原先的方程具有相同的解 x = 3 与 y = 1。图 2.5 揭示了每个方程组都是一对直线，在
中文翻译Introduction to Linear Algebra, 5th Edition 2.1节
中文翻译Introduction to Linear Algebra, 5th Edition 2.1节
线性代数的核心问题是求解方程组。这些方程都是线性的，即未知数仅与数相乘——我们绝不会
遇见 x 乘以 y。我们的第一个线性方程组较小。接下来你来看看它引申出多远：
两个方程
两个未知数
x − 2y = 1
3x + 2y = 11
(1)
我们一次从一个行开始。第一个方程 x − 2y = 1 得出了 xy 平面的一条直线。由于点 x = 1, y = 0 解
出该方程，因此它在这条直线上。因为 3 − 2 = 1，所以点 x = 3, y = 1 也在这条直线上。若我们选择
x = 101，那我们求出 y = 50。
这条特定直线的斜率是 12，是因为当 x 变化 2 时 y 增加 1。斜率在微积分中很重要，然而这是线
性代数！
图 2.1 将展示第一条直线 x − 2y = 1。此“行图”中的第二条直线来自第二个方程 3x + 2y = 11。你
不能错过两条线的交点 x = 3, y = 1。点 (3, 1) 位于两条线上并且解出两个方程。
中文翻译Introduction to Linear Algebra, 5th Edition 1.3节
中文翻译Introduction to Linear Algebra, 5th Edition 1.3节
另一个视角改变至关重要。到目前为止，数 x 1 , x 2 , x 3 已知。右手边的 b 未知。我们通过将 A 与 x 相
乘来求出差分向量。现在我们设想 b 为已知然后我们找 x。
旧问题：计算线性组合 x 1 u + x 2 v + x 3 w 来求 b。
新问题：u, v, w 的哪种组合产生一个特定向量 b？
这是逆问题——求能得出期望输出 b = Ax 的输入 x。你以前见过这个问题，它作为一个关于 x 1 , x 2 , x 3
的线性方程组。方程右手边是 b 1 , b 2 , b 3 。我现在要解方程组 Ax = b 来求 x 1 , x 2 , x 3
中文翻译Introduction to Linear Algebra, 5th Edition 1.2节
中文翻译Introduction to Linear Algebra, 5th Edition 1.2节
第一节放弃了讲向量相乘。现在我们继续来定义 v 与 w 的“点积”
。这个乘法包含单独的积 v 1 w 1
和 v 2 w 2 ，但它并不止于此。这两个数加起来得出一个数 v · w。
以下是几何部分 (向量长度及它们夹角的余弦)。
v = (v 1 , v 2 ) 与 w = (w 1 , w 2 ) 的点积或者说内积是数 v · w：
v · w = v 1 w 1 + v 2 w 2 .
(1)
例 1 向量 v = (4, 2) 与 w = (−1, 2) 点积为零：
[ ] [ ]
点积为 0
4
−1
·
= −4 + 4 = 0。
垂直向量
2
2
在数学中，0 总是一个特别的数。对于点积，它意味着这两个向量是垂直的。它们的夹角是 90 ◦ 。当我
们在图 1.1 中画出它们时，我们见到了一个矩形（不仅仅是任一平行四边形）。垂直向量最清晰的例子
是沿 x 轴的 i = (1, 0) 与沿 y 轴向上的 j = (0, 1)。再一次地，点积为 i · j = 0 + 0
中文翻译Introduction to Linear Algebra, 5th Edition 1.1节
中文翻译Introduction to Linear Algebra, 5th Edition 1.1节
线性组合在这个学科中非常重要！有时我们想要一个特定的组合，具体选择 c = 2 和 d = 1 来产
生 cv + dw = (4, 5)。其它时候我们想要 v 与 u 的所有组合（来自所有的 c 与 d）。
向量 cv 沿一条直线放置。当 w 不在那条直线上时，组合 cv + dw 充满整个二维平面。从四维空
间中的 4 个向量 u, v, w, z 开始，它们的组合 cu + dv + ew + fz 可能充满整个空间——但并不总是
这样。向量和它们的组合可能位于一个平面上或一条直线上。
第 1 章解释了这些中心思想，一切都建立在这些思想上。我们从能够合理绘制的二维向量与三维
向量开始。然后我们移入更高的维度。线性代数真正令人印象深刻的特点是如何流畅地将这一步引入 n
维空间。即使不可能画出十维的向量，你脑海中的画面也会保持是正确的。
这是本书将要通往的地方（进入 n 维空间）。第一步是 1.1 节和 1.2 节的运算。然后是在 1.3 节概
述了 3 个基本思想。
中文翻译Introduction to Linear Algebra, 5th Edition 8.3节
中文翻译Introduction to Linear Algebra, 5th Edition 8.3节
1 使用新输入基 Bin 与新输出基 Bout，每个矩阵 A 变成 B
−1
out ABin。
2 Bin = Bout =“A 的广义特征向量”得出若尔当型 J = B−1AB。
3 傅里叶矩阵 F = Bin = Bout 将每个循环矩阵对角化（利用 FFT）。
4 正弦与余弦，勒让德与切比雪夫多项式：这些都是函数空间很好的基。
这是本书重要的一节。我担心大多数读者会跳过他——或读不到这里。前几章通过解释基底的概念做
了铺垫。第 6 章介绍了特征向量 x 以及第 7 章找出了奇异向量 v 与 u。这两个是赢家，但其它许多选
择是很有价值的。
首先是 8.2 节的纯代数，然后是优良基。输入基向量将是 Bin 的列。输出基向量将是 Bout 的列。
Bin 和 Bout 总是可逆的——基向量均无关！
纯代数 若 A 是变换 T 在标准基下的矩阵，则
B−1
out ABin是在新基下的矩阵。 (1)
标准基向量为单位矩阵的列：Bin = In×n 与 Bout = Im×m。现在
中文翻译Introduction to Linear Algebra, 5th Edition 8.2节
中文翻译Introduction to Linear Algebra, 5th Edition 8.2节
1 假设我们知道了关于基底 v 1 , . . . , v n ：的 T (v 1 ), . . . , T (v n )，我们也就知道了所有 T (v)。
2“T 对应矩阵”的 j 列源于将 T 运用到输入基向量 v j 。
3 按输出基底 w 写作 T (v j ) = a 1j w 1 + · · · + a mj w m 。这些 a ij 成为列 j。
4 若输入与输出基 = I n×n 与 I m×m 的列，则 T (x) = Ax 对应的矩阵是 A。
5 当基变为 v 与 w 时，相同 T 对应的矩阵由 A 变为 W −1 AV 。
6 最佳基底：V = W = 特征向量与 V, W = 奇异向量，得出对角 Λ 与 Σ。
下一页为每个线性变换 T 指派了一个矩阵。对于普通列向量，输入 v 在 V = R n 中且输出 T (v) 在
W = R m 中。这个变换对应的矩阵 A 将会是 m × n 的。我们在 V 及 W 中选择的基将决定 A。
R n 及 R m 的标准
中文翻译Introduction to Linear Algebra, 5th Edition 8.1节
中文翻译Introduction to Linear Algebra, 5th Edition 8.1节 仅交流学习
1 线性变换 T 将向量 v 变成向量 T (v)。线性要求 T (cv + dw) = cT (v) + dT (w) 注意 T (0) = 0，
所以 T (v) = v + u 0 非线性。
2 输入向量 v 与输出 T (v) 可以在 R n 或矩阵空间或函数空间中。
3 若 A 是 m × n 的，则 T (x) = Ax 是从输入空间 R n 到输出空间 R m 的线性变换。
∫ x
df
+
4 导数 T (f ) =
是线性的。积分 T (f ) =
f (t)dt 是它的伪逆。
dx
0
5 两个线性变换的乘积 ST 仍然是线性的： (ST )(v) = S(T (v))。
当一个矩阵 A 乘以一个向量 v 时，它将向量 v 变换为另一个向量 Av。输入 v，输出 T (v) = Av。
变换 T 遵循着与函数相同的思想。输入一个数 x，输出 f (x)。对某一个向量 v 或某一个数 x，我们乘
上矩阵或求函数值。更深层次的目标是一次考虑所有向量 v。
中文翻译Introduction to Linear Algebra, 5th Edition 7.4节
中文翻译Introduction to Linear Algebra, 5th Edition 7.4节，仅用于交流学习！
1 一个典型的方阵 A = U ΣV T 分解为 (旋转)(拉伸)(旋转)。
2 几何展示了 A 如何将圆上的向量变换为椭圆上的向量 Ax。
3 A 的范数是 ∥A∥ = σ 1 。这个奇异值是它的最大增长因子 ∥Ax∥ / ∥x∥。
4 极分解将 A 分解成 QS：旋转 Q = U V T 乘上拉伸 S = V ΣV T 。
5 伪逆 A + = V Σ + U T 使列空间中的 Ax 还原到行空间中的 x。
SVD 将一个矩阵分成三步：(正交矩阵) × (对角矩阵) × (正交矩阵)。普通的言语就能表达其背后的几
何：(旋转) × (拉伸) × (旋转)。U ΣV T x 从旋转到 V T x 开始。其次 Σ 将向量拉伸到 ΣV T x，然后 U
将其旋转至 Ax = U ΣV T x。以下是其图像。
中文翻译Introduction to Linear Algebra, 5th Edition 7.3节
中文翻译Introduction to Linear Algebra, 5th Edition 7.3节，仅用于交流学习！
本节阐述 SVD 在统计学与数据分析中的一个主要应用。我们的示例将来源于人类遗传、面部识别
及金融。问题在于理解一个大的数据矩阵（= 测量值）
。对 n 个样本的每一个，我们测量 m 个变量。数
据矩阵 A 0 具有 n 列和 m 行。
通过图像，A 0 的列是 R m 里的 n 个点。在我们减去各行的平均值后得到 A，其 n 个点通常沿着
一条直线或接近一个平面（或 R m 的其它低维子空间）聚集。这条直线或平面或子空间是什么？
允许我从一个图片而不是数字开始。对于如年龄和身高的 m = 2 个变量，其 n 个点位于 R 2 平面。
减去平均年龄和平均身高来中心化数据。假设 n 个中心化后的点沿某条直线聚集，那线性代数如何找
出那条直线呢？
中文翻译Introduction to Linear Algebra, 5th Edition 7.2节
中文翻译Introduction to Linear Algebra, 5th Edition 7.2节，仅用于交流学习！
中文翻译Introduction to Linear Algebra, 5th Edition 7.1节
中文翻译Introduction to Linear Algebra, 5th Edition 7.1节，仅用于交流学习！
中文翻译Introduction to Linear Algebra, 5th Edition 6.5节
中文翻译Introduction to Linear Algebra, 5th Edition 6.5节 仅用于交流学习！
中文翻译Introduction to Linear Algebra, 5th Edition 6.4节
中文翻译Introduction to Linear Algebra, 5th Edition 6.4节。仅交流学习。
中文翻译Introduction to Linear Algebra, 5th Edition 6.2节
中文翻译Introduction to Linear Algebra, 5th Edition 6.2节
中文翻译Introduction to Linear Algebra, 5th Edition 6.3节
中文翻译Introduction to Linear Algebra, 5th Edition 6.3节
特征值、特征向量及 A = XΛX −1 非常适用于矩阵的幂 A k 。它们也适用于微分方程 du/dt = Au。
本节大部分是线性代数，但要读懂它你需要一个微积分事实：e λt 的导数是 λe λt 。这节重点是：将常系
数微分方程转换为线性代数。
du
du
常微分方程
= u 和
= λu 均由指数求解：
dt
dt
du
= u 得 u(t) = Ce t
dt
du
= λu 得 u(t) = Ce λt
dt
(1)
t = 0 时那些解包含 e 0 = 1。因此它们两个约减为 u(0) = C。这个“初始值”告诉我们 C 的正确选择。
始于 t = 0 时刻为数 u(0) 的解为 u(t) = u(0)e t 和 u(t) = u(0)e λt 。
我们仅仅解了 1 × 1 问题。线性代数转向 n × n 问题。未知的是向量 u（现在是粗体）。它从给定
的初始向量 u(0) 开始。n 个方程包含了一个方阵 A。我们期望在 u(0) 中产生来自 n 个 λ 的 n 个
中文翻译Introduction to Linear Algebra, 5th Edition 6.1节
中文翻译Introduction to Linear Algebra, 5th Edition 6.1节
中文翻译Introduction to Linear Algebra, 5th Edition 5.3节
中文翻译Introduction to Linear Algebra, 5th Edition 5.3节（仅供交流学习）
A −1 等于 C T / det A。那么 (A −1 ) ij = 代数余子式 C ji 除以 A 的行列式。
2 克拉默法则从 x j = det(列 j 改为b的A)/ det A 计算 x = A −1 b。
3 若 4 个角是 (0, 0),(a, b),(c, d), 及 (a + c, b + d)，则平行四边形的面积 = |ad − bc|。
4 若 A 的行（或 A 的列）给出盒子的边，则盒子体积 = |det A|。
i j k
注意 v × u = −(u × v)。w 1 ,w 2 ,w 3 是行 1 的代数余子
。
5 叉积 w = u × v 为 det
u
u
u
1
2
3
式。注意 w T u = 0 和 w T v = 0。
v 1 v 2 v 3
本节用代数而不是消元法来求解 Ax = b，并求出 A −1 。在所有公式中你都会看到除以 det A。A −1
与 A −1 b 的各个元素都是一个
中文翻译Introduction to Linear Algebra, 5th Edition 5.2
中文翻译Introduction to Linear Algebra, 5th Edition 5.2节（仅供交流学习）
RSS订阅
3941
11
