目录

第1章 线性代数初步 1

1.1 集合和映射 1

1.1.1 集合的基本理论 1

1.1.2 映射的基本理论 4

1.1.3 凸集和凸函数 6

1.2 矩阵及其运算 9

1.2.1 矩阵表示和运算 9

1.2.2 复矩阵与实矩阵的转化 13

1.3 行列式 14

1.3.1 排列的逆序数 14

1.3.2 方阵的行列式 15

1.3.3 代数余子式 15

1.3.4 行列式的性质及行列式的计算 15

1.3.5 行列式的几何意义 17

1.4 矩阵的秩 19

1.4.1 矩阵的初等变换 19

1.4.2 矩阵的等价标准形 21

1.4.3 矩阵秩的计算及估计 23

1.5 矩阵的逆 25

1.5.1 伴随矩阵与矩阵的逆 25

1.5.2 舒尔补 27

1.6 矩阵的满秩分解 29

1.6.1 埃尔米特标准形 29

1.6.2 基于埃尔米特标准形的核空间求解 31

1.6.3 埃尔米特标准形的基本性质 32

1.7 矩阵特征值和特征向量初步 34

1.8 二次型 36

1.8.1 对称矩阵的定性 36

1.8.2 对称共轭初等变换与矩阵复相合 38

1.8.3 矩阵与二次型 38

1.9 矩阵的简单应用 39

1.9.1 特征值与特征向量在页面排序算法中的应用 39

1.9.2 递归最小二乘方法 40

本章小结 41

练习 41

第2章 线性空间和线性映射 43

2.1 线性空间 43

2.1.1 基本定义 43

2.1.2 线性空间的维数 46

2.2 线性空间中向量的表示 48

2.2.1 线性空间的基和向量坐标 48

2.2.2 基变换公式 52

2.2.3 向量在不同基下的坐标变换公式 53

2.3 线性子空间 54

2.3.1 线性子空间的定义及其性质 54

2.3.2 子空间的交与和 55

2.3.3 子空间的直和 57

2.3.4 共轭对称复子空间的实基 58

2.3.5 商空间 59

2.4 线性映射及其矩阵表示 61

2.4.1 线性映射的定义与基本性质 61

2.4.2 线性映射的矩阵表示 65

2.4.3 线性映射复合和矩阵乘积 68

2.5 线性函数和对偶空间 70

2.5.1 线性函数 70

2.5.2 对偶空间 71

2.5.3 双重对偶空间 73

2.6 双曲空间中的神经网络模型 75

2.6.1 双曲空间的基本运算 76

2.6.2 双曲神经网络的构建 77

2.6.3 应用领域与研究前沿 77

本章小结 78

练习 78

第3章 线性变换及若尔当标准形 81

3.1 线性变换及表示 81

3.1.1 线性变换的定义 81

3.1.2 线性变换的运算 82

3.1.3 线性变换的矩阵表示 83

3.2 特征值与特征向量的基础 85

3.2.1 线性变换的特征值与特征向量 85

3.2.2 线性变换的特征子空间 88

3.2.3 线性变换的值域与核 90

3.3 不变子空间 91

3.3.1 不变子空间的定义与基本性质 92

3.3.2 利用不变子空间简化线性变换的矩阵 93

3.4 λ-矩阵基本理论 94

3.4.1 基本概念 95

3.4.2 λ-矩阵在初等变换下的标准形 95

3.4.3 不变因子 96

3.4.4 A和B相似矩阵的特征矩阵λIn - A和λIn - B是等价的 97

3.4.5 初等因子 99

3.5 矩阵的相似变换的最简表示  102

3.5.1 矩阵相似三角化  102

3.5.2 矩阵相似若尔当标准形  106

3.5.3 若尔当标准形的简单性质  107

3.5.4 若尔当标准形的相似变换矩阵  109

3.5.5 实矩阵的实若尔当标准形  111

3.5.6 矩阵的有理标准形  112

3.6 矩阵最小多项式  115

3.6.1 最小多项式定义与性质  115

3.6.2 最小多项式的计算方法  117

3.7 矩阵特征值估计  119

3.7.1 特征值的界  119

3.7.2 特征值的分布区域  122

本章小结  125

练习  125

第4章 内积空间  129

4.1 实内积空间及其基本性质  129

4.1.1 向量内积的定义与性质  129

4.1.2 向量正交性  132

4.1.3 线性映射的共轭、对称变换和对称矩阵  134

4.1.4 子空间的正交性  138

4.1.5 正交变换及其正交矩阵表示  138

4.1.6 旋转变换的四元数表示  140

4.2 酉空间  142

4.2.1 酉空间的基本性质  142

4.2.2 正规矩阵  143

4.3 对称矩阵特征值的极性与极值性质  147

4.3.1 特征值的实数性与正定性  148

4.3.2 瑞利商  149

4.3.3 特征值的极值特性与柯朗-菲舍尔定理  149

4.4 基于空间正交分解的多重信号分类算法  153

4.4.1 信号模型  153

4.4.2 MUSIC 算法  154

本章小结  155

练习  155

第5章   矩阵分解  159

5.1 矩阵的 UR 分解  159

5.1.1 基于格拉姆-施密特正交化过程的 UR 分解理论  159

5.1.2 吉文斯变换  161

5.1.3 基于豪斯霍尔德变换的 UR 分解  167

5.1.4 矩阵酉相似于海森伯格矩阵  174

5.1.5 阶跃函数积分的微分  177

5.2 矩阵的奇异值分解  179

5.2.1 奇异值分解的定义与基本性质  179

5.2.2 基于奇异值分解的矩阵子空间的表示  182

5.3 矩阵的谱分解  184

5.3.1 投影算子与投影矩阵  184

5.3.2 单纯矩阵的谱分解  187

5.3.3 正规矩阵的谱分解  189

5.3.4 谱分解的应用  191

5.4 矩阵的三角分解  192

5.4.1 三角分解及其存在唯一性问题  192

5.4.2 三角分解的紧凑计算格式  194

5.5 基于矩阵谱分解的图卷积神经网络模型构建  198

5.5.1 图的拉普拉斯矩阵  198

5.5.2 拉普拉斯矩阵的基本性质  198

5.5.3 图上的傅里叶变换与图上的卷积运算  199

5.5.4 基于图卷积的图神经网络模型  199

本章小结  202

练习  202

第6章   矩阵广义逆  204

6.1 广义逆矩阵的定义  204

6.1.1 广义逆的定义方程  204

6.1.2 矩阵广义逆的通解表达式  206

6.2 广义逆的基本性质  213

6.2.1 矩阵 {1}-逆的基本性质  213

6.2.2 {1, 2}-逆的性质  214

6.2.3 穆尔-彭罗斯广义逆矩阵 A+  215

6.2.4 M-P 逆的微分公式  216

6.3 广义逆矩阵的计算  216

6.3.1 {1}-逆的求解  216

6.3.2 {1,3}-逆的求解  220

6.3.3 {1,4}-逆的求解  221

6.3.4 穆尔-彭罗斯广义逆的计算  222

6.4 广义逆矩阵在线性方程组中的应用  225

6.4.1 相容方程组的通解与 {1}-逆  226

6.4.2 相容方程组的极小范数解与 {1,4}-逆  226

6.4.3 不相容方程组的极值问题解  227

6.5 利用基于广义逆矩阵的 CUR 分解实现快速交互式相似度检索方法  230

6.5.1 矩阵 CUR 分解  231

6.5.2 基于广义逆的矩阵广义 CUR 分解  231

6.5.3 基于矩阵 CUR 分解的快速交互式相似度检索方法  231

本章小结  232

练习  232

第7章 范数理论及其应用  235

7.1 向量范数及 lp  范数  235

7.1.1 范数与函数  236

7.1.2 对偶范数  237

7.1.3 向量范数等价性  239

7.2 矩阵范数  240

7.2.1 广义矩阵范数与矩阵范数  240

7.2.2 从属 (算子) 范数  243

7.3 范数的应用  245

7.3.1 矩阵非奇异性条件  245

7.3.2 逆矩阵的摄动  246

7.3.3 矩阵的谱半径及其性质  247

7.4 距离学习方法  248

7.4.1 引言与问题定义  248

7.4.2 主流模型与学习方法  249

7.4.3 方法间的逻辑关系与演进  252

7.4.4 总结  253

本章小结  253

练习  253

第8章 矩阵分析与应用  255

8.1 矩阵序列  255

8.2 矩阵级数  258

8.3 矩阵函数性质与计算  261

8.3.1 矩阵函数的定义  261

8.3.2 待定系数法求矩阵函数值  262

8.3.3 数项级数求和法和基于友矩阵的矩阵函数计算  269

8.3.4 相似对角化求矩阵函数值  271

8.3.5 若尔当标准形法求矩阵函数值  272

8.3.6 常用矩阵函数的性质  273

8.3.7 广义矩阵函数  275

8.4 矩阵的微分和积分  276

8.4.1 矩阵对标量的微分和积分  276

8.4.2 其他微分概念  279

8.5 复矩阵微分  289

8.5.1 解析函数的微分  289

8.5.2 非解析函数的微分与维尔丁格导数  290

8.5.3 多复变元函数的维尔丁格导数  292

8.5.4 多元向量值的函数的维尔丁格导数  293

8.5.5 复矩阵的函数的微分  293

8.6 矩阵分析应用举例  294

8.6.1 矩阵分析在深度学习中的应用  294

8.6.2 矩阵分析求解一阶线性常系数微分方程组的应用  294

8.6.3 矩阵函数求解矩阵方程  296

8.6.4 矩阵分析求解最小二乘问题  297

8.6.5 矩阵微分在矩阵填充中的应用  298

本章小结  300

练习  300

第9章 矩阵直积  304

9.1 矩阵直积  304

9.1.1 定义和基本性质  304

9.1.2 矩阵直积在矩阵方程中的应用  310

9.1.3 其他形式的矩阵乘积  311

9.2 矩阵的直积分解  313

本章小结  316

练习  316

参考文献  317

常用符号表  318

附录 A   基于矩阵零空间链分解的若尔当标准形理论与计算  321

A.1 矩阵零空间链分解与若尔当标准形理论  321

A.1.1 零空间链与补空间构造  321

A.1.2 根子空间与若尔当标准形  323

A.2 基于广义 Cline 分解的核空间结构  325