Skip to content

Commit

Permalink
docs: 修订 1-5 讲,调整对偶和张量的位置
Browse files Browse the repository at this point in the history
  • Loading branch information
yhwu-is committed Oct 11, 2024
1 parent d263b05 commit 4287885
Show file tree
Hide file tree
Showing 28 changed files with 1,127 additions and 910 deletions.
2 changes: 1 addition & 1 deletion 习题参考答案/专题/5 线性映射.tex
Original file line number Diff line number Diff line change
Expand Up @@ -288,7 +288,7 @@ \section*{5 线性映射}
a + bc_2 + cc_2^2 = d_2 \\
a + bc_3 + cc_3^3 = d_3
\end{cases} \]
方程组是关于未知元 $ a, b, c $ 的三元线性非齐次方程组,其中 $ c_1, c_2, c_3 $ 是互异的实常数. 用高斯消元法,易将其增广矩阵变换为下列阶梯形矩阵,即
方程组是关于未知元 $ a, b, c $ 的三元线性非齐次方程组,其中 $ c_1, c_2, c_3 $ 是互异的实常数. 用高斯-若当消元法,易将其增广矩阵变换为下列阶梯形矩阵,即
\begin{align} % TODO 增广矩阵
& \begin{pmatrix}
1 & c_1 & c_1^2 & \Bigm| & d_1 \\
Expand Down
408 changes: 284 additions & 124 deletions 讲义/专题/1 预备知识.tex

Large diffs are not rendered by default.

Original file line number Diff line number Diff line change
Expand Up @@ -671,6 +671,7 @@ \subsection{分块矩阵求逆}

初看这一公式想必一定会发出``这么复杂的公式为什么有用''的感叹. 事实上,我们考虑$r$$n$小很多的情况,那么这个时候对$R$$R^{-1}+YA^{-1}X$求逆会更容易,因为它们的阶数会低很多,计算量也小很多. 考虑极端情况,若$x$$y$是非零列向量,取$X=x$$Y=y^\mathrm{T}$$R=(1)$,且满足$1+y^\mathrm{T}A^{-1}x\neq 0$,我们可以得到Sherman-Morrison-Woodbury公式的一个特殊情形(称为Sherman-Morrison公式):
\[(A+xy^\mathrm{T})^{-1}=A^{-1}-(1+y^\mathrm{T}A^{-1}x)^{-1}A^{-1}xy^\mathrm{T}A^{-1}.\]
这也称为``秩 1 校正'',因为 $xy^\mathrm{T}$ 是一个秩 1 矩阵,在最优化理论中是常见的.

\subsection{分块矩阵与数学归纳法}

Expand Down Expand Up @@ -764,11 +765,11 @@ \subsection{分块矩阵与数学归纳法}
\item 倍乘变换:只会改变对角线元素,因此不改变下三角性质;
\item 倍加变换:必须是上方的行乘以非零数加到下方的行,这样才不会改变下三角性质.
\end{enumerate}
基于此我们便可以得到矩阵的$LU$分解并基于此很顺利地解出方程——在例子中我们很明显地体会到了三阶矩阵对于解方程的便捷性的提升,我们只需要从未知数少的方程往未知数多的方程逐步求解即可. 更重要的是,$LU$分解的求解过程中对于方程$Ax=b$中的$b$完全没有做任何变换,这大大节省了高斯消元法法中的一个重要的计算量来源,并且求解$LU$分解的过程也仅仅是初等变换,相对于高斯消元法没有多余的步骤,因此在解决如下问题时:
基于此我们便可以得到矩阵的$LU$分解并基于此很顺利地解出方程——在例子中我们很明显地体会到了三阶矩阵对于解方程的便捷性的提升,我们只需要从未知数少的方程往未知数多的方程逐步求解即可. 更重要的是,$LU$分解的求解过程中对于方程$Ax=b$中的$b$完全没有做任何变换,这大大节省了高斯-若当消元法法中的一个重要的计算量来源,并且求解$LU$分解的过程也仅仅是初等变换,相对于高斯-若当消元法没有多余的步骤,因此在解决如下问题时:
\begin{gather*}
Ax=b_1 \\ Ax=b_2 \\ \cdots \\ Ax=b_n
\end{gather*}
$n$很大时,如果利用$LU$分解,我们只需对$A$做一次分解,就可以解出所有方程,但高斯消元法则需要每个方程都和每个$b_i(i=1,2,\ldots,n)$构成增广矩阵一起消元,计算量会增大许多.
$n$很大时,如果利用$LU$分解,我们只需对$A$做一次分解,就可以解出所有方程,但高斯-若当消元法则需要每个方程都和每个$b_i(i=1,2,\ldots,n)$构成增广矩阵一起消元,计算量会增大许多.

\section{矩阵方程}

Expand Down
File renamed without changes.
Original file line number Diff line number Diff line change
Expand Up @@ -59,6 +59,13 @@ \subsection{齐次线性方程组解的一般理论}

实际上在前面的讨论中,无论是\nameref{thm:有解条件}的结论,都与列向量组成的线性空间有关,仿佛从未出现过行向量有关的定理. 事实上,我们将在未来讨论了内积空间正交性后展开对行向量空间的讨论,现在囿于概念上的缺乏无法叙述相关定理.

\begin{theorem}{}{基础解系是基}
$AX=\vec{0}$的基础解系为$X_1,\ldots,X_{n-r}$,则$X_1,\ldots,X_{n-r}$线性无关.
\end{theorem}
\begin{proof}

\end{proof}

\subsection{非齐次线性方程组解的一般理论}

回顾\autoref{ex:常见子空间} 中的讨论我们发现,非齐次线性方程组的解不构成线性空间,但我们可以尝试将其与齐次线性方程组解空间联系起来研究. 对于非齐次线性方程组
Expand Down Expand Up @@ -209,7 +216,7 @@ \section{理论应用}
\end{enumerate}
\end{proof}

实际上,我们解决此类问题,很多时候等式都需要拆为小于等于和大于等于同时成立进行证明,经常利用维数公式变形的齐次线性方程组解的一般理论,将问题转化为对像与核空间的研究,然后利用包含关系(复杂的题目可能涉及子空间交与和的维数公式)以及已知的简单秩不等式进行证明. 可能部分题目较为困难,但至少请掌握上面例题中的情况.
实际上,我们解决此类问题,很多时候等式都需要拆为小于等于和大于等于同时成立进行证明,经常利用维数公式变形的齐次线性方程组解的一般理论,将问题转化为对像与核空间的研究,然后利用包含关系(复杂的题目可能涉及子空间交与和的维数公式)以及已知的简单秩不等式进行证明. 可能部分题目较为困难,但至少请掌握上面例题中的情况. 接下来我们讨论伴随矩阵的秩的问题,这一例题的结论和证明都非常重要:
\begin{example}{}{伴随矩阵的秩}
$A^*$为矩阵$A$的伴随矩阵,证明:
\[r(A^*)=\begin{cases}
Expand All @@ -229,6 +236,33 @@ \section{理论应用}
\end{enumerate}
\end{proof}

接下来是一个利用\nameref{thm:线性空间维数公式}以及\nameref{thm:线性映射基本定理}中``设小扩大''的思想解决的问题:
\begin{example}{}{维数公式技巧例题}
已知$A,B$分别是数域$\mathbf{F}$上的$l \times k$$k \times n$矩阵,$X$$n \times 1$的列向量. 证明:所有满足$ABX=0$$BX$构成一个线性空间$V$,且$\dim V = r(B) - r(AB)$.
\end{example}

\begin{proof}
$V$是线性空间只需要说明其中元素关于加法数乘封闭即可,因为这样$V$就是$\mathbf{F}^k$的子空间. 这一证明非常基本,我们在此略过.

$V_1=\{X\mid BX=0\},\enspace V_2=\{X\mid ABX=0\}$,则$V_1\subseteq V_2$,因为$\forall X\in V_1$,有$BX=0$,因此$ABX=A0=0$,即$X\in V_2$,因此$V_1\subseteq V_2$. 利用``设小扩大''的思想,取$V_1$的一组基$\alpha_1,\ldots,\alpha_r$,则可以扩充为$V_2$的一组基,记为$\alpha_1,\ldots,\alpha_r,\alpha_{r+1},\ldots,\alpha_m$,则$r=n-r(B)$$s=n-r(AB)$,于是
\begin{align*}
V & =\{BX\mid ABX=0\} \\
& =\spa(B\alpha_1,\ldots,B\alpha_r,B\alpha_{r+1},\ldots,B\alpha_m) \\
& =\spa(B\alpha_{r+1},\ldots,B\alpha_m).
\end{align*}
下面证明$B\alpha_{r+1},\ldots,B\alpha_m$线性无关. 为此,设
\[c_{r+1}B\alpha_{r+1}+\cdots+c_mB\alpha_m=0,\]
\[B(c_{r+1}\alpha_{r+1}+\cdots+c_m\alpha_m)=0,\]
因此$c_{r+1}\alpha_{r+1}+\cdots+c_m\alpha_m\in V_1$,因此存在$c_1,\ldots,c_r$使得
\[c_{r+1}\alpha_{r+1}+\cdots+c_m\alpha_n=c_1\alpha_1+\cdots+c_r\alpha_r,\]
\[c_{r+1}\alpha_{r+1}+\cdots+c_m\alpha_m-c_1\alpha_1-\cdots-c_r\alpha_r=0.\]
由于$\alpha_1,\ldots,\alpha_m$线性无关,因此
\[c_{r+1}=\cdots=c_m=c_1=c_2=\cdots=c_r=0,\]
因此$B\alpha_{r+1},\ldots,B\alpha_m$线性无关,因此$V$的维数为$s-r=(n-r(AB))-(n-r(B))=r(B)-r(AB)$,得证.
\end{proof}

\section{线性方程组拓展题型}

本节我们将介绍与线性方程组有关的一些题型,可能与高中数学讨论``题型''的学习风格有些类似. 需要注意的是,除了含参问题外,其余问题我们都将分别从齐次和非齐次两个方面进行讨论,给出问题的一般解法. 但实际上这里给出的解法并非能直接套用到所有的题目中,在习题中我们会遇到更多特别的题目. 因此更重要的应当是理解解题思路,而不是死记硬背解题方法.
Expand All @@ -237,7 +271,7 @@ \subsection{含参数的线性方程组问题}

此类问题一般考察对于含参数的线性方程组,参数取值如何时有解/无解/有唯一解等. 本质而言,\nameref{thm:有解条件}完全可以解决这一问题.

事实上,利用\autoref{thm:方程组解} 在有解情况下只需计算行列式判断非常方便,但判断无解需要利用\nameref{thm:有解条件},其中线性相关性的判断通常仍然需要我们对系数矩阵进行高斯消元法. 我们来看一个简单的例子:
事实上,利用\autoref{thm:方程组解} 在有解情况下只需计算行列式判断非常方便,但判断无解需要利用\nameref{thm:有解条件},其中线性相关性的判断通常仍然需要我们对系数矩阵进行高斯-若当消元法. 我们来看一个简单的例子:
\begin{example}{}{}
$k$取何值时,方程组:
\[\begin{cases}
Expand All @@ -246,7 +280,7 @@ \subsection{含参数的线性方程组问题}
有唯一解、无解、有无穷多解?在有解的情况下,求出方程组的全部解.
\end{example}
\begin{solution}
对于有无解的区别,我们一般都考虑直接使用高斯消元法. 由高斯消元法有(省略中间步骤直接得到阶梯矩阵):
对于有无解的区别,我们一般都考虑直接使用高斯-若当消元法. 由高斯-若当消元法有(省略中间步骤直接得到阶梯矩阵):
\[\begin{pmatrix}
1 & 1 & k & 4 \\
-1 & k & 1 & k^2 \\
Expand Down Expand Up @@ -937,6 +971,18 @@ \subsection{线性方程组反问题}
$r(A)=m$可知,$A$$m$个行向量($A^\mathrm{T}$$m$个列向量)线性无关,它们是方程组$CX=0$的一个基础解系. 由$CA^\mathrm{T}=O$$n-r(C)=m$,得$r(C)=n-m$. 因此,由$CA^\mathrm{T}B^\mathrm{T}=C(BA^\mathrm{T})=O$,可知$(BA)^\mathrm{T}$$m$个行向量线性无关,它们也是$CX=0$的一个基础解系.
\end{answer}

\item$A$是数域$\mathbf{F}$上的一个$n$阶可逆方阵,$A$的前$r$个行向量组成的矩阵为$B$,后$n-r$个行向量组成的矩阵为$C$$n$元线性方程组$BX=0$$CX=0$的解空间分别为$V_1,V_2$. 证明:$\mathbf{F}^n=V_1\oplus V_2$.
\begin{answer}
先记$W=V_1+V_2$,若$\alpha\in V_1\cap V_2$,则$B\alpha=C\alpha=0$,所以
\[A\alpha=\begin{pmatrix}
B \\
C
\end{pmatrix}\alpha=0,\]
由于$A$可逆,因此$\alpha=0$,即$V_1\cap V_2=\{0\}$,因此$V_1+V_2$是直和,因此只需证$W=\mathbf{F}^n$即可. 事实上,我们知道$r(B)=r,r(C)=n-r$,因此$\dim V_1=n-r,\enspace \dim V_2=n-(n-r)=r$,所以
\[\dim W=\dim V_1+\dim V_2=n-r+r=n=\dim \mathbf{F}^n,\]
$W=V_1\oplus V_2\subseteq \mathbf{F}^n$,因此$W=\mathbf{F}^n$,故得证.
\end{answer}

\item$A$$n$阶矩阵,且$A_{11}\neq 0$,证明:方程组$AX=\vec{b}$$\vec{b}$为非零向量)有无穷多解的充要条件为$A^*\vec{b}=\vec{0}$.
\begin{answer}
必要性:设$AX=b$有无穷多解,则$r(A)<n$,从而$|A|=0$,于是$A^*b=A^*AX=|A|X=0$.
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -91,7 +91,7 @@ \subsection{中国初等代数发展史简述}

这是《孙子算经》(不晚于473年)中提出的著名的鸡兔同笼问题. 在《孙子算经》中还提出了读者在初等数论中就已十分熟悉的``中国剩余定理'',直至现代的密码学研究也无法离开这一重要定理.

实际上,早在《孙子算经》出现前500年左右(公元前100年左右),中国古代数学名著《九章算术》中便处理了代数方程的问题. 其中的``方程章''是世界上最早的系统研究代数方程的专门论著. 它在世界数学历史上最早创立了多元一次方程组的筹式表示方法,以及它的多种求解方法. 《九章算术》把这些线性方程组的解法称为``方程术''其实质相当于现今的高斯消元法(早于高斯约1900年).
实际上,早在《孙子算经》出现前500年左右(公元前100年左右),中国古代数学名著《九章算术》中便处理了代数方程的问题. 其中的``方程章''是世界上最早的系统研究代数方程的专门论著. 它在世界数学历史上最早创立了多元一次方程组的筹式表示方法,以及它的多种求解方法. 《九章算术》把这些线性方程组的解法称为``方程术''其实质相当于现今的高斯-若当消元法(早于高斯约1900年).

除去线性方程组的贡献,在高次方程方面,中国古代也有相当丰富的成果. 625年左右,中国数学家王孝通在《缉古算经》中找出了三次方程的数值解;1247年,南宋数学家秦九韶在《数书九章》中用秦九韶算法解一元高次方程. 1248年,金朝数学家李冶的《测圆海镜》利用天元术将大量几何问题化为一元多项式方程,是一部几何代数化的代表作. 1300年左右,中国数学家朱世杰处理了多项式代数,发明四元术解答了多达四个未知数的多项式方程组,发明非线性多元方程的消元法,将相关多项式进行乘法、加法和减法运算,逐步消元,将多元非线性方程组化为单个未知数的高次多项式方程;并以数值解出了288个四次、五次、六次、七次、八次、九次、十次、十一次、十二次和十四次多项式方程.

Expand Down Expand Up @@ -340,7 +340,7 @@ \subsection{线性方程组的解:快一点,再快一点!}
这一节讨论的主要是如何求解一个线性方程组
\[ A\vec{x} = \vec{b} \]

当然,读者会说,高斯消元法嘛,第一讲就已经讲过了,如果 $A$ 可逆那就是 $\vec{x} = A^{-1}\vec{b}$ 呗. 也不算错,那如果 $A$ 干脆不是一个方阵呢?确切的解自然不存在,最小二乘解也由 Penrose-Moore 逆给出:
当然,读者会说,高斯-若当消元法嘛,第一讲就已经讲过了,如果 $A$ 可逆那就是 $\vec{x} = A^{-1}\vec{b}$ 呗. 也不算错,那如果 $A$ 干脆不是一个方阵呢?确切的解自然不存在,最小二乘解也由 Penrose-Moore 逆给出:

\begin{definition}{}{}
考虑 $m \times n$ 矩阵 $A$,它的 Penrose-Moore 逆为一个 $n \times m$ 矩阵 $A^\dagger$ 满足以下条件:
Expand Down
File renamed without changes.
File renamed without changes.
File renamed without changes.
Loading

0 comments on commit 4287885

Please sign in to comment.