线性代数的本质 - 02线性组合、张成的空间与基

  • 所有可以表示为给定向量线性组合的向量集合,被称为给定向量张成的空间
  • 两个向量张成的空间就是它们所有可能的线性组合,也就是缩放再相加之后可能得到的向量
  • 一组向量中至少有一个是多余的,没有对张成空间做出任何贡献,有多个向量,并且可以移除其中一个而不减小张成的空间,当这种情况发生时,它们是线性相关的。其中一个向量可以表示为其他向量的线性组合,因为这个向量已经落在其他向量张成的空间之中
  • 如果所有向量都给张成的空间增添了新维度,它们是线性无关的
  • 基的严格定义:张成该空间的一个线性无关向量的集合

线性代数的本质 - 03矩阵与线性变换

  • 变换是在暗示以特定方式来可视化这一输入-输出关系,一种理解“向量的函数”的方法是使用运动。
  • 线性代数限制在一种特殊类型的变换上,“线性变换”:一是直线在变换之后仍然保持为直线,不能有所弯曲;二是原点必须保持固定。总的来说,保持网格线平行并等距分布。
  • 一个二维线性变换仅由四个数字完全确定,2X2矩阵,可以把列理解为两个特殊的向量,即$\vec{i}$和$\vec{j}$分别落脚的位置。如果有一个描述线性变换的2x2矩阵,以及一个给定向量,线性变换对这个向量的作用:只需取出向量的坐标,将它们分别与矩阵的特定列相乘,然后将结果相加即可。
    矩阵向量乘法
    我们完全可以把矩阵的列看作变换后的基向量,把矩阵向量乘法看作一个线性组合。
  • 如果变换后的$\vec{i}$和$\vec{j}$是线性相关的,意味着一个向量是另一个的倍数,那么这个线性变换将整个二维空间挤压到它们所在的一条直线上,也就是这两个线性相关向量所张成的一维空间。
  • 每次当你看到一个矩阵时,你都可以把它解读为对空间的一种特定变换。

线性代数的本质 - 04矩阵乘法与线性变换复合

  • 一个变换之后再进行另一个变换,这个新的线性变换被称为前两个独立变换的“复合变换”。eg:先旋转再剪切:
    :复合变换
    通常将函数写在变量的左侧,所以函数复合时从右向左读:
    :函数复合
  • 矩阵乘法满足结合律,交换律不满足

线性代数的本质 - 05行列式

  • 只要知道单位正方形面积变化的比例,就能知道其他任意区域的面积变化比例。由网格线保持平行且等距分布推出,无论一个方格如何变化,对其他大小的方格来说,都会有相同变化。
  • 这个缩放比例,即线性变换对面积产生改变的比例,被称为这个变换的行列式。
  • 当空间取向被反转时,行列式为负值,绝对值依然是区域面积的缩放比例:
    det值
  • 三维空间中是体积的缩放,用“右手定则”描述三维空间的取向。如果只能用左手描述时,说明空间取向发生翻转,行列式为负。
    右手定则
    左手定则
  • 计算行列式
    det公式

线性代数的本质 - 06逆矩阵、列空间与零空间

  • 求解$A\vec{x}=\vec{v}$,意味着寻找一个$\vec{x}$,使得它在变换后与$\vec{v}$重合。解在于A的变换是将空间挤压到一条线或一个点的低维空间,还是完整的二维空间。即A的行列式为0,或不为0。
  • 不为0时:有且只有一个向量与$\vec{v}$重合,可以通过逆向进行变换并跟踪$\vec{v}$的动向来找到这个向量。A的逆,即$A^{-1}$。什么都不做的变换,称为“恒等变换”。求解$\vec{x}$:
    求解x
  • $det(A)\neq 0$ -> $A^{-1}$
  • 为0时:变换将空间压缩到更低的维度上,此时没有逆变换,$det(A)=0$,解仍然可能存在:
    det为0时
  • 当变换结果为一条直线时,结果是一维的,这个变换的秩为1;当变换后的向量落在一个二维平面上,这个变换的秩为2。秩代表着变换后空间的维数。
  • 不管是一条直线、一个平面还是三维空间等,所有可能的变换结果的集合,被称为矩阵的“列空间”。
  • 矩阵的列为基向量变换后的位置,这些变换后的基向量张成的空间就是所有可能的变换结果。列空间就是矩阵的列所张成的空间,秩更精确的定义是列空间的维数。
  • 零向量一定被包含在列空间中,因为线性变换必须保持原点位置不变。对一个满秩变换来说唯一能在变换后落在原点的就是零向量自身,但对一个非满秩矩阵来说,它将空间压缩至一个更低维度上,会有一系列向量在变换后成为零向量。
  • 在变换后落在原点的向量集合,被称为矩阵的“零空间”或“核”,变换后一些向量落在零向量上,“零空间”就是这些向量所构成的空间。
  • 对线性方程组来说,当向量$\vec{v}$恰好为零向量时,零空间给出的就是这个向量方程的所有可能解。

补充说明 - 非方阵

  • 3x2矩阵的几何意义是将二维空间映射到三维空间上

因为矩阵由两列表明输入空间有两个基向量,有三行表明每一个基向量在变换后都用三个独立的坐标来表示

  • 2x3矩阵的几何意义是将三维空间映射到二维空间上

  • 二维空间到一维空间的变换

线性代数的本质 - 07点积与对偶性

  • 点积的标准观点:两个相同维数的向量,或两个相同长度的数组,求他们的点积,就是将相应坐标配对,求出每一对的乘积,然后将结果相加
  • 点积与顺序无关
  • 对偶性
  • 多维空间到一维空间(数轴)的线性变换
  • 单位向量的点积可以看成将向量投影到单位向量所在直线上所得到的投影值
  • 非单位向量:投影后缩放
  • 总言之即,向量与给定非单位向量的点积可以解读为,首先将朝给定向量上投影,然后将投影的值与给定向量长度相乘
  • 二维空间到数轴的线性变换通过将空间投影到给定数轴上来定义,因为变换是线性的,则必然可以用某个1x2矩阵描述,又因为1x2矩阵与二维向量相乘的计算过程和转置矩阵并求点积的计算过程相同,所以这个投影变换必然会与某个二维向量相关。
  • 无论何时看到一个二维到一维的线性变换,他的输出空间是一维数轴,空间中会存在唯一的向量v与之相关,就这意义而言,应用变换和与向量v做点积是一样的
  • 两个向量点乘,就是将其中一个向量转化为线性变换

线性代数的本质 - 08叉积的标准介绍、以线性变换的眼光看叉积

叉积的标准介绍

  • 顺序对叉积有影响,$\vec{v}$在$\vec{w}$的右边,那么叉乘为正
  • $\vec{v}$在$\vec{w}$的左边,那么叉乘为负
  • 05行列式计算叉积:

以线性变换的眼光看叉积

  • 真正的叉积是通过两个三维向量生成一个新的三维向量,这个叉积的结果是一个向量,长度是平行四边形的面积,方向与平行四边形所在的面垂直,使用右手定则确定方向。

  • why?-对偶性07 点积与对偶性

    找到的线性函数对于给定向量的作用:将向量投影到垂直于v和w的直线上,然后将投影长度与v和w张成的平行四边形的面积相乘。这意味着我们找到了一个向量p,使得p与某个向量(x,y,z)点乘时,所得结果等于一个3x3矩阵的行列式,这个矩阵的三列分别为(x,y,z)、v的坐标和w的坐标,定义了一个线性变换:

    应用这个变换与对偶向量点乘等价

线性代数的本质 - 09基变换

  • 发生在向量与一组数之间的任意一种转化,都被称为一个坐标系
  • 03 矩阵与线性变换将矩阵乘法理解为应用一个特定的线性变换
  • 变换后的向量仍旧是相同的线性组合,不过使用的是新的基向量
  • 坐标系之间的转换:

线性代数的本质 - 10特征向量与特征值

  • 考虑一个线性变换

    意味着矩阵对它的作用仅仅是拉伸或者压缩而已,如同一个标量,这些特殊向量被称为变换的“特征向量”,每个特征向量都有一个所属的值,被称为“特征值”
  • 三维旋转中特征值为1时,相当于找到了一个旋转轴
  • 计算特征值和特征向量:

    寻找一个向量V,使得这个新矩阵与V相乘结果为零向量06 逆矩阵、列空间与零空间


    空间压缩对应的就是矩阵的行列式为0
  • 二维线性变换不一定有特征向量
  • 可能出现只有一个特征值,但特征向量不止在一条直线上

  • 特征基:09 基变换如果基向量恰好是特征向量
  • 变换坐标系使得这些特征向量为基向量
  • 当需要计算次幂的时候,将坐标系换成特征基会方便很多,然后转换回标准坐标系

线性代数的本质 - 12克莱姆法则、几何解释

05 行列式07 点积与对偶性06 逆矩阵、列空间与零空间高斯消元比克莱姆计算得更快

  • $det(A)= 0$降维,要么存在无数解要么没有解
  • $det(A)\neq 0$维数依然相同,一个输入对应一个输出,一个输出也对应一个输入
  • 对大多数线性变换来说,点积会随着变换而改变,不改变点积的矩阵变换是正交的变换,基向量在变换后依然保持单位长度且相互垂直
  • 用正交矩阵求解线性系统非常简单,因为点积保持不变,所以已知的输出向量和矩阵的列向量的点积,分别等同于未知输入向量和各个基向量的点积
     \
  • 对大多数线性方程组:

    这个解法就是克莱姆法则