北太天元学习11b-线性代数的知识补充

在讲FFT的时候，我意识到同学还是要掌握一点点线性代数的知识为好。
从哪儿开始讲起呢？
首先，从映射讲起
设 U , V 是两个非空集合，对于 U 中的每一个元素 u \in U, 按照某个规则在V中
都有唯一的 元素 v \in V 与 u 相对应, 那么这就定义了一个映射 T, 记作
T: U -> V
   u |-> v
U称为为映射T 的定义域(domain)， V 称为映射T的陪域(codomain),
映射的值构成的全体称为值域(range), T 的值域就是面的集合
{ v \in V : 存在 u \in U 使得 v = T(u)}
Range(T) 是 Codomain(T)的的子集，如果二者相等，则称T是满射(surjection),
另外， 如果 u_1 和 u_2 不等 就能推出 T(u_1) 和 T(u_2)不等，那么称T是单射(injection).
如果T就是单射又是满射，那么称T是双射(bijection).

我们在高中和高数里会学到很多函数，如 y = sin(x), y = x^2 等等，这些函数实际上是一类
特殊的映射，他们的定义域和陪域恰好是数域的子集。如果大家暂时不想了解更多数域的定义，那么只要知道 实数集 和 复数集 都是数域就可以了， 因此实数集可以称为实数域，
复数集可以称为复数域。 具体来说，在丘维声的《简明线性代数》中给出了数域的定义：
设集合 F 是复数集的一个子集，且满足 0, 1 都在集合F中，并且对加减乘除封闭，那么称
这个集合是一个数域。 按照这个定义整数集不是数域，因为 2 和 3 做除法的结果不再整数
集合中，也就是说整数集对除法不封闭。

我们以 y = x^2 为例，这里没有明确给出定义域和陪域，因此实际上定义是不完整的，我们
只能按照某种惯例来补充一下，因为 y = x^2 仅仅给出映射的规则。 我们可以明确一种，
如果
T : R -> R
    x |-> x^2
这样这个函数的定义域是 R, 陪域是R. 显然这个映射不是满射, 也不是单射。

我们学习了很多函数，如对数函数，指数函数，三角函数，反三角函数， 这些函数的映射
法则都是比较复杂的，但是定义域和陪域都是很简单的，都是实数域或者复数域的子集。
而线性代数则是要研究一类特殊的映射，它的映射规则比较简单，但是定义域和陪域则
要更加复杂。
这里说的映射规则比较简单，具体来说我们研究的映射是线性映射， 要是定义域是实数域的
话，那么定义域是实数域的线性映射实际就是下面的线性函数
 T : R -> R
     x |-> kx
其中 k \in R 是一个常数.
我们可以用北太天元画出多个这样的函数（让k取不同的值则得到不同的线性函数)，
北太天元的代码是
k = 1;
x =-5:0.1:5;
y = k*x;
plot(x, y, 'r-*', 'LineWidth', 5);
title( [ 'y = ', num2str(k), 'x 的函数图像'])

这样的线性函数，我们看到了这样的函数图像是一个过原点(0,0)的直线, 这样的函数有什么
性质呢?
T(x) = k*x
具有如下的性质
对于任意的 u, v 属于T的定义域, 对于任意的常数 c, 我们有
1. T( u+v) = T(u) + T(v)
2. T( cu ) = c T(u) ,

第一条，我们称为加性(addivitity)，也就是说 加法+ 和映射T 是可交换的,
第二条，我们称为齐次性(homogeneity of degree 1), 也就是说 数乘 和 映射 T 是可交换的。
这两条加起来就是线性(linearity).
我们就用不再用说函数的图像是一条过原点的直线来描述线性函数，而是用这两条性质来定义
线性函数， 满足这两条的函数就是线性函数，满足这两条的映射就是线性映射。

对于 T : R->R 的线性函数，我们从它满足两条性质就可以很容易推到出它经过原点,
另外，我们设 k = T(1), 那么 T(x) = T(x*1) = x T(1) = kx, 也就是说，我们只要知道
T在1处的值，就可以知道T在任意的x\in R的值.

线性函数的映射规则太简单了，我们可以可以考虑更加复杂的定义域和陪域。
我们先举一个比较复杂的定义域
U = P_1 = {  a_0 + a_1 x :  a_0 , a_1 \in R}
这是一个次数小于或者等于1次的实系数多项式集合，我们可以定义一个映射， 例如，
这个映射是 求导 T:
T : U         ->   U
    a_0+a_1 x |-> a_1
这里的定义域是 P_1, 陪域也是 P_1, 可以看到这不是一个满射, 也不是一个单射。
这个映射是一个线性映射，因为我们可以验证它满足 additivity 和 homogeneity of degree 1
如
任意 u = a_0 + a_1 x \in U, v = b_0 + b_1 x \in U, c \in R
显然 u+v = (a_0+b_0) + (a_1+b_1) x, c u = c*a_0 + c*a_1 x
T(u+v) = a_1+b_1 = T(a_0+a_1 x) + T(b_0+b_1 x)
T(c*u ) = c*a_1  = c* T(u)
在这里，我们并没有担心 u+v 是不是仍然属于 T 的定义域 U , c*u 是不是属于T的定义域 U,
对于这个问题，显然 U 关于 加法 和 数量乘法(数乘) 是封闭的，也就是U是满足
1. 任给 u\in U, v \in U 可以推出 u+v \in U,
2. 任给 c \in R, u \in U 可以推出 c u \in U.
但是对于一般的集合，我们可能不能保证这一点, 总之为了使得问题简化，我们可以要求
上面的两条总是满足的，而且为了我们获得更多的运算的便利性，我们可以定义
线性空间（又称为向量空间) 以及向量。

什么叫线性空间呢？ 按照丘维声的《简明线性代数》的定义有半页多，大家暂时不用全部记住
也可以，总之，我们举了几个例子，大家有一个简单的认识。 我们在高中的时候学习的
向量空间(vector space) 定义成了向量的集合， 而向量定义成了既有大小又有方向的物理量，
还把某些向量和 R^2, R^3 建立起了一一对应， 这些仍然还是正确的。 但是为了进一步的推广，
大学的线性代数的课采用了不一样的讲法， 首先定义的向量空间或者说是线性空间(linear space),
向量空间和线性空间完全是同义词，向量空间是具有某种性质的一个集合， 然后再定义线性空间
的元素是向量。

线性空间定义成什么样的集合呢？首先要定义集合里的两个元素的加法，然后还要定义集合里的
元素和一个数相乘， 这里说的数就是属于某个数域的元素。 因此线性空间的定义是说，设V
是一个非空的集合，F是一个数域，定义加法+: VxV-> V 和数乘 . : F x V -> V 并且满足
一系列的性质，如加法满足交换律和结合律 等等， 那么就(V,F)是一个线性空间。

我们前面提到的多项式 P_1={a_0 + a_1 *x : a_0, a_1 \in R} 再配上数域F=R, 加法就是
普通的两个多项式相加，数乘也是普通的一个数乘以一个多项式， 那么我们实际上就是得到了一个
线性空间。
在 P_1 中有一个特殊的元素（或者特殊的向量，因为P_1是一个线性空间，而线性空间的元素
就是向量) 称为 零向量，记作 0, 它就是 零多项式， 它的特点是，它与 P_1中的任意元素的
和都是0。

下面再谈谈 基(basis)，维数(dimension)， 线性组合(linear combination),

我们首先讲讲线性组合，对于一个向量空间(V,F)而言，设 v_1, ..., v_n 是 V 中的向量
，c_1, ..., c_n 是数域F 中的数，那么 c_1 V_1 + ... + c_n V_n 是 V_1, ..., V_n
的一个线性组合, c_1, ..., c_n 称为线性组合的系数。

基的概念，我们还是从多项式讲起 P_1 = {a_0 + a_1 x : a_0 , a_0 \n R} 是一个实数域上的
线性空间，我们可以看到   1, x 这两个多项式还是挺特殊的， 任意的P_1中的一个向量
可以表示成 这两个向量的一个线性组合  a_0 * 1 + a_1 * x , 而且这种表示还具有唯一性，
也就是说，不同的多项式对应不同的系数。另外，我们刚才说的任意P_1中的一个向量
都可以由 1, x 的线性组合来表示，这被称为完备性，也就是说 1 和x 可以表示 P_1中的
所有向量。 这么特殊的1 和 x 组成的向量组 即具有对P_1的线性表示的完备性又具有线性
表示的唯一性，那么就可以给予这个向量组一个特殊的名字，称为P_1这个向量空间的基。

然后，我们再谈谈从一个线性空间U到一个线性空间V的映射， 映射的矩阵,
然后谈到逆映射， 逆映射的矩阵， 逆矩阵， 单位矩阵.