在P[x]n+1上点P的d值定义如下线性变换,A(f(x))=xf'(x)-f(x)

3.1 线性组合、线性独立、秩

R 上的变量(标量)

基于上述点P的d值定义如下,我们可以把下面的线性问题

z 这组向量的线性组合

n 维中,如果对于任何一组 0 0 0 0

0

0

0 0 0 0 0 0 0 0 原因在于,我们可鉯根据数据判断出此处的 0 0

实际上在这组线性独立的向量 都可以唯一地表示如下的线性组合

0

0

所以,在线性独立的向量 都可以唯一地表示如丅的线性组合

现在我们可以根据点P的d值定义如下来判断线性独立了不过在点P的d值定义如下中需要判断在 0 0 0 0 的矩阵都不满足条件是不切实际嘚,所以我们需要使用其他方法来判断一组向量事都为线性独立的

组成的矩阵的行列式结果是否非零,即 0

组成的矩阵的LU分解QR分解SVD這种方法在面对于具有大量的变量的问题时,效果更好

n=3 的条件下举例说明。

0 可以写为如下的矩阵形式

0

Ax=b 我们可以看到

所以上面的表达式可鉯化为

v 是线性独立的所以对于 x2??x3? 唯一解为

3×3 的线性系统可能具有唯一的解、无解或有限解。解的数量取决于线性独立性(和依赖性)或向量 u,v,w,b 。 这种情况可以推广到任何 n×n 维的系统甚至任何 n 个方程,这个在后面将详细讨论

u,v,w,b 视为矩阵的子向量,即

所以我们可以点P的d徝定义如下矩阵下的线性组合对于任意的向量 ,我们可以将其线性组合点P的d值定义如下为

也可以将其写为内积的形式:

下面我们继续在矩阵维度考虑线性方程组的解:

bRn 对于线性方程组

Ax=b 我们可以找到一个矩阵

0 0 0 0 i 处为1,其他位置为0以此类推,我们可以得到

0 0 0 0 0 0 In?=??????10?0?01?0??????00?1???????

Ax=b 两侧同时左乘矩阵

Ax=b 的解我们将

AB=In?(可以自己证明),所以我们通常用

A 存在逆那么我们称矩阵 A 可逆矩阵或者非奇异矩阵(nonsingular) ,否则我们称其为奇异矩阵。

综上如果A是一个可逆的方阵,那么线性方程组 但是我们在真正使用的时候并不會直接计算 A?1 ,因为计算花销太大了我们通常使用的方法为高斯消除(Gaussian elimination) (第8章会讨论)以及有关矩阵 A 的因式分解(QR分解以及SVD分解)。

为了引出SVD分解我们首先提出正交矩阵的概念

QRn×n ,如果存在

在几何上正交矩阵代表着保留长度的线性变换,即在线性代数中每一个矩阵 ARm×n 都可以寫成

m×n 的矩阵其所有的非零项都在对角线上,且为非负值我们将其记做 σ1?σ2?σp? A 的奇异值,同时我们也将此因式分解称為矩阵

SVD可以用来求解大部分线性问题的精确解不过面对于超定问题(overdetermined)时,即变量数大于方程数时SVD方法不适用,即此线性系统无唯一确定解

所以在此情况下,我们可以使用高精度的近似解来替代即确定一个向量 x 使其可以最小化误差 Ax?b,这在工程领域中也是允许的

数学镓Gauss和Legendre提出使用误差的欧几里范数的平方来评价误差,即 这样的好处是此误差可微,而且有且只有一个向量 x+ 可以最小化此误差

我们可以求得误差对应的解

除了上面介绍的使用欧几里范数的平方来评价误差,还可以在此基础上增加惩罚项 l2? 范数(二范数) 其中 0 ,我们称这種方法为岭回归(ridge regression)同样的对于岭回归有且只有一个向量 x+ 可以使其达到最小。

除了欧几里范数的平方以及岭回归我们还可以使用

l1? 范数(┅范数) 。使用一范数可以使问题的解变得更加稀疏即最优解 x 的很多项为0,通常其被称为lasso

SVD除了可以求解线性系统的解以及超定问题的朂优近似解之外,另外一个重要应用就是主成分分析PCA(principal component analysis),这将在后面的章节详细讨论

另外,我们可以在可视化/几何视角来看线性方程組的解这个问题类似于intersection problem。我们举例说明:

R3 空间的一个子集准确来说是一个 R3 空间下的一个点。

0 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0 0

我们分别画出这三个平面如下图

我们在┅个坐标系下画出上述三个平面,两两平面的交集为之直线三个平面的交集为点,所以此线性方程组的解为三个平面的交点可以求解嘚到解为

而对于下面这个线性方程组

使用相同的方法在同一坐标系中画出每一个等式对应的平面,可以发现其没有交点即此线性方程组沒有解,如下图

而对于下面这个线性方程组

0 使用相同的方法在同一坐标系中画出每一个等式对应的平面可以发现他们所谓的交点为直线,即此线性方程组有无穷多解

在几何角度考虑求解线性等式时我们的视角与代数角度不同,几何角度下我们都是在行考虑问题,在代數角度下我们是以列的基础考虑此问题

另外,线性代数还可以帮助我们进行有效的数据压缩即用更小的空间来保存更多的数据。所谓嘚数据压缩的原理是在我们的大多数应用中数据的特征间不是完全独立的,即 mn所以我们数据压缩的核心就是将矩阵 ARm×n 分解为矩阵

茬上面我们也介绍过,直接对于原矩阵 A 进行因式分解的计算量是很大的,所以我们需要找到一个低阶(low-rank)的矩阵 A 来替代或近似原矩阵 A 这里我们使用矩阵范数 来计算矩阵 A ,即寻找一个低阶矩阵

note:矩阵范数是非负实数其代表的意义与实数的绝对值 $|x| $类似,它可以使得矩陣在低阶标量的角度进行比较和计算

一些低阶近似的好处如下:

  1. A 所需的元素更少, 即用 A 需要更少的存储空间和更少的运算过程

  2. 在运算嘚过程会区别得到数据中的主要特征(有贡献的特征)和一般特征(无贡献的特征)。 因此可能会发现“大多数”的有效数据会在某些特征间集中在今后的PCA等降维方法会用到这种思想。

    一组数据的低阶分解在工程中也有很多用处例如在CS(computer science)、CV(computer vision)、统计学(statistics)以及机器學习(mechine learning)中。不过在实际应用中以上的方法仅仅可以得到一个比较好的初始解还需要配合例如**随机化(randomization)**等操作来得到更满意的解决方案。

今天我们来学习画一个复杂的树圖:

还记得TikZ作图教程第二篇推文中用TikZ绘图的四个步骤吗?

按照这四个步骤你也能绘出这个复杂的树图。

这里稍有困难的是既有无向邊,又有有向边不过我们可以分成四部分来说明,如下图四种颜色代表四个部分。

\graph[]的中括号里增加顶点的样式设置方法说明参见嶊文:TikZ作图教程:图论篇——树图的绘制。

\graph[]{};后面\end{tikzpicture}的前面加上下面的代码,设置方法见推文:TikZ作图教程:图论篇——树图的绘制

编译后得到嘚成品图形如下:

仔细端详上面得到的成品图,基本上满意!

但是本着吹毛求疵(精益求精)的精神,从美学的角度去提出建议的话峩们可以在下面三个方面进行一些改进:

  • 第三级顶点分为6组,每组之间再增加少许距离就更好了;
  • 这些顶点的黑色与背景的白色对比太强烮有些扎眼;
  • 可以尝试一下其它的箭头的风格,同时,边可以设置得粗一些这样看起来比较显眼。

发现了问题以后你也可以设想一下應该怎样改进!

还记得上一篇中讲到的设置子顶点之间距离的键吗?对是sibling distance,其实还有另外两个常用的键,sibling sepsibling pre sep,这里先解释一下这三个键的含義:

  • sibling sep:同级两个相邻子顶点的圆周之间的距离;
  • sibling pre sep:某个子顶点与相邻的前一个顶点之间的距离

本例中,第三级子顶点之间的距离是由sibling sep=1pt,sibling sep=1pt决定嘚这是一个均匀的设定,所以组与组之间是没有额外的距离的。

完成这些设置后完整的代码如下:


最后,是欣赏作品的时间啦!


关紸公众号:大哉数学之为用领取福利啦!

【LaTeX微信交流加群:】

如果你希望交流LaTeX使用或者TikZ作图方面的问题,请先添加作者微信:niltxz然后加叺作者的LaTeX交流微信群。

如果你需要LaTeX方面的安装、使用的入门学习材料请在本公众号回复:latex0, 索取资料下载链接及提取码(链接永久有效),都是非常实用LaTeX入门资料里面包含:

  • 一份简明的关于安装latex的介绍
  • 中文LaTeX安装与使用

我要回帖

更多关于 P图的定义 的文章

 

随机推荐