范数的意义

转自 https://blog.csdn.net/yb536/article/details/40900239

思考了一些关于范数的直觉性理解&＃xff0c;想先记下来&＃xff0c;好好消化消化。

关于矩阵的理解&＃xff0c;这里有一篇文章非常不错&＃xff0c;对矩阵的直觉理解有深入的剖析,如何理解线性代数

那么在链接的文章中&＃xff0c;如果你看过了&＃xff0c;就可以理解两个重要的概念&＃xff1a;

1.矩阵的本质是运动&＃xff08;跃迁&＃xff09;的描述&＃xff0c;线性变换是描述运动的过程&＃xff0c;所以线性变换可以用矩阵来表示。

2.一个对象可以表达为无穷多个合理选择的对象的线性和。所以向量表征对象&＃xff0c;无穷多个向量可以合理选择线性组合表出其他向量。

我们这里就把向量等价于一个对象&＃xff0c;一个矩阵等价于一个变换。

    一个向量有一定的维度&＃xff0c;而这些维度可以看作这个对象的所有属性&＃xff0c;比如一头大象有很多属性--体重&＃xff0c;个头&＃xff0c;长鼻子&＃xff0c;大耳朵等。

    书中定义的范数&＃xff0c;是在一般的线性空间中&＃xff0c;使用范数来定义一个向量的长度。长度是什么&＃xff1f;就是两个点之间的差别&＃xff0c;那个这个差别如何而来&＃xff1f;这样的话&＃xff0c;每个人有每个人不同的看法&＃xff0c;每个人看得角度不同。

    比如那头大象是向量x&＃xff0c;那么一个中国人来看这头大象&＃xff0c;他心目中产生的“大象”&＃xff0c;就会和原始的大象产生差距&＃xff0c;||x||a,就表示为向量x的a范数&＃xff0c;表征着这个大象由这个中国人来看会产生的现实大象与心中“大象”的差别。

    那么接下来定义一个矩阵A&＃xff0c;矩阵表征着一个空间到另一个空间的映射&＃xff0c;我们继续来看大象&＃xff0c;“现实”为一个空间&＃xff0c;“心中”为另一个空间&＃xff0c;大象从现实映射到心中&＃xff0c;我们就可以用Ax来表征“心中的大象”&＃xff0c;x-->Ax的变换过程&＃xff0c;就是通过矩阵A的变换得到&＃xff0c;那么矩阵的范数又是什么呢&＃xff1f;矩阵的范数便是这些变换的范围&＃xff0c;一个人看大象&＃xff0c;可能想到一个动画片中的小象的形象&＃xff0c;可能想到泰国&＃xff0c;甚至想到蛤蟆&＃xff08;蛤蟆吞大象嘛&＃xff09;,而从大象出发映射到这些想象的事物的映射所构成的空间&＃xff0c;便是矩阵A的空间&＃xff0c;A的a范数||A||a,便是一个中国人的想象空间中映射的长度。那么矩阵的范数当中&＃xff0c;为什么多了一条相容性的规则呢&＃xff1f;我们定义一个映射&＃xff0c;也必须考虑到这个映射输入的数据的范围&＃xff0c;比如f(x)&＃61;In(x),这个函数的x的范围就必须大于0&＃xff0c;如果一个小于0的数x,就无法和这个映射In()相容&＃xff0c;所以矩阵的范数与向量的范数相容也就是这个道理&＃xff0c;我们定义一个范数就是让一个婴儿来看这头大象&＃xff0c;你说婴儿能够看得懂这是什么玩意嘛&＃xff1f;那么我们定义的矩阵范数不止一个&＃xff0c;比如a范数是中国人看&＃xff0c;b范数是美国人看&＃xff0c;无论从向量范数比较&＃xff08;现实的大象和心中大象的差距&＃xff09;&＃xff0c;还是从矩阵范数比较&＃xff08;美国人可能不会想到蛤蟆~~&＃xff09;都会产生不同。

    那么一个矩阵范数总能找到一个向量范数与之相容也成立&＃xff0c;一个婴儿总会有他看得懂的东西&＃xff0c;一些存在他本能里的。

    那么所谓矩阵的谱半径&＃xff0c;我理解为事物的本质。而矩阵的谱半径是这个矩阵所有矩阵范数的下确界&＃xff0c;理解这一定理&＃xff0c;也就直观的多。一个矩阵的矩阵范数是通过一个人来看大象的“现象”&＃xff0c;现象永远无法超越本质&＃xff0c;只能无限靠近本质&＃xff0c;谱半径构成的球体是事物本质最大特征为半径构成的&＃xff0c;矩阵范数永远只能徘徊于这个球体之外&＃xff0c;或无限接近球体。&＃xff08;难怪有人说&＃xff0c;哲学和数学一样&＃xff0c;是万物的基础&＃xff09;

    所谓有限维空间的不同范数是等价的。这句话也好理解了&＃xff0c;不同人看大象无论是想成动画片里的“飞天象”也好&＃xff0c;或是蛤蟆也罢&＃xff0c;最终还是要收敛到大象这个事物上去。

    那么所谓的算子范数&＃xff0c;算子范数真包含于矩阵范数当中&＃xff0c;从与向量范数的相容性出发。算子范数从现实的大象出发&＃xff0c;包含中国人的想象&＃xff0c;美国人的想象&＃xff0c;但不包含婴儿的想象。基于大象出发&＃xff0c;诱导出成年人的想象&＃xff0c;构成想象空间。但注意&＃xff0c;算子范数是范数&＃xff0c;是一个实数&＃xff0c;不等同于空间&＃xff0c;是这个空间的上界&＃xff0c;即使变换的上界&＃xff0c;大象缩放的上界。

    以上是我对这些日子学习的范数概念的直觉性理解&＃xff0c;我也是受到了上面推荐的那篇文章的启发&＃xff0c;喜欢把具体的数据抽象为我们生活中的东西&＃xff0c;不然虽懂得做数学公式推导&＃xff0c;但无法理解这样推导的原理&＃xff0c;那和计算器没什么区别。

            __     __       
           /  \~~~/  \    
     ,----(     ..    ) 
    /      \__     __/   
   /|         (\  |(
  ^ \   /___\  /\ |   
     |__|   |__|-"