向量的正交投影
到给定的子空间
是向量
最接近
.
在解释正交投影之前,我们将修改一些 重要概念。
让
成为 向量空间。请记住
两个向量
和
属于
是正交的 内
产品 是
零:
让
是...的子空间
.
的 正交补码
的
,
表示为
,
是唯一满足的子空间
两个子空间
和
是 补充
子空间 , 意思是
那
哪里
表示一个 直接和 。 由
s的性质,任何向量
可以被独特地写
如
哪里
和
.
现在我们可以定义正交投影。
定义
让
是一个线性空间。让
是...的子空间
和
它的正交补码。让
以其独特的
分解
在
哪一个
和
.
然后,向量
称为的正交投影
到
它由表示
.
因此,正交投影是所谓的特殊情况
斜投影,这是
如上定义,但不要求互补子空间
的
是正交补码。
例
让
成为
列向量。
定义
它的
正交补码
是
如
我们可以通过检查矢量跨度来轻松验证
与两个向量正交
.
现在,考虑
向量
然后,
两个向量之间的距离由 规范 他们的区别。
事实证明
是的向量
最接近
.
主张
让
成为
有限维的
向量空间。让
是...的子空间
.
然后,
对于
任何
.
以来 哪里
,
向量
属于
因此,它正交于属于
,
包括向量
.
因此,
哪里
在步
我们已经使用 毕达哥拉斯定理.
通过取双方的平方根,我们得到陈述的结果。
假设
是的空间
复数向量
和
是的子空间
.
通过在演讲中展示的结果
投影矩阵 (那是
对倾斜的投影有效,因此,对于正交的特殊情况有效
投影),存在一个投影矩阵
这样
那
对于
任何
.
投影矩阵
是 哪里:
是其列构成基础的任何矩阵
;
是其列构成基础的任何矩阵
.
在正交投影的情况下,上述公式变得更简单。
主张
让
是复杂的空间
向量。让
是...的子空间
.
让
是一个矩阵,其列构成了
.
表示为
的 共轭转置 的
.
然后,矩阵
是投影矩阵使得
对于
任何
.
我们选择的列
以这样的方式,他们形成一个
正交基础 对于
.
结果,如关于unit矩阵的讲座中所述(请参见
关于 具有以下项的非平方矩阵
正交列 ),我们
有
哪里
表示的共轭转置
.
而且,由于
与的列正交
,
我们
有
和
的
的列
是线性独立的,因为它们构成了基础。因此,
对于任何
,
这意味着
对于任何
.
从而,
是全等级(因此可逆)。我们使用这些结果得出以下结论
平等:
哪一个
根据定义
逆矩阵,
那
从而,
当我们将注意力集中在实向量上时,共轭转置变为
简单换位和投影矩阵的公式
变成 哪一个
对我们之前处理过的人可能很熟悉
线性的
回归 和
最小二乘
估计量 .
当矩阵的列
是正交的,我们可以进一步简化:
和
表示为
的列
.
然后,对于任何
,
我们
有
哪一个
是我们已经在正交集上投影的公式
在关于
克-施密特过程 和
在 QR分解.
请引用为:
Taboga, Marco (2017). "正交投影", 列克特 ures on matrix algebra. //www.junruiqiche.com/matrix-algebra/orthogonal-projection.