模式识别课程实习K-L变换实习报告一．实习目的本实习内容旨在让我们通过用VC等高级语言编写离散K-L变换的基本算法程序，利用K-L变换对遥感图像进行处理，达到分类特征提取的目的。同时巩固对模式特征分析和选取的方法的理解。二．实习原理离散K-L变换（Karhunen-Loeve）变换从n维特征选取m维特征，删去的n-m维特征不一定就是无用的信息，如何在信息损失最小的情况下选取特征，在理论上就显得更严密些。通常采用正交变换，得到新的经变换的模式，以保证信息损失最小情况下获得有利于分类的特征。离散K-L变换（Karhunen-Loeve变换）就是常用的方法。KL变换的引入。设一个输入向量x。如果是图像数据，那么可以按照字典排列法组成一个向量。KL变换的目的是对原向量进行变换，组成新向量y。该新向量的特征数比x少，各特征间不相关。因此关键是找到这样的变换矩阵A。KL变换是一个能够从n个特征中选择m个（m<n），而保持信息损失最小的工具。这给我们降维工作带来很大的好处。但这种变换不是从类可分性的角度出发的，因此不一定具有最好的可分性，尤其对于低维空间，维数的压缩不一定能对可分性提供帮助。从几何上看，KL是做下面的旋转变换：××××××××××××××××KL变换、主分量变换是可以相互使用的同义词，本质上并无区别，不过在不同领域中的叫法不同而已。一般多元统计分析上以后者为主，图像、模式识别和信号处理中则前者为主；对遥感图像进行KL变换首先计算每个波段的均值，组成均值向量，其中K为样本数量然后计算波段之间的协方差矩阵利用K-L变换的分类特征提取KL变换的数学实质是对样本的协方差矩阵进行分析，获得变换矩阵所需的列向量。协方差矩阵本质上是一种散布矩阵。因此对不同的散布矩阵有不同的结果。1.按总体散布矩阵作K-L变换考虑所有各类模式的总体散布矩阵和前面定义的总体散布矩阵本质上是一致的因此，对于给定的样本集，两者相差一个常数。由于这种散布矩阵实际上是样本总体的协方差矩阵，在实施K-L变换时，若以该矩阵的较大本征值对应的本征向量构成变换矩阵，不仅能在均方误差最小的前提下保留原模式的主要信息，而且突出了各类模式的差异性或可分性信息。2.按类内散布矩阵作K-L变换类内散布矩阵为同样可以证明，和下述类内散布矩阵的定义本质上是一致的：它是各类模式协方差矩阵之和。若采用这种矩阵作K-L变换，从分类的角度出发，一般希望各类模式的类内距离最小，即要求其凝聚程度要好，因此常选用较小本征值对应的本征向量组成变换矩阵。但这时由于不是以突出差异性为主，就需要进行分析。将各类模式按这样的变换矩阵映射到二维空间，若每类模式凝聚性好，各类模式之间可分性也好，就可以进行变换后的分类，但若仅仅每类模式凝聚性好，类间可分性差，就不宜作变换后的分类。3.按类间散布矩阵作K-L变换自动分类主要依赖于各类特征之间的差异性，故利用类间散布矩阵进行K-L变换是十分重要的。类间散布矩阵为计算类间散布矩阵的本征值，按其大小排列，选择对应于较大本征向量构成变换矩阵，就可以得到有利分类的降维后的新模式。在维数较高的情况下，究竟降维到何程度比较适宜，利用几何图形进行直观分析常常比较困难，这时须利用变换散布矩阵的迹准则来进行判断。变换散布矩阵的计算公式：三．实习要求计算机作业：编程实现KL变换，并对TM六波段图像进行演算。四．实习步骤部分源代码：public:CMatrixtuxiang;//存储图象所有象素的灰度值CMatrixtezhengxl;//特征向量矩阵double*feature;//特征值CMatrixtemp;//矩阵RCSizesizeImage;//图象大小CSizesizeSaveImage;//图象实际存储大小HWNDhwnd;voidOnKl();//KL变换计算voidDraw();//图象输出CMatrixtezheng;//某一特征向量CMatrixtezhengt;//某一特征向量转置CMatrixresult;//输入图象CKLchangeDoc*GetDocument();voidCKLchangeView::OnKl()//KL变换计算{inti,j;tezheng.Init(6,1);tezhengt.Init(1,6);temp=CMatrix(6,6);feature=newdouble[6];tezhengxl.Init(6,6);doubletmave[6];//求每幅图象的灰度均值