基于核函数的学习算法

论述基于核函数的方法，包括支持向量机的分类、聚类与回归算法，基于核的Fisher判别分析、感知机和主成分分析，介绍学习算法、简化算法和多类分类等研究课题，及基于核函数方法的应用。     

车载红外视频图像快速彩色化技术研究

为了实时高效地对车载红外视频图像进行彩色化处理,提出了一种在Lab颜色空间基于调色板的分类彩色化方法.对增强和融合处理后的红外图像采用K均值聚类方法得到聚类中心,再利用Fisher评价函数获得分类界限以对红外视频图像进行图块景物分割,在Lab颜色空间中采用分类彩色化方法对各类别景物赋予适当的色彩.试验结果表明,采用调色板的分类彩色化方法具有更高的效率,得到的图像色彩符合人眼的视觉特性且便于夜间红外图像的彩色化实现.     

一种新的线性规划中原始对偶内点算法的核函数

针对线性规划中原始对偶内点法给出了一种新的核函数,并且给出了基于这个新的核函数的原始对偶内点算法.在算法的理论分析中,首先利用该核函数导数的反函数估计出该函数本身的上界;其次利用相关定理给出了最优的迭代步长的下界;最后证明基于牛顿迭代步的原始对偶方法的大步迭代和小步迭代的迭代上界,并通过对不同规模的线性规划问题进行数值计算来说明这个算法的有效性.     

氟骨症患者肌电图的定量研究

为对肌电图波形特征作多维分析和定量判断,我们采用图形识别法首次对60例氟骨症患者肌电波形的五种特征数值进行了采集,将它们表示为多维矢量。按Fisher准则计算出线性鉴别函数并对新采集的肌电信号作分类计算,提出了三个分类鉴别方程式,此外,还计算了正确分类概率的估值。运用图形识别法判断为肌电异常者来自正常组的概率仅为0.8％。我们还用此法对氟宁的疗效作了定量的评价。     

分块核偏最小二乘法

针对核偏最小二乘法(KPLS)随核函数矩阵维数膨胀而计算量增加的问题,提出分块核偏最小二乘法(BKPLS).BKPLS根据核函数矩阵对称的性质,将KPLS中的批量算法转变成分块算法,不但减小了对计算机硬件的要求,而且减少了计算时间.仿真结果验证了BKPLS的有效性,而且在样本数量巨大,KPLS无法实现的情况下,BKPLS也能保证辨识算法的实现.     

基于轨迹谱聚类的终端区盛行交通流识别方法

为了改善终端空域扇区和进离场航线对实际空中交通的流量及空间分布的适用性,研究了从大量航空器飞行轨迹中识别主要交通流的方法.在分析飞行轨迹空间特征的基础上,建立了基于3D网格的轨迹间相似性模型.利用谱聚类算法对终端区飞行轨迹样本进行聚类划分,提出了一种基于轨迹聚类核密度估计的盛行交通流和异常轨迹的识别方法,用于从空管雷达记录的飞行轨迹中识别出盛行交通流的实验.实验研究结果表明:该方法将1 476条轨迹划分为5个聚类,识别出5个盛行交通流,且识别结果未受到异常轨迹的影响.      

城市轨道交通行人通道交通状态识别研究

提出了一种基于支持向量机,利用行人交通流参数,实现城市轨道交通人行通道处交通状态识别的方法。采用FCM算法实现了4种行人交通状态的聚类分析与定义;建立SVM多类分类器模型。并分别采用线性可分和非线性两种SVM分类器以及多项式、高斯径向基、sigmoid等3种核函数,应用于行人通道交通状态识别中,进而通过实际采集数据集合,对其有效性进行对比分析。研究表明:设计的算法具有良好的识别性能,RBF核函数SVM模型的总体识别效果相比最好,正确率均在85%以上,说明行人交通参数在该核函数转化的高维空间具备良好的线性可分;线性可分对畅通状态识别效果相对最好,正确率为98%;多项式核函数对稳定状态识别效果相对最好,正确率为93%;sigmoid核函数的总体识别效果相比最稳定,正确率均在85%~92%。     

特征融合与约简的纹理分类方法研究

提出了一种新的基于多特征融合的纹理分类算法.首先,通过灰度共生矩阵(GLCM)、高斯马尔科夫随机场(GMRF)和二进制小波(Wavelet)抽取纹理特征,采用基于K近邻域(K-NN)分类器的留一法交叉验证错误率作为顺序前向搜索算法(SFS)的评估函数进行特征约简,从而有效地将多特征进行融合,最后利用K-NN分类器对融合后的特征进行分类.对Brodaz纹理库的测试结果证实:(1) GCLM,GMRF和Wavelet方法提取的纹理特征具有互补性与协同性;(2)与单独的纹理特征提取方法相比,多特征融合与约简的方法取得了更高的识别精度;(3) 与简单的特征联合方法相比,文中提出的方法识别率可提高约4%;(4) 与经典特征降维方法(主成分变换(PCA)、Fisher判别(LDA)法)相比,文中提出的方法在识别精度和识别效率方面更具有优势,是一种实用的纹理分类方法.     

一种基于核局部保留投影的人脸识别方法

为了有效提取人脸的非线性结构信息,提出一种新的基于最大散度差的核判别局部保留投影方法.首先通过核函数将样本数据映射到高维特征空间,计算特征空间中样本的散度矩阵,其次将样本原始空间中的近邻图嵌入到散度矩阵,最后采用最大散度差准则进行特征提取.在PIE与Yale人脸数据库上的实验结果表明,提出的人脸识别方法最高识别率可达到99%.      

基于核密度应力谱外推的转向架构架疲劳寿命评估

提出了一种基于多样本核密度应力谱外推的疲劳寿命评估方法,研究了核密度估计中的最优带宽与核函数的确定问题,采用灰色关联度分析方法对应力谱的外推优度进行量化评价与检验,并讨论了疲劳寿命评估的相对误差与外推倍数之间的关系;为了验证方法的正确性与可行性,以某转向架构架转臂定位安装座焊缝附近某测点为研究对象,选取了该测点在车轮分别处于镟轮初期、中期和末期时的3组动应力测试数据,进行多样本核密度应力谱外推与疲劳评估。研究结果表明:基于最小渐近均方积分误差的概率密度函数拟合优度良好,所研究的4种核函数类型中,基于Epanechekov核函数外推的相关性最好,相关系数为0.99,较其他3种核函数提高了0.01%~0.12%,基于Circular核函数外推的一致性最好,灰色关联度为0.592 0,较其他3种核函数提高了0.17%~0.32%;基于多样本核密度应力谱外推10倍后的疲劳评估寿命相比基于线性外推的评估寿命减少了1.15%;当应力谱外推至全寿命周期时,基于核密度外推所评估的安全运营里程减少了6.45%。可见,基于核密度应力谱外推的疲劳寿命评估更偏于安全,能保证车辆结构的安全服役。      

On-line Batch Process Monitoring and Diagnosing Based on Fisher Discriminant Analysis

Introduction Nowadays, it has been paying more attentionto the batch or semi-batch process which producedthe high added value and high quality products inchemical industry, such as polymer, pharmaceuti-cal and semiconductor industry.The aim of the batch process monitoring is tokeep the product quality uniform and consistentunder batch-to-batch process and meet specifica-tion limits. The direct approach is to monitor cru-cial product quality variables in batch process.However, quality variables…     

基于联合投票网络的交通场景天气分类方法

基于交通视频监控图像的天气识别已经成为智能交通系统中重要的研究课题. 虽然卷积神经网络（convolutional neural network,CNN）在图像识别技术获得了巨大的发展,但是针对复杂交通场景的天气识别问题,现有的模型在特征表达方面仍然面临着巨大的挑战. 为了提取丰富的语义特征,提出了基于联合投票机制的深度神经网络（deep neural network,DNN）模型. 所提出的模型包括两个核心模块:基于通道和空间注意力机制的二阶特征模块和基于复合特征结果联合投票机制的分类模块, 用以提取不同天气图像中的判别性信息,提高在复杂交通场景下的天气识别性能. 最后,在两个基准天气分类数据集上进行了验证试验,结果表明:对于复杂场景条件下的天气识别问题,所提出的基于联合投票机制的深度神经网络模型的识别正确率优于目前最好的天气识别方法的1.97%.      

Orthogonal discriminant improved local tangent space alignment based feature fusion for face recognition

Improved local tangent space alignment (ILTSA) is a recent nonlinear dimensionality reduction method which can efficiently recover the geometrical structure of sparse or non-uniformly distributed data manifold. In this paper, based on combination of modified maximum margin criterion and ILTSA, a novel feature extraction method named orthogonal discriminant improved local tangent space alignment (ODILTSA) is proposed. ODILTSA can preserve local geometry structure and maximize the margin between different classes simultaneously. Based on ODILTSA, a novel face recognition method which combines augmented complex wavelet features and original image features is developed. Experimental results on Yale, AR and PIE face databases demonstrate the effectiveness of ODILTSA and the feature fusion method.     

基于改进PSO算法的两阶段损伤识别方法

为解决结构多损伤情况下的位置识别和损伤程度判定问题,提出了一种基于改进粒子群优化算法和贝叶斯理论的两阶段损伤识别方法,该方法采用频率和模态应变能作为损伤定位源数据,分别用基于频率改变和基于应变能耗散率的识别方法进行损伤信息的初步提取,再利用贝叶斯融合理论对损伤位置进行较为精确的判定.然后,利用粒子群优化(PSO)算法对损伤位置和程度进行更为精确的二次识别.考虑到简单PSO算法易陷入局部最优解,提出了3种改进措施,即粒子位置突变、最优记忆粒子微搜索和双收敛措施.数值仿真结果表明:采用贝叶斯融合理论可以有效地识别出可能的损伤单元,在此基础上用改进的PSO算法可以更精确地识别损伤的位置和程度,同时采用3种改进措施的PSO算法的识别精度明显优于其他PSO算法和遗传算法.     

尺度核支持向量机及在动态系统辨识中的应用

为了提高非线性动态系统辨识质量,提出了新的支持向量机尺度核函数构造方法.首先直接构造紧支撑尺度函数,然后根据小波多分辨分析理论,由紧支撑尺度函数生成具有多分辨率特性的尺度核函数.证明了这种核函数是满足Mercer定理的支持向量机核函数.动态系统辨识的仿真结果表明,尺度核函数支持向量机的建模和逼近能力优于基于三阶样条核函数或RBF核函数的支持向量机.     

An independent component analysis algorithm through solving gradient equation combined with kernel density estimation

A new algorithm for linear instantaneous independent component analysis is proposed based on max-imizing the log-likelihood contrast function which can be changed into a gradient equation. An iterative method is introduced to solve this equation efficiently. The unknown probability density functions as well as their first and second derivatives in the gradient equation are estimated by kernel density method. Computer simulations on artificially generated signals and gray scale natural scene images confirm the efficiency and accuracy of the proposed algorithm.     

一种新型多核判别分析方法

为了给模式分类和维度约简提供有效的手段,在综合L1-MKDA和L2-MKDA两种多核KDA优点的基础上,提出一种以预定内核函数的线性组合,并结合混合范数正则化函数实现核权重的稀疏性和非稀疏性平衡的新型弹性多核判别分析方法(semi-infinite-programming-based flexible multi-kernel discriminant analysis, S-FMKDA).该方法用半无限规划方法求解弹性多核判别分析算法,并通过混合正则化实现核的自学习.在不同数据集上的实验结果表明:S-FMKDA比目前常见的KDA、KDAP、KDAG、L1-MKDA、L2-MKDA、UMKDA核判别分析方法的精度提高5%.