概率型稀疏核Logistic多元分类机
郑建炜* 王万良 蒋一波 陈伟杰
浙江工业大学计算科学与技术学院 杭州 310023
Probabilistic Sparse Kernel Logistic Multi-classifier
Zheng Jian-wei Wang Wan-liang Jiang Yi-bo Chen Wei-jie
College of Computer Science and Technology, Zhejiang University of Technology, Hangzhou 310023, China
摘要 该文提出一种基于二级先验概率的多元核Logistic分类机,扩展核Logistic回归为多元模型,并解决其解的稀疏性问题,以提升多分类应用时的模型运行速率。为约简模型构建所需计算量,训练过程采用自下向上增补算法,每次迭代采用尽量少的输入样本,规避了大型矩阵逆操作,以适应于不同量度的数据场合。实验显示,所提多元分类机模型构建简单,且识别率与稀疏性都优于经典支持向量机所生成的“一对一”多分类方法及传统多元核Logistic回归算法。
关键词 :
核Logistic回归 ,
稀疏性概率 ,
多元分类机 ,
自下向上训练
Abstract :A new kernel logistic regression model based on two phase sparsity-promoting prior is proposed to render a sparse multi-classifier and enhance the run-time efficiency. For accelerating the building of the model, the bottom-up training algorithm is adopted which controls the capacity of the learned classifier by minimizing the number of basis functions used, resulting in better generalization and faster computation. Experimental results on standard benchmark data sets attest to the accuracy, sparsity, and efficiency of the proposed methods.
Key words :
Kernel logistic regression
Sparsity-promoting prior
Multi-classifier
Bottom-up training
收稿日期: 2010-11-15
基金资助: 国家自然科学基金(61070043)和浙江省自然科学基金(Y1100611)资助课题
通讯作者:
郑建炜
E-mail: weibaby2007@163.com
引用本文:
郑建炜, 王万良, 蒋一波, 陈伟杰. 概率型稀疏核Logistic多元分类机[J]. 电子与信息学报, 2011, 33(7): 1632-1638.
Zheng Jian-Wei, Wang Wan-Liang, Jiang Yi-Bo, Chen Wei-Jie. Probabilistic Sparse Kernel Logistic Multi-classifier. , 2011, 33(7): 1632-1638.
链接本文:
http://jeit.ie.ac.cn/CN/10.3724/SP.J.1146.2010.01237 或 http://jeit.ie.ac.cn/CN/Y2011/V33/I7/1632
[1]
余家林, 孙季丰, 宋治国. 基于优选特征轨迹的全分辨率视频稳定 [J]. 电子与信息学报, 2015, 37(5): 1141-1148.
[2]
张宝龙, 李洪蕊, 李丹, 戴凤智. 一种针对车载全景系统的图像拼接算法的仿真 [J]. 电子与信息学报, 2015, 37(5): 1149-1153.
[3]
齐苑辰, 吴成东, 陈东岳, 陆云松. 基于稀疏表达的超像素跟踪算法 [J]. 电子与信息学报, 2015, 37(3): 529-535.
[4]
袁广林, 薛模根. 基于稀疏稠密结构表示与在线鲁棒字典学习的视觉跟踪 [J]. 电子与信息学报, 2015, 37(3): 536-542.
[5]
刘袁缘, 陈靓影, 俞侃, 覃杰, 陈超原. 基于树结构分层随机森林在非约束环境下的头部姿态估计 [J]. 电子与信息学报, 2015, 37(3): 543-551.
[6]
庄哲民, 章聪友, 杨金耀, 李芬兰. 基于灰度特征和自适应阈值的虚拟背景提取研究 [J]. 电子与信息学报, 2015, 37(2): 346-352.
[7]
蒋寓文, 谭乐怡, 王守觉. 选择性背景优先的显著性检测模型 [J]. 电子与信息学报, 2015, 37(1): 130-136.
[8]
储岳中, 徐波, 高有涛, 邰伟鹏. 基于近邻传播聚类与核匹配追踪的遥感图像目标识别方法 [J]. 电子与信息学报, 2014, 36(12): 2923-2928.
[9]
李万益, 孙季丰, 王玉龙. 基于双隐变量空间局部粒子搜索的人体运动形态估计 [J]. 电子与信息学报, 2014, 36(12): 2915-2922.
[10]
赵烨, 蒋建国, 洪日昌. 基于空间约束的快速鲁棒特征匹配优化 [J]. 电子与信息学报, 2014, 36(11): 2571-2577.
[11]
肖志涛, 史文静, 耿磊, 吴骏, 张芳. 基于相位信息和主成分分析的对称性检测方法 [J]. 电子与信息学报, 2014, 36(9): 2041-2046.
[12]
胡良梅, 段琳琳, 张旭东, 杨静. 融合颜色信息与深度信息的运动目标检测方法 [J]. 电子与信息学报, 2014, 36(9): 2047-2052.
[13]
杜宇宁, 艾海舟. 基于统计推断的行人再识别算法 [J]. 电子与信息学报, 2014, 36(7): 1612-1618.
[14]
刘鹏辉, 李岁劳, 何颖. 基于消失点迭代重估的道路边缘检测 [J]. 电子与信息学报, 2014, 36(7): 1619-1624.
[15]
杜春, 邹焕新, 孙即祥, 周石琳, 赵晶晶. 基于改进局部切空间排列的流形学习算法 [J]. 电子与信息学报, 2014, 36(2): 277-284.