基于半监督与集成学习的文本分类方法pdf/txt下载_在线阅读全文

内容简介

文本分类技术广泛应用于新闻媒体、网络期刊文献、数字图书馆、互联网等领域，是人类处理海量文本信息的重要手段。
本书重点探讨了利用信息论中的评估函数量化特征权值的方法；基于权值调整改进Co-training的算法；利用互信息或CHI统计量构造特征独立模型，进行特征子集划分的方法；基于投票熵维护样本权重的BoostVE分类模型；融合半监督学习和集成学习的SemiBoost-CR分类模型。
其中特征选择和权值调整方法、基于特征独立模型划分特征子集的方法适用于文本分类，其他算法不仅适用于文本分类，对机器学习和数据挖掘的其他研究也有较大的参考价值和借鉴作用。

作者简介

山东工商学院计算机科学与技术学院

目　　录

第1章绪论 1
1.1 研究背景及意义 1
1.1.1 数据挖掘和文本挖掘 1
1.1.2 文本分类及其面临的问题 3
1.2 国内外相关研究 7
1.2.1 半监督学习 7
1.2.2 集成学习 10
1.3 本书内容组织 14
第2章文本分类技术概述 17
2.1 文本分类预处理 17
2.2 文本的表示 19
2.3 特征选择 21
2.3.1 初始特征选择 22
2.3.2 特征选择算法 22

第1章 绪论 1 
1.1 研究背景及意义 1 
1.1.1 数据挖掘和文本挖掘 1 
1.1.2 文本分类及其面临的问题 3 
1.2 国内外相关研究 7 
1.2.1 半监督学习 7 
1.2.2 集成学习 10 
1.3 本书内容组织 14 
第2章 文本分类技术概述 17 
2.1 文本分类预处理 17 
2.2 文本的表示 19 
2.3 特征选择 21 
2.3.1 初始特征选择 22 
2.3.2 特征选择算法 22 
2.4 文本分类算法 24 
2.4.1 质心向量分类算法 24 
2.4.2 K近邻分类算法 26 
2.4.3 贝叶斯分类算法 27 
2.4.4 关联规则分类算法 33 
2.4.5 支持向量机 33 
2.4.6 其他分类算法 37 
2.5 实验数据集 38 
2.6 分类模型的评估方法 39 
2.7 本章小结 41 
第3章 TEF-WA权值调整技术 42 
3.1 特征选择存在的问题 42 
3.2 TEF-WA权值调整技术 43 
3.2.1 TEF-WA权值调整的基本思想 43 
3.2.2 各种评估函数的TEF-WA权值调整 45 
3.3 实验结果与分析 48 
3.3.1 TEF-WA权值调整的有效性 48 
3.3.2 不同评估函数的权值调整 52 
3.3.3 评估比较 62 
3.4 本章小结 68 
第4章 结合TEF-WA技术的Co-training改进算法 69 
4.1 Co-training算法及其存在的问题 69 
4.2 基于TEF-WA的特征多视图 70 
4.2.1 TEF-WA技术 70 
4.2.2 基于TEF-WA的特征多视图 71 
4.3 基分类器间的差异性评估 72 
4.4 TV-SC算法与TV-DC算法 74 
4.5 实验结果及其分析 76 
4.6 本章小结 80 
第5章 基于特征独立模型的Co-training改进算法 81 
5.1 特征独立模型 82 
5.1.1 基于条件互信息的相互独立性 82 
5.1.2 基于条件2统计量的相互独立性 83 
5.1.3 特征独立模型 84 
5.2 特征子集划分算法PMID 85 
5.3 基于MID-Model的改进算法SC-PMID 88 
5.4 实验结果及其分析 89 
5.4.1 PMID-MI与PART-Rnd的实验比较 90 
5.4.2 PMID-CHI与PART-Rnd的实验比较 93 
5.4.3 PMID-MI、PMID-CHI和PART-Rnd的实验比较 95 
5.4.4 SC-PMID-MI、SC-PMID-CHI和SC-PART-Rnd的 
实验比较 96 
5.5 本章小结 98 
第6章 基于投票信息熵和多视图的AdaBoost改进算法 99 
6.1 AdaBoost算法 100 
6.1.1 AdaBoost算法描述 100 
6.1.2 AdaBoost提升NB文本分类器的问题 101 
6.2 利用特征评估函数构造多视图 102 
6.3 基于投票信息熵的样本权重维护新策略 103 
6.3.1 投票信息熵 104 
6.3.2 基于投票信息熵的样本权重维护新策略 105 
6.3.3 样本权重对NB文本分类器的扰动 106 
6.4 BoostVE算法 108 
6.4.1 BoostVE算法描述 108 
6.4.2 BoostVE算法的最小训练错误上界 109 
6.5 实验结果及其分析 113 
6.5.1 参数 对BoostVE算法性能的影响 115 
6.5.2 Boost VE算法与AdaBoost-MV算法、 
AdaBoost算法的实验比较 118 
6.5.3 BoostVE 算法提升NB文本分类器的有效性 124 
6.6 本章小结 126 
第7章 结合半监督学习的SemiBoost-CR分类模型 128 
7.1 SemiBoost-CR模型的目标函数 129 
7.2 未标注样本的置信度 131 
7.2.1 基于K近邻的置信度 131 
7.2.2 基于最大差距的置信度 132 
7.3 基于置信度的重取样策略 133 
7.4 样本权重维护策略 135 
7.5 SemiBoost-CR分类算法 136 
7.6 实验结果及其分析 137 
7.6.1 未标注近邻样本对置信度conf1的影响 139 
7.6.2 两种置信度方法conf1和conf2的实验比较 140 
7.6.3 topN和bottomN对SemiBoost-CR模型的影响 144 
7.7 本章小结 154 
第8章 文本自动分类系统SECTCS 155 
8.1 系统简介 155 
8.2 系统总体结构 156 
8.3 系统的用户界面 157 
8.4 实验数据集 163 
8.5 本章小结 165 
结束语 166 
参考文献 169

显示全部信息

前　　言

前言
文本分类（Text/Document Categorization）是指按照预先定义的主题类别，通过一定的学习机制，在对带有类别标签的训练文本进行学习的基础上，给未知文本分配一个或多个类别标签的过程。文本分类技术广泛应用于新闻媒体、网络期刊文献、数字图书馆、互联网等领域，是人类处理海量文本信息的重要手段。数据挖掘技术在信息检索、邮件过滤、Web个性化服务等领域的成功应用均在一定程度上依赖于准确的文本分类技术。因此，文本分类技术的相关研究一直是近年来国际学术界的研究热点。
本书对文本分类的关键技术进行了概述，阐述了基于半监督学习和集成学习的国内外相关研究，重点对基于半监督学习和集成学习的文本分类方法进行了深入探讨。

前言 
 文本分类（Text/Document Categorization）是指按照预先定义的主题类别，通过一定的学习机制，在对带有类别标签的训练文本进行学习的基础上，给未知文本分配一个或多个类别标签的过程。文本分类技术广泛应用于新闻媒体、网络期刊文献、数字图书馆、互联网等领域，是人类处理海量文本信息的重要手段。数据挖掘技术在信息检索、邮件过滤、Web个性化服务等领域的成功应用均在一定程度上依赖于准确的文本分类技术。因此，文本分类技术的相关研究一直是近年来国际学术界的研究热点。 
 本书对文本分类的关键技术进行了概述，阐述了基于半监督学习和集成学习的国内外相关研究，重点对基于半监督学习和集成学习的文本分类方法进行了深入探讨。 
 本书的第1章介绍了研究背景、文本分类及其面临的问题，阐述了基于半监督学习和集成学习的文本分类方法的研究意义和国内外研究现状。第2章对文本分类的关键技术进行了概述，主要包括文本预处理、文本的表示、特征选择、分本分类方法、实验数据集及分类模型的评估方法。第3章分析了特征选择存在的问题，采用信息论中的评估函数量化特征的重要性，调整特征的权值，提出TEF-WA权值调整技术；分析比较了文档频率﹑信息增益（Information Gain，IG）、期望交叉熵（Expected cross Entropy）、互信息（Mutual Information，MI）、 统计量（CHI）、文本证据权（Weight of Evidence for Text，WET）和几率比（Odds Ratio）等多种评估函数及实验结果。第4章分析了半监督学习中的代表方法Co-training算法，提出了利用TEF-WA技术对Co-training改进的算法TV-SC和TV-DC，通过评估两个基分类器之间的差异性，可间接评估两个特征视图的独立性，并通过实验证明了所提方法的有效性。第5章针对Co-training方法的独立性假设问题，提出了利用互信息（MI）或CHI统计量评估特征之间的相互独立性的方法，构造了一种特征独立模型（MID-Model）。基于该模型提出了特征子集划分方法——PMID算法，以便把不存在自然划分的一个特征集合划分成两个独立性较强的子集，进而提出了改进的半监督分类算法——SC-PMID算法。并且对由PMID算法划分得到的两个特征子集之间的独立性进行了理论论证。第6章分析了集成学习算法AdaBoost算法不能有效提升Na＆iuml;ve Bayesian分类器的原因，提出了基于投票信息熵和多视图的AdaBoost改进算法——BoostVE算法，采用基于投票信息熵的样本权重维护新策略，能有效提高Na＆iuml;ve Bayesian文本分类器的泛化能力。理论分析证明改进的BoostVE算法的最小训练错误上界优于AdaBoost。第7章基于半监督学习和集成学习，提出了置信度重取样的SemiBoost-CR分类模型，给出了基于最大差距和基于相似近邻两种置信度计算方法。实验表明利用少量标注样本和大量未标注样本，SemiBoost-CR分类模型能够明显提升Na＆iuml;ve Bayesian文本分类器的性能指标。第8章介绍了采用VC++ 6.0实现的中英文文本分类系统SECTCS，阐述了SECTCS系统的原有的功能与新扩展的功能、总体结构、主要的用户界面及操作。 
 本书的研究工作得到了山东省高校智能信息处理重点实验室（山东工商学院）、国家自然科学基金项目（No.61073133，No.61175053，No.61272369，No.61272244）及山东省优秀中青年科学家科研奖励基金计划项目（S2010DX021）的资助，特此表示感谢。 
 
 
 唐焕玲 
 2013年3月

显示全部信息

基于半监督与集成学习的文本分类方法下载

基于半监督与集成学习的文本分类方法

发布书评

相关图书推荐