首页 基于句法分析的微博情感分类方法和系统

基于句法分析的微博情感分类方法和系统

举报
开通vip

基于句法分析的微博情感分类方法和系统(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112632272A(43)申请公布日2021.04.09(21)申请号202011127304.6G06F40/289(2020.01)(22)申请日2020.10.20G06K9/62(2006.01)(71)申请人浙江工业大学地址310014浙江省杭州市下城区潮王路18号(72)发明人季白杨 郑晓辉 (74)专利代理机构杭州天正专利事务所有限公司33201代理人王兵(51)Int.Cl.G06F16/35(2019.01)G06F1...

基于句法分析的微博情感分类方法和系统
(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112632272A(43)申请公布日2021.04.09(21)申请号202011127304.6G06F40/289(2020.01)(22)申请日2020.10.20G06K9/62(2006.01)(71)申请人浙江工业大学地址310014浙江省杭州市下城区潮王路18号(72)发明人季白杨 郑晓辉 (74)专利代理机构杭州天正专利事务所有限公司33201代理人王兵(51)Int.Cl.G06F16/35(2019.01)G06F16/33(2019.01)G06F16/951(2019.01)G06F40/211(2020.01)G06F40/242(2020.01)权利要求书4页说明书10页附图1页(54)发明名称基于句法 分析 定性数据统计分析pdf销售业绩分析模板建筑结构震害分析销售进度分析表京东商城竞争战略分析 的微博情感分类方法和系统(57)摘要一种基于句法分析的微博情感分类方法,包括:S1:获取用于情感分析的微博短文本,根据情感极性进行文本类别标注并划分为训练集和测试集;S2:分别对训练集和测试集进行数据预处理;S3:对预处理后的每个样本进行依存句法分析,结合外部情感特征词典构建特征词库;S4:根据预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展,使用TFIDF计算每个特征词的特征权值并向量化表示文本;S5:根据所述扩展后的训练样本集训练贝叶斯分类器,根据所述贝叶斯分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。本发明还包括基于句法分析的微博情感分类系统。CN112632272ACN112632272A权 利 要 求 书1/4页1.一种基于句法分析的微博情感分类方法,包含以下步骤:S1:获取用于情感分析的微博短文本,根据情感极性进行文本类别标注并划分为训练集和测试集;S2:分别对训练集和测试集进行数据预处理,包括中文分词、去停用词;S3:对预处理后的每个样本进行依存句法分析,得到依存句法树;根据所述依存句法树采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合,并结合外部情感特征词典构建特征词库;S4:根据预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展,使用TFIDF计算每个特征词的特征权值并向量化表示文本;S5:根据所述扩展后的训练样本集训练贝叶斯分类器,得到贝叶斯分类模型;根据所述贝叶斯分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。2.如权利要求1所述的基于句法分析的微博情感分类方法,其特征在于:步骤S1具体包含:S11:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据;S12:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据;S13:根据微博文本 内容 财务内部控制制度的内容财务内部控制制度的内容人员招聘与配置的内容项目成本控制的内容消防安全演练内容 ,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别;S14:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。3.如权利要求1所述的基于句法分析的微博情感分类方法,其特征在于:步骤S2具体包含:S21:利用中文分词工具,分别对训练集和测试集进行中文分词处理,并标注词性;S22:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词、标点以及特殊符号。4.如权利要求1所述的基于句法分析的微博情感分类方法,其特征在于:所述步骤S3具体包含:S31:训练集数据以句子为单位,利用句法分析工具进行句法依存分析,得到文本的句法依存结构即依存关系,以及依存句法树;S32:根据句法依存关系采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合;S33:结合外部情感特征词典,利用初始特征集合构建情感特征词库,用于扩展微博短文本的情感特征。5.如权利要求1所述的基于句法分析的微博情感分类方法,其特征在于:所述步骤S4具体包含:S41:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展;S42:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值,TFIDF的具体2CN112632272A权 利 要 求 书2/4页计算公式为:其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数;S43:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化形式进行文本表示。6.如权利要求1所述的基于句法分析的微博情感分类方法,其特征在于:所述步骤S5具体包含:S51:通过扩展后的训练样本集训练贝叶斯分类器,得到贝叶斯分类模型;S52:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。7.一种基于句法分析的微博情感分类系统,其特征在于:包括:数据获取模块,用于在新浪微博等社交平台上利用爬虫软件获取微博文本数据,根据微博内容进行情感标注并划分为训练集和测试集;数据预处理模块:用于对微博文本数据进行预处理,包括文本清洗、中文分词以及去停用词等;特征提取模块:用于分别对训练集和测试集进行特征提取,主要包括:句法依存分析子模块:用于利用句法分析工具分别对训练集和测试集进行句法依存分析,获取依存句法树;特征选择子模块:根据依存句法树,采用基于句法路径的匹配算法进行情感特征提取,选择具有明显情感倾向性的词汇作为初始情感特征集合;特征词库构建子模块:结合外部情感特征词典,以及所述初始情感特征集合构建情感特征词库,用于扩展短文本的情感特征;特征扩展模块:用于根据所述特征词库对文本进行特征扩展,使用IFTIDF计算特征权值并向量化表示文本;情感分类模块:用于通过扩展后的训练集训练分类器,得到贝叶斯分类模型,再对扩展后的测试集进行分类操作得到微博情感分类结果。8.如权利要求7所述的一种基于句法分析的微博情感分类系统,其特征在于:数据获取模块具体包括:微博短文本数据爬取子模块:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据。文本数据清晰子模块:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据,为保证样本的多样性,处理后的样本数量不少于10000条。微博样本的情感正负倾向性类别标注子模块:根据微博文本内容,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别。举例说明具体的微博情感类别,例如:“今年中秋国庆凑一块了,连休八天,真好!终于不用上3CN112632272A权 利 要 求 书3/4页班可以出去玩了!”该微博包含了开心快乐的情感,应划分为积极情感一类。训练集和测试集划分子模块:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。数据预处理模块具体包含:中文分词处理子模块:通过jieba分词工具分别对训练集和测试集进行中文分词处理,并标注词性;停用词剔除子模块:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词、标点以及特殊符号。句法依存分析子模块具体包括:训练集数据以句子为单位,利用Stanford句法分析工具进行句法依存分析,得到文本的句法依存结构(即依存关系),以及依存句法树。依存句法通过词汇之间的依存关系表达整个句子结构,这些依存关系表达了句子各成分之间的语义依赖关系。所有词汇之间的依存关系构成一颗句法树,树的根节点为句子核心谓词,用来表达整个句子的核心内容。例如,对中文短文本“俄国希望伊朗没有制造核武器计划。”进行句法分析得到依存句法树,其结构如图2所示。依存句法分析树标注集及其含义如下表1:表1 依存句法分析树标注集及其含义特征扩展模块具体包括:特征扩展子模块:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展;特征权值计算子模块:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值,TFIDF的具体计算公式为:4CN112632272A权 利 要 求 书4/4页其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数;文本表示子模块:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化形式进行文本表示:文本d可以表示为若干个情感特征及其权值的集合d=(w1,w2,…,wn),wi为情感特征词w的特征权值。情感分类模块具体包括:朴素贝叶斯分类器训练子模块:通过扩展后的训练样本集训练朴素贝叶斯分类器,得到微博情感分类模型;测试样本分类子模块:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。5CN112632272A说 明 书1/10页基于句法分析的微博情感分类方法和系统技术领域[0001]本发明涉及中文短文本分类技术领域,尤其是涉及一种基于句法分析的微博情感分类方法和系统。背景技术[0002]作为当代最热门的社交软件之一,微博从发展至今拥有了上亿的用户群,由于微博信息发布速度快、传播范围广,成为了最受民众欢迎社交网络平台。在微博上,每一个人都可以畅所欲言,发表一些生活动态以及对时事新闻、娱乐八卦的看法,同时也可以快速获取我们想要了解的信息。微博传播的高效性、实时性在为我们带来了便利的同时,也会给社会带来一些消极负面的影响。[0003]微博短文本的情感分析,重点在于通过文本中包含的立场、观点、态度等主观信息对微博正负情感倾向性进行判断,实质上是一种中文短文本的分类问题。微博由于文本字数的限制(最多不超过140字),导致文本信息内容简短、情感特征稀疏,使得难以对其进行高效的分类。目前,微博情感分析的分类方法主要有两类:一类是基于外部语料库的方法,通过引入外部语料库对微博情感特征进行语义特征扩展,虽然能提高分类效果,但是很大程度上依赖于语料库的质量;另一类是基于深度学习的分类方法,使用深度学习模型进行情感分类,分类模型的好坏取决于微博情感特征的提取。[0004]因此,对微博短文本的情感分析问题进行研究,提供一种高效快速的微博情感分类方法和系统,具有重要的研究意义和实用价值,有助于网络监管、舆情发现、杜绝网络暴力、维护一个清明纯净的网络空间。发明内容[0005]本发明的目的在于克服现有技术中所存在的上述缺点和不足,提供一种基于句法分析的微博情感分类方法和系统。本发明有效利用句法依存关系对微博短文本进行情感特征提取,再借助于外部的情感词库进行特征扩展后,有效解决了微博短文本情感特征稀疏导致分类效果不佳的缺陷。[0006]为了实现上述发明目的,本发明提供了以下技术方案:[0007]本发明提供了一种基于句法分析的微博情感分类方法,该方法包含以下实现步骤:[0008]S1:获取用于情感分析的微博短文本,根据情感极性进行文本类别标注并划分为训练集和测试集;[0009]S2:分别对训练集和测试集进行数据预处理,包括中文分词、去停用词等;[0010]S3:对预处理后的每个样本进行依存句法分析,得到依存句法树;根据所述依存句法树采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合,并结合外部情感特征词典构建特征词库;[0011]S4:根据预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行6CN112632272A说 明 书2/10页特征扩展,使用TFIDF计算每个特征词的特征权值并向量化表示文本;[0012]S5:根据所述扩展后的训练样本集训练贝叶斯分类器,得到贝叶斯分类模型;根据所述贝叶斯分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0013]进一步地,所述步骤S1具体包含:[0014]S11:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据;[0015]S12:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据,为保证样本的多样性,处理后的样本数量不少于10000条;[0016]S13:根据微博文本内容,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别;举例说明具体的微博情感类别,例如:“今年中秋国庆凑一块了,连休八天,真好!终于不用上班可以出去玩了!”该微博包含了开心快乐的情感,应划分为积极情感一类。[0017]S14:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。[0018]进一步地,所述步骤S2具体包含:[0019]S21:利用中文分词工具如jieba、PkuSeg、HanLP等,分别对训练集和测试集进行中文分词处理,并标注词性;[0020]S22:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词(如“的”、“和”、“由于”等高频词)、标点以及特殊符号。[0021]进一步地,所述步骤S3具体包含:[0022]S31:训练集数据以句子为单位,利用句法分析工具(如Stanford句法分析) 进行句法依存分析,得到文本的句法依存结构即依存关系,以及依存句法树;[0023]S32:根据句法依存关系采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合;[0024]S33:结合外部情感特征词典,如知网情感词典、大连理工大学情感词汇本体库等,利用初始特征集合构建情感特征词库,用于扩展微博短文本的情感特征;[0025]进一步地,所述步骤S4具体包含:[0026]S41:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展;[0027]S42:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值,TFIDF的具体计算公式为:[0028][0029]其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数。[0030]S43:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化形式进行文7CN112632272A说 明 书3/10页本表示。[0031]进一步地,所述步骤S5具体包含:[0032]S51:通过扩展后的训练样本集训练贝叶斯分类器,得到贝叶斯分类模型;[0033]S52:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0034]此外,本发明还提供了一种基于句法分析的微博情感分类系统,所述系统包括:[0035]数据获取模块,用于在新浪微博等社交平台上利用爬虫软件获取微博文本数据,根据微博内容进行情感标注并划分为训练集和测试集;[0036]数据预处理模块:用于对微博文本数据进行预处理,包括文本清洗、中文分词以及去停用词等;[0037]特征提取模块:用于分别对训练集和测试集进行特征提取,主要包括:[0038]句法依存分析子模块:用于利用句法分析工具分别对训练集和测试集进行句法依存分析,获取依存句法树;[0039]特征选择子模块:根据依存句法树,采用基于句法路径的匹配算法进行情感特征提取,选择具有明显情感倾向性的词汇作为初始情感特征集合;[0040]特征词库构建子模块:结合外部情感特征词典,以及所述初始情感特征集合构建情感特征词库,用于扩展短文本的情感特征;[0041]特征扩展模块:用于根据所述特征词库对文本进行特征扩展,使用IFTIDF 计算特征权值并向量化表示文本;[0042]情感分类模块:用于通过扩展后的训练集训练分类器,得到贝叶斯分类模型,再对扩展后的测试集进行分类操作得到微博情感分类结果。[0043]优选地,数据获取模块具体包括:[0044]微博短文本数据爬取子模块:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据。[0045]文本数据清晰子模块:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据,为保证样本的多样性,处理后的样本数量不少于10000条。[0046]微博样本的情感正负倾向性类别标注子模块:根据微博文本内容,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别。举例说明具体的微博情感类别,例如:“今年中秋国庆凑一块了,连休八天,真好!终于不用上班可以出去玩了!”该微博包含了开心快乐的情感,应划分为积极情感一类。[0047]训练集和测试集划分子模块:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。[0048]优选地,数据预处理模块具体包含:[0049]中文分词处理子模块:通过jieba分词工具分别对训练集和测试集进行中文分词处理,并标注词性;[0050]停用词剔除子模块:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词、标点以及特殊符号。[0051]优选地,句法依存分析子模块具体包括:8CN112632272A说 明 书4/10页[0052]训练集数据以句子为单位,利用Stanford句法分析工具进行句法依存分析,得到文本的句法依存结构(即依存关系),以及依存句法树。[0053]依存句法通过词汇之间的依存关系表达整个句子结构,这些依存关系表达了句子各成分之间的语义依赖关系。所有词汇之间的依存关系构成一颗句法树,树的根节点为句子核心谓词,用来表达整个句子的核心内容。依存句法分析树标注集及其含义如下表1:[0054][0055][0056]表1依存句法分析树标注集及其含义[0057]优选地,特征扩展模块具体包括:[0058]特征扩展子模块:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展;[0059]特征权值计算子模块:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值,TFIDF的具体计算公式为:[0060][0061]其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数;[0062]文本表示子模块:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化9CN112632272A说 明 书5/10页形式进行文本表示:文本d可以表示为若干个情感特征及其权值的集合 d=(w1,w2,…,wn),wi为情感特征词w的特征权值。[0063]优选地,情感分类模块具体包括:[0064]朴素贝叶斯分类器训练子模块:通过扩展后的训练样本集训练朴素贝叶斯分类器,得到微博情感分类模型;[0065]测试样本分类子模块:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0066]本发明与现有技术相比,具有如下优点和效益:[0067]传统仅依靠特征词库进行特征选择的方法,忽略了文本之间的句法关系,分类效果不佳。上述微博情感分类方法,通过基于句法分析的情感特征提取方法,有效利用句子的句法依存关系提取微博短文本的情感特征,再结合外部情感词典构建特征词库用于扩展文本特征,有效解决了短文本特征稀疏带来的分类效果不好的问题;本方法与现有技术相比,分类效果更好、分类准确率更高。附图说明[0068]图1为本发明实施例的一种基于句法分析的微博情感分类方法的实现过程示意图。[0069]图2为本发明实施例的一种基于句法分析的微博情感分类系统的结构示意图。具体实施方式[0070]为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细说明。[0071]本发明提供一种基于句法分析的微博情感分类方法和系统,该方法有效利用句法依存关系对微博短文本进行情感特征提取,再借助情感词库进行特征扩展后,有效解决了微博短文本特征稀疏导致情感分类效果不佳的缺陷。[0072]为了实现上述发明目的,本发明提供了如图1所示的以下技术方案:[0073]本发明提供了一种基于句法分析的微博情感分类方法,该方法包含以下实现步骤:[0074]S1:获取用于情感分析的微博短文本,根据情感极性进行文本类别标注并划分为训练集和测试集;[0075]S2:分别对训练集和测试集进行数据预处理,包括中文分词、去停用词等;[0076]S3:对预处理后的每个样本进行依存句法分析,得到依存句法树;根据所述依存句法树采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合,并结合外部情感特征词典构建特征词库;[0077]S4:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展,使用TFIDF计算每个特征词的特征权值并向量化表示文本;[0078]S5:通过扩展后的训练样本集训练贝叶斯分类器,得到贝叶斯分类模型;根据所述贝叶斯分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0079]进一步地,所述步骤S1具体包含:10CN112632272A说 明 书6/10页[0080]S11:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据。[0081]S12:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据,为保证样本的多样性,处理后的样本数量不少于10000条。[0082]S13:根据微博文本内容,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别。举例说明具体的微博情感类别,例如:“今年中秋国庆凑一块了,连休八天,真好!终于不用上班可以出去玩了!”该微博包含了开心快乐的情感,应划分为积极情感一类。[0083]S14:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。[0084]进一步地,所述步骤S2具体包含:[0085]S21:通过jieba分词工具分别对训练集和测试集进行中文分词处理,并标注词性。例如,对文本“知乎的内容质量很好”进行分词后,得到“(知乎,n)、(的,aux.v)、(内容,n)、(质量,n)、(很好,adv)”,其中n、aux.v、adv分别表示名词、助动词和副词。[0086]S22:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词(如“的”、“和”、“由于”等高频词)、标点以及特殊符号。[0087]进一步地,所述步骤S3具体包含:[0088]S31:训练集数据以句子为单位,利用Stanford句法分析工具进行句法依存分析,得到文本的句法依存结构(即依存关系),以及依存句法树。[0089]依存句法通过词汇之间的依存关系表达整个句子结构,这些依存关系表达了句子各成分之间的语义依赖关系。所有词汇之间的依存关系构成一颗句法树,树的根节点为句子核心谓词,用来表达整个句子的核心内容。依存句法分析树标注集及其含义如下表1:11CN112632272A说 明 书7/10页[0090][0091]表1依存句法分析树标注集及其含义[0092]S32:根据依存句法结构,采用基于句法路径的匹配算法进行微博情感特征选择,提取出具有明显情感倾向性的词汇作为初始特征集合。句法路径是指在句法树上链接任意两个节点之间的句法结构。通过句法路径提取文本情感特征时,根据预先统计好的句法路径表进行匹配,获取文本的依存句法结构,再选择具有明显正负情感倾向性的词汇作为情感特征。[0093]S33:结合外部情感特征词典,例如知网情感词典、大连理工大学情感词汇本体库等,利用初始特征集合构建情感特征词库,用于扩展微博短文本的情感特征。[0094]进一步地,所述步骤S4具体包含:[0095]S41:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展。[0096]S42:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值, TFIDF的具体计算公式为:[0097][0098]其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数。12CN112632272A说 明 书8/10页[0099]S43:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化形式进行文本表示:文本d可以表示为若干个情感特征及其权值的集合 d=(w1,w2,…,wn),wi为情感特征词w的特征权值。[0100]进一步地,所述步骤S5具体包含:[0101]S51:通过扩展后的训练样本集训练朴素贝叶斯分类器,得到微博情感分类模型。[0102]S52:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0103]此外,本发明还提供了一种基于句法分析的微博情感分类系统,如图2所示,所述系统包括:[0104]数据获取模块,用于在新浪微博等社交平台上利用爬虫软件获取微博文本数据,根据微博内容进行情感标注并划分为训练集和测试集;具体包括:[0105]微博短文本数据爬取子模块:在新浪微博等社交平台上,通过爬虫软件爬取一定数量且包含不同情感类别的微博短文本数据。[0106]文本数据清晰子模块:将获取的文本数据进行数据清洗:删除空文本等无效样本数据,并通过正则表达式剔除微博短文本中包含的表情、链接、图片等噪声数据,为保证样本的多样性,处理后的样本数量不少于10000条。[0107]微博样本的情感正负倾向性类别标注子模块:根据微博文本内容,对每个微博样本的情感正负倾向性进行类别标注,微博情感主要划分为积极、中性以及消极三种情感类别。举例说明具体的微博情感类别,例如:“今年中秋国庆凑一块了,连休八天,真好!终于不用上班可以出去玩了!”该微博包含了开心快乐的情感,应划分为积极情感一类。[0108]训练集和测试集划分子模块:将微博短文本数据按3:1划分为训练集和测试集,训练集用于训练分类模型,测试集用于验证分类模型的有效性。[0109]数据预处理模块:用于对微博文本数据进行预处理,包括文本清洗、中文分词以及去停用词等;具体包含:[0110]中文分词处理子模块:通过jieba分词工具分别对训练集和测试集进行中文分词处理,并标注词性。例如,对文本“知乎的内容质量很好”进行分词后,得到“(知乎,n)、(的,aux.v)、(内容,n)、(质量,n)、(很好,adv)”,其中n、 aux.v、adv分别表示名词、助动词和副词。[0111]停用词剔除子模块:根据预先建立的停用词表,剔除文本数据中出现的停用词,即一些无实际意义的字词(如“的”、“和”、“由于”等高频词)、标点以及特殊符号。[0112]特征选择模块:用于分别对训练集和测试集进行特征提取,包括:[0113]句法依存分析子模块:用于利用句法分析工具分别对训练集和测试集进行句法依存分析,获取依存句法树;具体包括:[0114]训练集数据以句子为单位,利用Stanford句法分析工具进行句法依存分析,得到文本的句法依存结构(即依存关系),以及依存句法树。[0115]依存句法通过词汇之间的依存关系表达整个句子结构,这些依存关系表达了句子各成分之间的语义依赖关系。所有词汇之间的依存关系构成一颗句法树,树的根节点为句子核心谓词,用来表达整个句子的核心内容。[0116]依存句法分析树标注集及其含义如下表1:13CN112632272A说 明 书9/10页[0117][0118][0119]表1依存句法分析树标注集及其含义[0120]特征提取子模块:根据依存句法树,采用基于句法路径的匹配算法进行情感特征提取,选择具有明显情感倾向性的词汇作为初始情感特征集合;[0121]句法路径是指在句法树上链接任意两个节点之间的句法结构。通过句法路径提取文本情感特征时,根据预先统计好的句法路径表进行匹配,获取文本的依存句法结构,再选择具有明显正负情感倾向性的词汇作为情感特征。[0122]特征词库构建子模块:结合外部情感特征词典,以及所述初始情感特征集合构建情感特征词库,用于扩展短文本的情感特征;[0123]结合外部情感特征词典,例如知网情感词典、大连理工大学情感词汇本体库等,利用初始特征集合构建情感特征词库,用于扩展微博短文本的情感特征。[0124]特征扩展模块:用于根据所述特征词库对文本进行特征扩展,使用IFTIDF 计算特征权值并向量化表示文本;具体包括:[0125]特征扩展子模块:根据所述预先构建的情感特征词库,分别对训练集和测试集的初始特征集合进行特征扩展。[0126]特征权值计算子模块:使用TFIDF对扩展后的训练集和测试集计算每个特征词的特征权值,TFIDF的具体计算公式为:14CN112632272A说 明 书10/10页[0127][0128]其中nij表示某一类别dj中字词wi出现的次数,而表示在该类dj中所有字词出现的次数之和,|D|表示语料库中的类目总数,|{j:wj∈dj}|表示包含字词wi的类目数。[0129]文本表示子模块:根据所述特征权值即ITIDF值,将训练集和测试集文本以向量化形式进行文本表示:文本d可以表示为若干个情感特征及其权值的集合 d=(w1,w2,…,wn),wi为情感特征词w的特征权值。[0130]情感分类模块:用于通过扩展后的训练集训练分类器,得到贝叶斯分类模型,再对扩展后的测试集进行分类操作得到微博情感分类结果。具体包括:[0131]朴素贝叶斯分类器训练子模块:通过扩展后的训练样本集训练朴素贝叶斯分类器,得到微博情感分类模型。[0132]测试样本分类子模块:根据所述分类模型对扩展后的测试样本进行分类操作,得到微博情感分类结果。[0133]本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举,本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式,本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。15CN112632272A说 明 书 附 图1/1页图1图216
本文档为【基于句法分析的微博情感分类方法和系统】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑, 图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
该文档来自用户分享,如有侵权行为请发邮件ishare@vip.sina.com联系网站客服,我们会及时删除。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。
本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。
网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
下载需要: ¥10.0 已有0 人下载
最新资料
资料动态
专题动态
机构认证用户
掌桥科研
掌桥科研向科研人提供中文文献、外文文献、中文专利、外文专利、政府科技报告、OA文献、外军国防科技文献等多种科研资源的推广、发现、揭示和辅助获取服务,以及自动文档翻译、人工翻译、文档格式转换、收录引证等科研服务,涵盖了理、工、医、农、社科、军事、法律、经济、哲学等诸多学科和行业的中外文献资源。
格式:pdf
大小:796KB
软件:PDF阅读器
页数:16
分类:
上传时间:2022-01-25
浏览量:1