基于情感向量空间模型的歌词情感分析_百度文库
两大类热门资源免费畅读
续费一年阅读会员，立省24元！
基于情感向量空间模型的歌词情感分析
上传于|0|0|暂无简介
阅读已结束，如果下载本文需要使用1下载券
想免费下载本文？
定制HR最喜欢的简历
下载文档到电脑，查找使用更方便
还剩2页未读，继续阅读
定制HR最喜欢的简历
你可能喜欢君，已阅读到文档的结尾了呢~~
情感分析,文本情感分析,情感分析算法,情感咨询,情感分析工具,第五类情感,情感分析师,情感问题,情感专家在线聊天,微博情感分析
扫扫二维码，随身浏览文档
手机或平板扫扫即可继续访问
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由：
将文档分享至：
分享完整地址
文档地址：
粘贴到BBS或博客
flash地址：
支持嵌入FLASH地址的网站使用
html代码：
&embed src='/DocinViewer--144.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布，请您等待！
3秒自动关闭窗口情感增强词向量构建方法及应用--《华东师范大学》2015年硕士论文
情感增强词向量构建方法及应用
【摘要】：随着网络媒体的迅速发展,网络上出现大量文本需要使用自然语言技术对其进行自动分析和处理。情感分析任务作为自然语言处理的一个重要组成部分,是让机器认知网络上语言的一个重要环节。近年来在情感分析任务中,有大量研究者使用基于统计的方法对情感分析任务进行研究。但随着情感分析任务研究的逐步深入,自然语言的非结构性、情感特征的复杂性及机器学习中的维度灾难,给情感分析任务设定了巨大挑战。词向量作为一种能够以较低的维度表现词语中深层次特征的数字表现形式,得到了自然语言处理领域国内外学者的热切关注,是该领域的研究热点。但自然语言处理中一般词向量的训练方法都针对词语的语义信息进行训练,而情感信息与语义信息之间的不同之处,使一般词向量无法直接用于情感分析任务中。针对情感分析任务提出的词向量训练方法还处于起步阶段,且仅有较少的方法用于训练含有情感信息的词向量。本文以词向量在情感分析中的应用为研究对象,通过分析词向量和情感增强概率语言模型的构建方法,将情感信息有效地融入语义信息,提出情感增强词向量模型(Emotion-enhanced wOrd Representation Model,简称为EeDOM)。其次,将模型中的情感增强词向量用于情感极性判别和情感词典构建,用以验证所提模型和算法的有效姓。本文的创新点可以归纳为：1)提出了情感增强词向量模型。首先,根据情感在文本之中的特点,提出适用于词向量训练的情感增强概率语言模型；其次,基于该概率语言模型,对词向量训练算法的输入特征、神经网络算法等多方面进行相应的改进,使其能够用于训练情感增强词向量。2)针对词向量的特点,本文提出了适用于词向量的支持向量机训练算法。该算法解决了句子中词语个数的不确定性与支持向量机需要确定维度之间的矛盾。该算法提出了基于n窗口的训练过程,是N-gram模型特征在SVM中的改进应用,能有效提高情感极性的判别效果。3)提出了基于情感增强词向量的文档情感词典构建算法。该算法基于DBSCAN聚类算法,使用情感增强词向量的余弦距离对文档中的词语进行情感距离上的分析。并以该情感距离构建基于文档的情感词典。本文基于真实数据集(“豆瓣”电影评论网站上的用户评论)做了对比实验。该数据集共包含643,242条评论组成,涉及2,737个电影。实验结果表明,本文所提出的情感增强词向量模型EeDOM能够显著提升情感极性判别任务的准确率：即EeDOM模型的情感增强词向量能够使情感极性判别的Micro-F1指标达到78.93,远远优于现有相关算法；其次,情感增强词向量在情感相似性方面也表现出良好的特性。基于该词向量相似性所构建的情感词典,在情感极性判别中获得有竞争力的效果。
【关键词】：
【学位授予单位】：华东师范大学【学位级别】：硕士【学位授予年份】：2015【分类号】：TP391.1【目录】：
摘要6-8ABSTRACT8-12插图和附表清单12-13第1章 绪论13-20 1.1 研究背景和意义13-14 1.2 国内外研究现状14-17
1.2.1 基于情感词典的方法14-15
1.2.2 基于统计分析的方法15-17
1.2.3 词向量17 1.3 本文的主要工作17-18 1.4 本文的组织结构18-19 1.5 本章小结19-20第2章 情感分析相关研究20-31 2.1 情感分析的机器学习算法20-21
2.1.1 朴素贝叶斯20-21
2.1.2 支持向量机21 2.2 特征的自动提取算法21-24
2.2.1 词袋模型22-23
2.2.2 N-gram模型23-24
2.2.3 TFIDF算法24 2.3 词向量24-27
2.3.1 一元词向量24-25
2.3.2 词向量25-26
2.3.3 词向量在情感分析中的应用26-27 2.4 基于语法结构的情感特征提取27-29
2.4.1 POS标注集27-28
2.4.2 否定词28-29 2.5 情感词典构建29-30 2.6 本章小结30-31第3章 情感增强词向量模型31-40 3.1 情感增强词向量模型框架31-32 3.2 情感增强概率语言模型32-35 3.3 情感增强神经网络算法35-39
3.3.1 神经网络输入参数36
3.3.2 神经网络输入层定义36-37
3.3.3 神经网络隐藏层及输出层定义37-39 3.4 本章小结39-40第4章 情感增强词向量的应用40-46 4.1 情感极性判别任务40-42
4.1.1 EeDOM-N算法40-42 4.2 情感词典的构建42-46
4.2.1 情感种子选定43-44
4.2.2 情感词语抽取算法44-46 4.3 本章小结46第5章 实验与分析46-55 5.1 数据集与评测指标46-49
5.1.1 数据集46-47
5.1.2 实验方案及评测指标47-49 5.2 EeDOM-N算法的准确率的实验结果分析49-51 5.3 情感词典构建实验分析51-55第6章 总结55-57 6.1 论文总结55 6.2 进一步展望55-57参考文献57-62后记62
欢迎：、、)
支持CAJ、PDF文件格式
【相似文献】
中国期刊全文数据库
杨洁;郑宁;徐海涛;刘董;徐明;;[J];计算机应用与软件;2008年12期
李庆;胡捍英;;[J];电路与系统学报;2013年02期
郑逢德;张鸿宾;;[J];北京工业大学学报;2013年07期
赵春晖;张燚;;[J];智能系统学报;2012年04期
邹刚;姚伟;孙即祥;陈森林;;[J];中国生物医学工程学报;2011年01期
张文生,丁辉,王珏;[J];软件学报;2001年05期
綦宏志;明东;万柏坤;任超世;刘志朋;殷涛;;[J];纳米技术与精密工程;2012年04期
胡运红;董玉林;;[J];山东科技大学学报(自然科学版);2010年01期
张军峰;隋东;;[J];系统工程学报;2011年05期
孟科;;[J];兰州理工大学学报;2013年01期
中国重要会议论文全文数据库
张晓艳;王挺;陈火旺;;[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年
中国博士学位论文全文数据库
梁锦锦;[D];西安电子科技大学;2009年
余艳芳;[D];华东理工大学;2010年
凌萍;[D];吉林大学;2010年
柳长源;[D];哈尔滨工程大学;2013年
曾志强;[D];浙江大学;2007年
曾绍华;[D];重庆大学;2006年
王振华;[D];北京交通大学;2009年
中国硕士学位论文全文数据库
卢键;[D];吉林大学;2009年
李东晖;[D];浙江大学;2006年
周蔷;[D];天津师范大学;2014年
肖羽;[D];重庆师范大学;2010年
杨东强;[D];华东师范大学;2015年
沈丽静;[D];华东师范大学;2014年
马开良;[D];兰州大学;2014年
朱增坤;[D];北京理工大学;2015年
刘扬;[D];合肥工业大学;2007年
张康平;[D];华南理工大学;2011年
&快捷付款方式
&订购知网充值卡
400-819-9993
《中国学术期刊（光盘版）》电子杂志社有限公司
同方知网数字出版技术股份有限公司
地址：北京清华大学 84-48信箱 大众知识服务
出版物经营许可证 新出发京批字第直0595号
订购热线：400-819-82499
服务热线：010--
在线咨询：
传真：010-
京公网安备75号情感分析的新方法
您当前位置： >>
>> 浏览文章
情感分析的新方法
所属栏目：
&&&发布时间： &&&文章来源：
情感分析是一种常见的自然语言处理（NLP）方法的应用，特别是在以提取文本的情感内容为目标的分类方法中。通过这种方式，情感分析可以被视为利用一些情感得分指标来量化定性数据的方法。尽管情绪在很大程度上是主观的，但是情感量化分析已经有很多有用的实践，比如企业分析消费者对产品的反馈信息，或者检测在线评论中的差评信息。最简单的情感分析方法是利用词语的正负属性来判定。句子中的每个单词都有一个得分，乐观的单词得分为 +1，悲观的单词则为 -1。然后我们对句子中所有单词得分进行加总求和得到一个最终的情感总分。很明显，这种方法有许多局限之处，最重要的一点在于它忽略了上下文的信息。例如，在这个简易模型中，因为“not”的得分为 -1，而“good”的得分为 +1，所以词组“not good”将被归类到中性词组中。尽管词组“not good”中包含单词“good”，但是人们仍倾向于将其归类到悲观词组中。另外一个常见的方法是将文本视为一个“词袋”。我们将每个文本看出一个1xN的向量，其中N表示文本词汇的数量。该向量中每一列都是一个单词，其对应的值为该单词出现的频数。例如，词组“bag of bag of words”可以被编码为 [2, 2, 1]。这些数据可以被应用到机器学习分类算法中（比如罗吉斯回归或者支持向量机），从而预测未知数据的情感状况。需要注意的是，这种有监督学习的方法要求利用已知情感状况的数据作为训练集。虽然这个方法改进了之前的模型，但是它仍然忽略了上下文的信息和数据集的规模情况。Word2Vec 和 Doc2Vec最近，谷歌开发了一个叫做 Word2Vec 的方法，该方法可以在捕捉语境信息的同时压缩数据规模。Word2Vec实际上是两种不同的方法：Continuous Bag of Words (CBOW) 和 Skip-gram。CBOW的目标是根据上下文来预测当前词语的概率。Skip-gram刚好相反：根据当前词语来预测上下文的概率（如图 1 所示）。这两种方法都利用人工神经网络作为它们的分类算法。起初，每个单词都是一个随机 N 维向量。经过训练之后，该算法利用 CBOW 或者 Skip-gram 的方法获得了每个单词的最优向量。现在这些词向量已经捕捉到上下文的信息。我们可以利用基本代数公式来发现单词之间的关系（比如，“国王”-“男人”+“女人”=“王后”）。这些词向量可以代替词袋用来预测未知数据的情感状况。该模型的优点在于不仅考虑了语境信息还压缩了数据规模（通常情况下，词汇量规模大约在300个单词左右而不是之前模型的100000个单词）。因为神经网络可以替我们提取出这些特征的信息，所以我们仅需要做很少的手动工作。但是由于文本的长度各异，我们可能需要利用所有词向量的平均值作为分类算法的输入值，从而对整个文本文档进行分类处理。然而，即使上述模型对词向量进行平均处理，我们仍然忽略了单词之间的排列顺序对情感分析的影响。作为一个处理可变长度文本的总结性方法，Quoc Le 和 Tomas Mikolov 提出了 Doc2Vec方法。除了增加一个段落向量以外，这个方法几乎等同于 Word2Vec。和 Word2Vec 一样，该模型也存在两种方法：Distributed Memory(DM) 和 Distributed Bag of Words(DBOW)。DM 试图在给定上下文和段落向量的情况下预测单词的概率。在一个句子或者文档的训练过程中，段落 ID 保持不变，共享着同一个段落向量。DBOW 则在仅给定段落向量的情况下预测段落中一组随机单词的概率。（如图 2 所示）一旦开始被训练，这些段落向量可以被纳入情感分类器中而不必对单词进行加总处理。这个方法是当前最先进的方法，当它被用于对 IMDB 电影评论数据进行情感分类时，该模型的错分率仅为 7.42%。当然如果我们无法真正实施的话，一切都是浮云。幸运的是，genism（Python 软件库）中 Word2Vec 和 Doc2Vec 的优化版本是可用的。利用 Python 实现的 Word2Vec 实例在本节中，我们展示了人们如何在情感分类项目中使用词向量。我们可以在 Anaconda 分发版中找到 genism 库，或者可以通过 pip 安装 genism 库。从这里开始，你可以训练自己语料库（一个文本数据集）的词向量或者从文本格式或二进制格式文件中导入已经训练好的词向量。我发现利用谷歌预训练好的词向量数据来构建模型是非常有用的，该词向量是基于谷歌新闻数据（大约一千亿个单词）训练所得。需要注意的是，这个文件解压后的大小是 3.5 GB。利用谷歌的词向量我们可以看到单词之间一些有趣的关系：有趣的是，我们可以从中发现语法关系，比如识别出最高级或单词形态的单词：“biggest”-“big”+“small”=“smallest”“ate”-“eat”+“speak”=“spoke”从上述的例子中我们可以看出 Word2Vec 可以识别单词之间重要的关系。这使得它在许多 NLP 项目和我们的情感分析案例中非常有用。在我们将它运用到情感分析案例之前，让我们先来测试下 Word2Vec 对单词的分类能力。我们将利用三个分类的样本集：食物、运动和天气单词集合，我们可以从Enchanted Learning网中下载得到这三个数据集。由于这是一个 300 维的向量，为了在 2D 视图中对其进行可视化，我们需要利用 Scikit-Learn 中的降维算法 t-SNE 处理源数据。首先，我们必须获得如下所示的词向量：然后我们利用 TSNE 和 matplotlib 对分类结果进行可视化处理：可视化结果如下图所示：从上图可以看出，Word2Vec 很好地分离了不相关的单词，并对它们进行聚类处理。Emoji 推文的情感分析现在我们将分析带有 Emoji 表情推文的情感状况。我们利用 emoji 表情对我们的数据添加模糊的标签。笑脸表情（:-））表示乐观情绪，皱眉标签（:-表示悲观情绪。总的 400000 条推文被分为乐观和悲观两组数据。我们随机从这两组数据中抽取样本，构建比例为 8：2 的训练集和测试集。随后，我们对训练集数据构建 Word2Vec 模型，其中分类器的输入值为推文中所有词向量的加权平均值。我们可以利用 Scikit-Learn 构建许多机器学习模型。首先，我们导入数据并构建 Word2Vec 模型：接下来，为了利用下面的函数获得推文中所有词向量的平均值，我们必须构建作为输入文本的词向量。调整数据集的量纲是数据标准化处理的一部分，我们通常将数据集转化成服从均值为零的高斯分布，这说明数值大于均值表示乐观，反之则表示悲观。为了使模型更有效，许多机器学习模型需要预先处理数据集的量纲，特别是文本分类器这类具有许多变量的模型。最后我们需要建立测试集向量并对其标准化处理：接下来我们想要通过计算测试集的预测精度和 ROC 曲线来验证分类器的有效性。 ROC 曲线衡量当模型参数调整的时候，其真阳性率和假阳性率的变化情况。在我们的案例中，我们调整的是分类器模型截断阈值的概率。一般来说，ROC 曲线下的面积（AUC）越大，该模型的表现越好。你可以在这里找到更多关于 ROC 曲线的资料（https://en.wikipedia.org/wiki/Receiver_operating_characteristic）在这个案例中我们使用罗吉斯回归的随机梯度下降法作为分类器算法。随后我们利用 matplotlib 和 metric 库来构建 ROC 曲线。ROC 曲线如下图所示：在没有创建任何类型的特性和最小文本预处理的情况下，我们利用 Scikit-Learn 构建的简单线性模型的预测精度为 73%。有趣的是，删除标点符号会影响预测精度，这说明 Word2Vec 模型可以提取出文档中符号所包含的信息。处理单独的单词，训练更长时间，做更多的数据预处理工作，和调整模型的参数都可以提高预测精度。我发现使用人工神经网络（ANNs）模型可以提高 5% 的预测精度。需要注意的是，Scikit-Learn 没有提供 ANN 分类器的实现工具，所以我利用了自己创建的自定义库：分类结果的精度为 77%。对于任何机器学习项目来说，选择正确的模型通常是一种艺术而非科学的行为。如果你想要使用我自定义的库，你可以在我的 github 主页上找到它，但是这个库非常混乱而且没有定期维护！如果你想要贡献自己的力量，请随时复刻我的项目。利用 Doc2Vec 分析电影评论数据利用词向量均值对推文进行分析效果不错，这是因为推文通常只有十几个单词，所以即使经过平均化处理仍能保持相关的特性。一旦我们开始分析段落数据时，如果忽略上下文和单词顺序的信息，那么我们将会丢掉许多重要的信息。在这种情况下，最好是使用 Doc2Vec 来创建输入信息。作为一个示例，我们将使用 IMDB 电影评论数据及来测试 Doc2Vec 在情感分析中的有效性。该数据集包含 25000 条乐观的电影评论，25000 条悲观评论和 50000 条尚未添加标签的评论。我们首先对未添加标签的评论数据构建 Doc2Vec 模型：这个代码创建了 LabeledSentence 类型的对象：接下来，我们举例说明 Doc2Vec 的两个模型，DM 和 DBOW。gensim 的说明文档建议多次训练数据集并调整学习速率或在每次训练中打乱输入信息的顺序。我们从Doc2Vec 模型中获得电影评论向量。现在我们准备利用评论向量构建分类器模型。我们将再次使用 sklearn 中的 SGDClassifier。这个模型的预测精度为 86%，我们还可以利用下面的代码绘制 ROC 曲线：原论文中声称：与简单罗吉斯回归模型相比，他们利用 50 个节点的神经网络分类器能获得较高的预测精度。有趣的是，在这里我们并没有看到这样的改进效果。该模型的预测精度为 85%，我们没有看到他们所声称的 7.42% 误差率。这可能存在以下几个原因：我们没有对训练集和测试集进行足够多的训练，他们的 Doc2Vec 和 ANN 的实现方法不一样等原因。因为论文中没有详细的说明，所以我们很难知道到底是哪个原因。不管这么说，没有经过很多的数据预处理和变量选择过程，我们仍然取得了 86% 的预测精度。而且这不需要复杂的卷积和树图资料库。结论我希望你已经看到 Word2Vec 和 Doc2Vec 的实用性和便捷性。通过一个非常简单的算法，我们可以获得丰富的词向量和段落向量，这些向量数据可以被应用到各种各样的 NLP 应用中。更关键的是谷歌公司开放了他们自己的预训练词向量结果，这个词向量是基于一个别人难以获取的大数据集而训练得到的。如果你想要在大数据集中训练自己的向量结果，现在已经有一个基于 Apache Spark 的 Word2Vec 实现工具。（https://spark.apache.org/mllib/）
以上就是情感分析的新方法的全部内容。更多，请关注频道!(/xingzuo/aqpd/9673.html)An error occurred.
Sorry, the page you are looking for is currently unavailable.
Please try again later.
If you are the system administrator of this resource then you should check
for details.
Faithfully yours, tengine.