以微博为代表的新兴社交媒体，以其独特的开放性、实时性、互动性和低门槛性为人们进行意见表达和信息交流提供了媒介，以极快的速度影响着社会的信息传播格局^[1]。对微博文本进行情感分析有助于了解公众的情感状态，及时获取公众的观点、态度，对于舆情控制、产品营销、民意调查等具有重要的意义。

现有的情感分析技术主要分为3种：基于情感知识的方法、基于特征分类的方法、基于深度学习的方法。基于情感知识的方法主要是构建一些情感词典，通过情感词典对文本中的情感词进行一定的组合计算，实现对文本情感的分析^[2-3]。人们在进行情感表达时，往往采用某些特殊的情感符号实现情感的呈现，常用的情感符号主要为带有情感色彩的情感词，有时为了对情感进行更加深入的表达，人们会将情感词与程度副词或是否定词配合使用，起到情感加强或情感减弱的效果。微博中的情感表现形式除了基本的情感词外，还包含微博自身的表情符号和一些流行的网络用语。本文将情感词、程度副词、否定词、微博表情符号、网络用语统称为情感符号，将其作为评价微博文本情感倾向的一个重要组成部分。

基于特征分类的方法主要是采用文本分析技术提取文本中蕴含的相关语言特征，采用机器学习的方法将情感分析看作分类问题进行处理^[4-5]，但是该方法对于情感特征提取方法的依赖性较大，提取情感特征的准确与否将直接影响最终的分类结果。

基于深度学习的方法主要是采用词向量表示技术对文本中的词语进行表示，进而构建句子和篇章的语义表示。在句子和篇章的语义表示的基础上，采用深度学习模型对文本中蕴含的情感进行学习，从而实现对文本情感的分析，常用于情感分析的深度学习模型包括：卷积神经网络(convolutional neural network，CNN)^[6]、循环神经网络(recurrent neural network，RNN)^[7]、长短记忆网络(long short-term memory，LSTM)^[8]等。

现有的情感分析方法大多是基于深度学习的方法，将文本看作一个整体进行编码，对于情感符号的作用体现不够，而传统的基于情感词典的方法则过分依赖于情感词典的作用，并没有考虑文本整体的语义关系。为了解决以上问题，本文将在机器翻译任务中表现出优秀性能的注意力模型^[9-10]引入到情感分析任务中，利用注意力模型对微博文本和情感符号进行双重编码，提出了一种基于双重注意力模型(double attention model，DAM)的微博情感分析方法：

1) 通过利用现有的情感语义资源，对中文微博中经常使用的情感符号进行分类和统计，构建了一个微博情感符号库。

2) 提出了一种基于双重注意力模型的微博情感分类方法，将注意力模型引入微博文本的情感分析之中，通过设计相关实验验证了双重注意力模型在情感二分类和情感多分类任务中的有效性。

3) 通过设计相关实验，验证了在深度学习模型中引入注意力机制和情感符号，对情感分析性能的提升作用。实验表明，本文模型的性能超越了一般的深度学习模型。

1 相关工作 1.1 注意力模型

最早将注意力模型引入自然语言处理领域的是Bahdanau等^[9]，他们认为传统的Encoder-Decoder模型中Encoder生成的固定长度的中间语义向量是提升神经机器翻译模型性能的瓶颈。为此，Bahdanau等提出了一种计算前一时刻输出状态与每一时刻输入状态对齐概率的对齐模型，将其应用到英语与法语的翻译系统中，取得了不错的效果，该对齐模型是现在大多数注意力模型的基础。随后，基于注意力机制的Encoder-Decoder模型在自然语言处理的很多领域得到了应用，如机器人的短文本对话、文本摘要生成、文本分类、句法分析等。

随着注意力模型在自然语言处理领域的广泛应用，各种改进模型也应运而生，如Luong等^[10]针对注意力的全局对齐的模式，提出了一种局部注意力模型，首先确定对齐的大致位置，然后向左向右各拓展一定的窗口长度，在指定的窗口范围内计算每个单词的对齐概率；Hermann等^[11]根据人们在做阅读理解题目时，往往是阅读完整个问题后再去文档中寻找答案而不是每读完一个单词就去文档中寻找答案的实际情况，将逐个对齐的方式修改为将整个问题与文档中的单词进行对齐的模式；Raffel等^[12]为了解决长距离的语义依赖问题，将注意力模型中的对齐模型进行改进，通过对当前输入的自适应加权，将原来前一时刻输出的隐含状态与当前时刻输入的隐含状态进行对齐的模式，修改为仅依赖当前时刻输入的隐含状态的对齐模式。

1.2 微博文本情感分析

自从微博出现以来，国内外对于微博文本的情感分析研究就从未间断过。多数的研究工作仍然是承袭了传统的基于情感知识的方法、基于特征分类的方法和基于深度学习的相关模型。例如：栗雨晴等^[13]在大规模微博文本的基础上，利用相似度计算的方法对现有的情感词汇知识库进行扩展，构建了一个双语情感词典，采用半监督Gauss混合模型和对称相对熵的K近邻算法实现对微博文本的情感分类计算；Barbosa等^[14]在普通文本特征的基础上，提取了微博文本特有的一些特征，包括转发、回复、hashtag、URL、标点符号、表情符号以及以大写字母开头的单词数目等，采用有监督的方法实现Twitter文本的情感分类。由于微博文本中的表情符号具有较强的情感表现力，越来越多的研究将其引入到情感分析中，如Jiang等^[15]利用表情符号的词向量构建了表情符号向量空间模型(emoticon space model，ESM)，并将微博文本中所有的词映射到向量空间中，采用支持向量机(support vector machine，SVM)模型实现对微博文本的情感分类；何炎祥等^[16]为常见的表情符号构建情感空间的特征表示矩阵，通过对文本词向量矩阵与表情符号的特征表示矩阵进行乘积运算，实现词义到情感空间的映射，从而构建微博文本的情感表示矩阵，然后采用多通道的卷积神经网络对微博文本情感表示矩阵进行建模，实现对微博文本的情感分类。

文[15-16]虽然考虑了微博文本中表情符号对于情感表现的重要性，但是都是采用全局的表情符号集实现对微博文本的情感加强，并未考虑微博文本自身情感符号的意义以及文本自身的语义特征，同时也未考虑微博文本中常见的情感词以及常用的网络用语对于情感的表现能力。受文[15-16]的启发，本文将考察常见的情感符号，包括情感词、程度副词、否定词、微博表情符号、网络用语，对情感表现的作用，采用注意力模型对微博文本和文本中包含的情感符号分别进行建模，构建了一种基于双重注意力模型的微博文本情感分析方法，并采用自然语言处理与中文计算会议(NLPCC) 2013年和2014年的微博情感测评数据集构建了多个微博文本情感分类任务，对本文提出的模型进行验证。

2 双重注意力模型 2.1 情感符号库的构建

本文通过对现有情感知识库的整理，构建了微博情感符号库，如表 1所示。

表 1中，情感词主要基于大连理工大学的《情感本体库》和董振东构建的《HowNet》中的情感词典进行构建；表情符号采用新浪应用程序接口(API)从新浪微博开放平台上获得；程度副词以《HowNet》中的程度副词列表为基础进行构建；否定词和网络用语以Song等^[17]构建的否定词表(negation words)和网络用语词表(NetLex)为基础进行构建。

2.2 情感符号的提取

通过构建的情感符号库，提取微博文本中包含的情感符号，为每一条微博文本构建情感符号集合。对于情感符号的提取，本文制定了如下提取规则:

规则1  若当前词语为情感词、表情符号和网络用语，直接将当前词语加入到情感符号集合中。

规则2  若当前词语为程度副词，且当前词语的下一个词语为情感词，则将当前程度副词和情感词作为一个整体加入到情感符号集合中，若情感词存在于情感符号集合中，则将其删除。

规则3  若当前词语为否定词，且当前词语的下一个词语为情感词，则将当前否定词和情感词作为一个整体加入到情感符号集合中，若情感词存在于情感符号集合中，则将其删除；或者当前词语的下一个词语为程度副词，并且程度副词的下一个词语为情感词，则将当前否定词和程度副词以及情感词作为一个整体加入到情感符号集合中，若程度副词与情感词的整体存在于情感符号集合中，则将其删除。

2.3 双重注意力模型

本文在双向长短记忆(bidirectional long short-term memory，BLSTM)网络深度学习模型中引入注意力机制和情感符号，构建了双重注意力模型，模型的整体架构如图 1所示。

2.3.1 词向量表示层

词向量表示层为整个模型的输入，主要包括两部分：每一条微博文本词语的词向量矩阵R_T和情感符号集合的词向量矩阵R_E。词语及情感符号词向量的获取可以看作是一个查词典的过程。词典${{\mathbb{R}}^{d\times N}}$通过大规模语料采用词向量训练模型学习得到。其中：d表示词向量的维数，N表示词典中词语的个数。对于一个文本序列T ={w₁, w₂, …, w_n}，将文本中词语的词向量拼接起来，就可以得到整个文本序列的词向量表示，拼接方式如式(1)所示：

$ {{\mathit{\boldsymbol{R}}}_{\rm{T}}}={{\mathit{\boldsymbol{v}}}_{1}}\oplus {{\mathit{\boldsymbol{v}}}_{2}}\oplus \cdots \oplus {{\mathit{\boldsymbol{v}}}_{n}}. $

(1)

其中：${{\mathit{\boldsymbol{v}}}_{i}}\in {{\mathbb{R}}^{d\times N}}$表示w_i对应于词典中的元素，⊕表示行向量拼接操作。对情感符号集合中词语的词向量同样采用式(1)的方式进行拼接，R_T和R_E的维数即为微博文本中词语的数目和情感符号的数目。

2.3.2 语义获取层

对于微博文本，除了需要考虑词语之间的语义依赖关系，还要体现出哪些词语对于情感的表现更加重要，对于情感表现重要的词语需要赋予更高的权重。因此，本文采用BLSTM和注意力模型对微博文本的语义信息进行编码。对于情感符号集合，为了找出其中最重要的情感信号，采用全连接网络与注意力模型相结合的方式对情感符号进行编码。

由于LSTM^[18]具有较强的长距离语义捕获能力，因此在文本处理中被广泛使用。但是，普通的LSTM模型仅能捕获文本中的正向语义信息，缺乏对逆向语义信息的捕获，因此本文在对文本的语义信息进行编码时采用BLSTM模型^[19]。BLSTM模型是正向的LSTM模型和逆向的LSTM模型的结合，能够同时捕获正向的语义信息和逆向的语义信息。LSTM通过一个记忆单元c、3个门结构(输入门x、遗忘门f和输出门o)来控制当前网络中信息的流量。具体来说，当前时刻记忆单元的信息含量c_t和输出的信息量o_t是由当前时刻的输入x_t、当前时刻遗忘门的状态f_t、前一时刻记忆单元的信息含量c_t-1以及前一时刻的输出o_t-1共同决定的。在BLSTM中，各个结构之间的关系可以简单地表示为：

$ {{{\vec{c}}}_{t}}, {{{\vec{o}}}_{t}}=G({{{\vec{c}}}_{t-1}}, {{{\vec{o}}}_{t-1}}, {{{\vec{f}}}_{t}}, {{\mathit{x}}_{\mathit{t}}}), $

(2)

$ {{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{c}}_{t}},{{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{o}}_{t}}=G({{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{c}}_{t-1}},{{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{o}}_{t-1}},{{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{f}}_{t}},{{x}_{t}}), $

(3)

其中G表示LSTM模型中各个结构之间的关系。在BLSTM中，某一时刻t的输出状态由当前时刻的正向LSTM和逆向LSTM的输出相连接组成，可以表示为${{o}_{t}}=\left[{{{\vec{o}}}_{t}}, {{{\overset{\lower0.5em\hbox{$\smash{\scriptscriptstyle\leftarrow}$}}{o}}}_{t}} \right]$。正向的语义信息和逆向的语义信息以相同的地位被考虑。

由于每条微博文本中的每个情感符号之间只是具有情感加强和减弱的功能，如相同极性的情感符号同时出现或是出现增强性的程度副词，情感将会得到加强，相反极性的情感符号同时出现或是出现减弱性的程度副词或者否定词，情感将会得到减弱甚至反转，情感符号相互之间并不存在较强的语义依赖关系，因此采用全连接网络对情感符号集合进行非线性变换，进行最初的语义编码。

为了捕获更直接的语义依赖关系，本文将微博文本BLSTM模型的输出和情感符号集合全连接的输出分别输入到注意力模型中，采用双重注意力模型分别对微博文本和情感符号进行编码。注意力模型通过对每一个输入状态h_t进行加权，从而实现为输入文本构造一个上下文相关的文本表示向量v，

$ \mathit{\boldsymbol{v}}=\sum\limits_{t=1}^{T}{{{\alpha }_{t}}{{\mathit{\boldsymbol{h}}}_{t}}}. $

(4)

其中：T为输入状态的数目，α_t为输入状态h_t的权重。与标准的注意力模型^[9]不同的是，本文注意力模型中的α_t与每一时刻的输入状态和一个随机初始化的上下文向量A有关，A可以看作是对输入的一种语义表示。α_t通过式(5)和(6)计算得到：

$ {{\alpha }_{t}}=~\frac{\rm{exp}\left( \mathit{\boldsymbol{e}}_{\mathit{t}}^{\rm{T}}\mathit{\boldsymbol{A}} \right)}{\sum\limits_{k=1}^{T}{\rm{exp}\left( \mathit{\boldsymbol{e}}_{\mathit{k}}^{\rm{T}}\mathit{\boldsymbol{A}} \right)}}, $

(5)

$ {{\mathit{\boldsymbol{e}}}_{t}}=\rm{Tanh}(\mathit{\boldsymbol{W}}{{\mathit{\boldsymbol{h}}}_\mathit{t}}+\mathit{\boldsymbol{b}}). $

(6)

式(5)和(6)中：W为模型中的权重，b为模型中的偏置。两者和A一起作为模型训练过程中的参数，通过不断训练学习得到。通过以上注意力模型，可以为输入构造一个定长的上下文相关的文本表示向量，向量中的信息包含各个输入状态的重要程度。

2.3.3 语义合成层

语义合成层的主要任务是将S_T和S_E进行合并，构建微博文本整体的语义表示向量。在本文中，为了简化模型的计算量，仅对S_T和S_E采用按行连接的方式进行语义合并，构建一个(r_T+r_E)×c的矩阵S，对微博文本进行语义表示。其中：r_T和r_E表示S_T和S_E的行数，c表示S_T和S_E的列数。

2.3.4 情感计算层

情感计算层的主要任务是构建情感分类器，获取微博文本的语义表示S对于每一个情感标签的得分向量，并输出微博文本的最终情感标签。本文采用Softmax分类器构建每一个情感标签的得分向量，并将其转化为条件概率分布，

$ {{P}_{i}}\left( x \right)=\frac{{\rm{exp}}\left( {{x}_{i}} \right)}{\sum\limits_{j=1}^{C}{{\rm{exp}}\left( {{x}_{j}} \right)}}, \ \ \ i=1, 2, \cdots, C. $

(7)

其中C表示情感标签的数目。为了更好地训练模型，本文采用交叉熵损失函数来衡量情感标签的真实概率分布P_i^t(d)和预测的概率分布P_i^p(d)之间的差距,

$ {\rm{loss}}=-\sum\limits_{d\in T}{\sum\limits_{i=1}^{C}{P_{i}^{{\rm{t}}}\left( d \right)}}{\rm{lo}{{\rm{g}}}_{2}}\left( P_{i}^{{\rm{p}}}\left( d \right) \right). $

(8)

其中：T为训练数据集，d为T中的一篇微博文本。本文利用式(8)的交叉熵损失函数，采用反向传播机制对模型中的参数进行训练和更新。

3 实验与分析 3.1 数据集

本文的实验数据采用NLPCC的2013年和2014年中文微博情感评测任务的公共数据集NLPCC2013和NLPCC2014，其微博文本来源于新浪微博平台，每个数据集分为训练集和测试集两部分，每一条微博文本标注为一个主要的情感标签和多个次要的情感标签。情感标签总共分为8种，采用文[20]的分类标准，并将无情感的微博文本标注为情感标签none。以各个类别作为主要情感标签的微博文本的数目如表 2所示。

表 2中，NLPCC2014的训练数据中的happiness情感类别和sadness情感类别中各有一条微博内容为空，本文选择将其删除。为了进一步验证本文提出的DAM模型的性能，还设计了微博文本主客观分类任务和微博文本情感正负极性分类任务。在主客观分类任务中，将情感标签none作为客观标签，其他7类情感标签作为主观标签；在正负极性分类任务中，将happiness、like作为正向标签，将anger、sadness、fear、disgust、surprise作为负向标签，具体数据集大小如表 3所示。

为了构建词语和表情符号的词向量，本文采用开源的爬虫框架WebCollecter实现了一个微博爬虫程序，并采用NLPIR工具对爬取的微博文本进行分词，在分词的过程中，将构建的微博情感符号库中的情感符号作为分词词典，使其在分词后作为一个基本的语言单元存在。此外，本文还进行了一系列的微博文本预处理，如繁简转换、url替换、短小无意义微博的剔除等。最终，构建了一个Word2Vec词向量训练语料，包含微博40 292 997条，词语1 342 646 318个。训练的过程中采用Skip-gram模型，其他相关参数均采用默认设置。经过训练，得到了一个包含850 599个词的词向量空间，其中每个词的词向量维数为200。

3.2 实验参数设置

本文采用Hyperopt库进行分布式参数调节，获取模型的最优参数集合，模型参数调节列表如表 4所示。

3.3 实验对比模型

MNB模型 (multinomial naïve Bayes，MNB)^[21]：作为传统机器学习的代表，MNB在大量多分类的情感分类任务中都取得了优秀的效果。

MCNN模型 (multichannel convolutional neural network，MCNN)^[6]：该模型采用多通道的卷积神经网络对微博文本的词向量表示进行特征学习，从而构建文本的语义表示，实现文本的情感分类，这是较早采用深度学习模型进行情感分析的模型之一。

ESM模型^[15]：该模型通过计算微博文本中词语的词向量与微博表情符号词向量的余弦函数值，实现词语到情感空间的映射，采用SVM模型进行情感分类。该模型分两种：1)对映射后的词语直接求和，2)对映射后的词语采用求最大、最小和求和策略。本文选择效果较好的上述第2种方法作为对照模型。

EMCNN模型 (emotion-semantic-enhanced multichannel convolutional neural network，EMCNN)^[16]：该模型为常见微博表情符号构建语义特征表示矩阵，通过矩阵乘积运算，使用表情符号的语义特征表示矩阵对微博文本进行语义增强，采用多通道的卷积神经网络进行特征学习，实现情感分类。

BLSTM模型：该模型不引入注意力模型和情感符号，直接采用BLSTM模型对微博文本建模，并进行情感分析，为本文模型的基准模型。

SAM模型 (single attention model，SAM)：只考虑对微博文本采用注意力模型进行相应编码的一个对照模型，用于与本文提出DAM模型进行对比，以体现出引入微博情感符号的DAM模型的优越性。

3.4 实验结果分析 3.4.1 NLPCC微博情感测评任务

按照NLPCC的中文微博情感评测任务的相关要求和评价指标，本文分别对NLPCC2013和NLPCC2014数据集进行了实验分析，结果如表 5和6所示。

从表 5和6可以看出，DAM模型在所有的指标上都取得了最好的结果，相较于目前已知的最好模型EMCNN，在2013年数据集上，微平均F₁和宏平均F₁分别提升了1.26%和1.39%，在2014年数据集上，微平均F₁和宏平均F₁分别提升了2.21%和2.02%，体现了个性化的情感符号的分类效果要好于全局化的情感符号，这与文[16]的结论是相一致的。同时，本文的DAM模型在2014年数据集上的性能提升要好于2013年的，这是由于2014年的训练集要比2013年的更大，模型得到了更加充分的训练。

SAM模型在2013年数据集上的微平均F₁相对较低，排到了第4位，但是宏平均F₁指标却仅次于DAM模型，排在第2位；在2014年数据集上，微平均F₁排第2位，宏平均F₁排第3位。整体来说，SAM模型的性能在MCNN模型之上，说明本文基于注意力机制对微博文本的情感分类是有效的。DAM模型的性能明显高于SAM模型，说明本文的情感符号对于微博文本的情感分类具有很大的帮助。EMCNN模型的性能稍好于SAM，也验证了这一点。

3.4.2 情感二分类任务

在NLPCC情感测评任务的基础上，本文对表 3所示的数据集，采用十折交叉验证的方法，设计了情感正负极性分类任务和主客观分类任务的实验，实验的结果采用准确率作为指标进行评价。具体的实验结果如图 2和3所示。

在情感正负极性分类任务中，图 2表明本文的DAM模型的准确率相较于EMCNN模型有稍微的提高，但是SAM模型的性能要差于EMCNN模型，这说明情感标签特别是微博中的表情符号对于情感正负极性分类任务具有较大贡献。

图 3表明在主客观分类任务中本文的DAM模型仍然取得了最好的准确率，并且SAM模型优于EMCNN模型取得了次佳的准确率，这说明注意力模型的引入对于主客观分类任务具有很大的帮助。虽然2013年的训练数据量要少于2014年(见表 3)，但是所有模型2013年的性能要好于2014年的，说明2014年数据集在主客观分类任务上要更加困难，这与文[15-16]的结论基本一致。

3.4.3 情感符号性能分析

为了验证各种情感符号对于微博文本情感分析的影响，本文在SAM模型的基础上，分别在NLPCC2014数据集的测评任务和情感正负极性分类任务中添加各种情感符号及其组合，设置了6组对照实验，分别是S+S(SAM+情感词)、S+E(SAM+表情符号)、S+N(SAM+网络用语)、S+EN(SAM+表情符号+网络用语)、S+SEN(SAM+情感词+表情符号+网络用语)和S+SNA (SAM+情感词+否定词+程度副词)。由于否定词和程度副词只有作用于情感词时，才会表现出其作用，且两者在数据集中较少，因此未单独与SAM模型进行组合，仅设置了与情感词搭配的对照组。6组对照实验与SAM和DAM的对比结果如图 4和5所示。

从图 4和5中可以看出，在SAM模型的基础上，单独添加情感词、表情符号以及网络用语时，模型的性能都有提升，但是在测评任务中单独添加表情符号和网络用语时性能的提升不如情感正负分类任务中明显，在情感正负分类任务中单独添加表情符号性能的提升甚至要高于单独添加情感词，将表情符号和网络用语同时添加时，情感正负分类任务的性能提升也要好于测评任务。这说明了微博符号和网络用语对于正负情感的表现能力较多种复杂情感的表现能力要强一些。同时，否定词和程度副词对于性能的提升作用不是很明显，这主要与数据集中否定词与程度副词出现较少有关。

3.4.4 微博文本语义表示的可视化分析

为了更清楚地展现本文模型对于微博文本的表现力，本文采用主成分分析(PCA)降维技术对DAM模型中微博文本的语义表示进行降维处理，并将降维后的结果进行可视化。具体来说，本文对NLPCC2014数据集的测评任务、情感正负分类任务中的微博文本语义表示向量采用PCA技术从103 401维降低为2维，在平面直角坐标中进行可视化展示，可视化后的结果如图 6和7所示。

从图 6和7中可以看出，本文的DAM模型能够较好地将相同情感的语义表示聚集在一起，同时也能较好地区分不同情感的语义表示。在测评任务中，情感标签不同但是情感极性相近的标签，在图 6中具有较近的距离，而极性相反的标签具有较远的距离。在情感正负极性分类任务中，各个类别的聚类效果相较于测评任务中各类别的聚类效果更好。这是由于在情感正负极性分类任务中，训练数据比较充足，模型训练得比较充分，这与测评任务中训练数据比较充分的大类情感标签聚类效果较好而训练数据比较少的小类情感标签聚类效果较差是相吻合的。同时，情感正负极性分类任务中的情感类别相对较少，这也使得数据聚集得比较充分。

4 总结

本文提出了一种基于双重注意力模型的微博情感分析方法，利用现有的情感分析资源构建了一个包含情感词、程度副词、否定词、微博表情符号和常用网络用语的微博情感符号库，引入注意力模型对微博文本和文本中包含的情感符号分别进行编码，构建微博文本的语义表示。本文方法通过将情感符号和注意力模型相结合，有效地增强了模型对于文本情感语义的捕获能力，进而提升了对微博文本的情感分析性能。在NLPCC微博情感测评数据集上，本文提出的模型在多个任务上都表现出优越的性能，并在多个指标上超过了已知的最好模型。

由于数据的限制，本文的情感符号库中收集的情感符号还不够全面。同时，对于各种情感符号语义的捕捉能力的度量方法还有待研究。因此，下一步的工作是进一步扩展情感符号库，并探究各种情感符号对于语义表示的影响。