通过图卷积网络从单词语义学习到句子句法，用于基于方面的情感分析

Learning from word semantics to sentence syntax by graph convolutional networks for aspect-based sentiment analysis

1.Introduction

据我们所知，NLP 的基本动机是训练计算机处理明显属于人类的文本 。也就是说，在当前方法中整合语义信息和句法结构的问题远未解决。符合人类的认知原则，我们学习一门语言是从单词开始的，因为单词是将现实世界映射到“语义空间”的基础。在此过程中，我们将因此合并语义信息以增强单词的含义。此外，语法在使用单词 构建句子中起着关键作用。相应地，语义和句法在语言学习中缺一不可，而语义信息是句法学习的基础。

2.Contribution

• 基于语言学习理论，提出了双通道语义学习。一般的语义知识是通过余弦相似度图来学习的，而结构性语义知识则是通过从数据集中获得词的共现度来建立的。此外，为这两种类型的信息强化和补充设计了一个交互单元。
• 根据从单词到句子的理解实践，构建了一个基于GCN的模型用于句子处理。语义学习模块和句法聚合模块被设计出来，分别用于增强词的意义和解释句子，它们以级联的方式进行。最后，注意机制被用来捕捉与方面有关的背景。

3.Model

3.1 Work flow

图2说明了拟议方法的主要阶段。首先，通过文本编码得出三个基于先验知识的独特图形，从而被发送到双通道GCN，将一般语义和结构语义纳入文本。此外，经过语义信息强化的文本数据被送入句法学习模块进行句法依赖分析。随着语义和句法的整合，与特定方面相关的情感词可以被精确捕捉，在此基础上进行情感分类。
GCN最初是为处理包含丰富关系信息的图数据而提出的。在我们的模型中，GCN被认为是一个融合知识的网络组件，包括一个称为语义GCN的组件用于语义强化，另一个称为句法GCN的组件用于句法学习。此外，为了充分融合句法和语义信息，因此设计了双通道语义GCN和句法GCN。值得注意的是，基于GCN的模块从词的语义学习到句子的句法学习都进行了。

3.2 model architecture

模型由四个主要部分组成，分别是句子编码器、双通道语义学习模块、句法学习模块和情感分类器。

3.3 Semantic graphs and syntactic graph

3.3.1 General semantic graph

一般语义是指自然语言中的语义共性。通过对语料库的大量训练，可以生成词嵌入来描述向量空间中的语义关系。在这种情况下，我们采用词嵌入的余弦相似度来构建一般的语义图。

3.3.2 Structural semantic graph

与一般语义图不同，结构语义图更侧重于基于句子内结构关系的局部词相关性。为了捕获句子序列中的结构关系 ，点互信息 (PMI) 表示词的共现频率，用于构建结构语义图。值得注意的是，计算是根据句子而不是滑动窗口进行的。

3.3.3 Syntactic dependency graph

我们使用spacy工具包来生成输入句子的依赖树，在此基础上构建句法依赖图。具体来说，句法依赖图是通过在有依赖关系的词之间建立特定的路径来构建的。通过这种方式，不仅减少了方面和其意见词之间的距离，而且还获得了长距离的依赖关系.

3.4 Dual-channel semantic learning module

通过生成输入语句的一般语义矩阵和结构语义矩阵，实现双通道语义学习模块。

3.5 Syntactic learning module

句法结构建模方案来理解句子的句法。

3.6 Sentiment classifier

4.Result

在这项工作中，基于人类的认知实践，为ABSA开发了一个双通道语义和句法学习模型。首先，以人类处理的方式，建立了一个双通道语义GCN，从一般语义信息和结构语义信息中获得词的语义。然后，建立一个句法GCN，旨在学习句子的句法结构。用语义信息和句法信息增强的词汇表征被应用于情感分析。我们在五个公共数据集上进行了实验，证明我们的模型稳定地超过了现有的模型。通过这种方式，可以获得ABSA任务的更好的工作表现。

Dai A, Hu X, Nie J, et al. Learning from word semantics to sentence syntax by graph convolutional networks for aspect-based sentiment analysis[J]. International Journal of Data Science and Analytics, 2022, 14(1): 17-26.
论文下载地址 https://link.springer.com/article/10.1007/s41060-022-00315-2