GAT一、图注意力机制注意力机制的核心:对给定信息进行权重分配。权重高的信息系统对其进行重点加工
注意力机制三要素:
Query:当前中心节点的特征向量
Source:所有邻居的特征向量
Attention Value:中心节点经过聚合操作后的新的特征向量
本质:在GNN的基础上引入权重矩阵,对邻接矩阵重构(加权)
GAT两种计算方式:
全局图注意力:节点与图上所有节点做attention计算(丢失了图的结构特征,运算成本巨大)
掩码图注意力:节点只与邻居节点做attention计算(利用了图的结构特征,减少了运算量)
$$ h_{i}^{`} = \sigma(\sum_{j\in N(i) } \alpha_{ij}W*h_j) $$
以下图为例展示:
邻接矩阵计算图Attention,邻接点增加权重参数并归一化,以A点为例进行邻接矩阵处理:
特征矩阵变换过程:
以A点为例,其与B、C相连,过程如下:
...
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub.
Quick StartCreate a new post$ hexo new "My New Post"
More info: Writing
Run server$ hexo server
More info: Server
Generate static files$ hexo generate
More info: Generating
Deploy to remote sites$ hexo deploy
More info: Deployment
Front-matter 是 markdown 文件最上方以 — 分隔的区域,用于指定个别档案的变数。其中又分为两种 markdown 里
Page Front-matter 用于页面配置
Post Front-matter 用于文章页配置
如果标注可选的参数,可根据自己需要添加,不用全部都写在 markdown 里
Page Front-matter
写法
解释
title
【必需】页面标题
date
【必需】页面创建日期
type
【必需】标签、分类、关于、音乐馆、友情链接、相册、相册详情、朋友圈、即刻页面需要配置
updated
【可选】页面更新日期
description
【可选】页面描述
keywords
【可选】页面关键字
comments
【可选】显示页面评论模块(默认 true)
top_img
【可选】页面顶部图片
mathjax
【可选】显示 mathjax(当设置 mathjax 的 per_page: false 时,才需要配置,默认 false)
katex
【可选】显示 katex(当设置 katex 的 ...