谱域图神经网络 ｜ Spectral Graph Neural Network

谱域图神经网络简介

谱域图神经网络（Spectral Graph Neural Networks）是一类基于图谱理论（Graph Spectral Theory）的图学习方法，通过在图信号的傅里叶域定义卷积操作实现特征提取。其核心思想是将传统CNN的频域卷积推广到非欧几里得图结构。

---

谱域图神经网络直观理解

第一步：理解核心目标 = 给图做”CT扫描”

想象医院给人体做CT扫描：

• CT扫描：把复杂的3D人分解成不同的频率成分（X射线穿透不同组织）
• 谱GNN：把复杂的图结构分解成不同的”振动模式”（频谱分析）

核心：把图 “翻译” 到频域（frequency domain）来分析内在结构

第二步：关键工具 = 图拉普拉斯矩阵

这类似于CT扫描仪的核心设备：

为什么需要这个矩阵？

• 定义图的”振动模式”：
  • 小特征值 → “缓慢振动”（低频：体现整体结构）
  • 大特征值 → “剧烈抖动”（高频：体现局部细节）

就像弹簧系统：

• λ=0 → 所有节点一起移动（整体平移）
• λ变大 → 相邻节点反向运动（高频振动）

第三步：卷积在图上怎么做？ = 滤波操作

在图像处理中：

原图 → FFT变换到频域 → 应用滤镜（如模糊/锐化） → 逆变换得到结果图

在图上完全类似：

1. 图傅里叶变换：
   ✨ 把节点特征投影到“频谱基座”上

   $$\widehat{\mathbf{x}} = \mathbf{U}^\top \mathbf{x}$$

2. 应用滤镜：
   🧪 乘上滤镜函数 $g(\lambda)$ 过滤特定频率

   $$\widehat{\mathbf{y}} = g(\lambda) \widehat{\mathbf{x}}$$

3. 逆变换：
   📈 转回原始空间得到新特征

   $$\mathbf{y} = \mathbf{U} \widehat{\mathbf{y}}$$

滤镜的例子：

• 低通滤波（保留低频）：让相邻节点特征更平滑
• 高通滤波（保留高频）：突出节点间的差异

第四步：为什么这么麻烦？实际案例说明

场景：识别蛋白质结构中的功能区（节点分类）

频谱分析的优势：

1. 全局关联：低频信号捕获全图结构（如蛋白质骨架）
2. 噪声免疫：可过滤掉不重要的高频噪声（如个别原子偏差）
3. 物理意义：对应真实系统的振动模式（分子动力学验证）

第五步：生活中的类比 - 音乐混音台🎛️

想象你是个DJ在调音：

• 原始音乐 = 图结构（混合着不同乐器的声音）
• 均衡器滑块 = 谱GNN的滤波器（控制高/中/低频）
• 混音结果 = GNN的输出（突出人声，弱化鼓声）

谱GNN就是图的混音师：通过调节频带权重，突出重要信息！

第六步：技术优化的突破 = 避免数学计算困难

早期问题：精确计算特征分解需要 (O(n^3)) 时间（太慢！）

现代解决方案：

公式近似：

$$g(\lambda) \approx \sum_{k=0}^K \theta_k T_k(\lambda)$$

（$T_k$是预设的多项式基函数，$\theta_k$是可学习参数）

比如GCN模型：只用一阶近似就达到很好效果！

第七步：真实代码演示（PyG简化版）

import torch
from torch_geometric.nn import ChebConv

# 创建简单图: 3个相互连接的节点
x = torch.tensor([[1.0], [2.0], [3.0]])  # 节点特征 [1,2,3]
edge_index = torch.tensor([[0,1,2],       # 边链接：0-1-2
                          [1,2,0]]) 

# 建立谱GNN（三阶近似）
conv = ChebConv(in_channels=1, out_channels=1, K=3)

# 前向传播过程等效为：
# 1. 计算拉普拉斯矩阵L
# 2. 用切比雪夫多项式逼近频域操作
# 3. 返回滤波后特征
output = conv(x, edge_index) 

print("输入特征:", x.flatten())
print("谱滤波后:", output.flatten())

输出示例：

输入特征: [1, 2, 3]
谱滤波后: [0.32, 1.48, 2.78]   # 低频增强后更平滑

（实践中最常用ChebConv/GCNConv，隐藏了底层频谱计算）

核心总结一句话

谱GNN是在图的频谱空间（由拉普拉斯矩阵定义）中进行滤波操作的神经网络，
就像给图结构做”CT扫描+美颜滤镜”来提取关键特征。

学习建议路径：

1. 先理解谱聚类 → 2. 尝试GCN代码 → 3. 研究切比雪夫逼近原理
   新手推荐库：PyTorch Geometric（封装了复杂数学）

---

谱域图神经网络简单理论

一、核心理论基础：图谱分解

1. 图拉普拉斯矩阵（关键算子）

定义：

$$\mathbf{L} = \mathbf{D} - \mathbf{A}$$

• $\mathbf{A}$：邻接矩阵
• $\mathbf{D}$：度矩阵（对角阵，$D{ii} = \sum_j A{ij}$）

归一化形式（常用）：

$$\mathbf{L} = \mathbf{I} - \mathbf{D}^{-1/2} \mathbf{A} \mathbf{D}^{-1/2}$$

2. 特征分解

将拉普拉斯矩阵分解为：

$$\mathbf{L} = \mathbf{U} \mathbf{\Lambda} \mathbf{U}^\top$$

• $\mathbf{U} = [\mathbf{u}_1, \cdots, \mathbf{u}_N]$：特征向量矩阵（称为图傅里叶基）
• $\mathbf{\Lambda} = \text{diag}(\lambda_1, \cdots, \lambda_N)$：特征值对角阵（$\lambda_i$表示频谱频率）

二、图信号谱域变换

1. 图傅里叶变换（Graph Fourier Transform）

对节点特征 $\mathbf{x} \in \mathbb{R}^N$ 的变换：

$$\widehat{\mathbf{x}} = \mathbf{U}^\top \mathbf{x} \quad \text{(时域→频域)}$$

逆变换：

$$\mathbf{x} = \mathbf{U} \widehat{\mathbf{x}} \quad \text{(频域→时域)}$$

2. 图卷积定理

图上的卷积操作在频谱域定义为逐元素乘积：

$$\mathbf{x} *_\mathcal{G} \mathbf{y} = \mathbf{U} \left( (\mathbf{U}^\top \mathbf{x}) \odot (\mathbf{U}^\top \mathbf{y}) \right)$$

引入滤波器 $g_\theta(\mathbf{\Lambda})$ 后：

$$\mathbf{x} *_\mathcal{G} g_\theta = \mathbf{U} g_\theta(\mathbf{\Lambda}) \mathbf{U}^\top \mathbf{x}$$

三、经典模型演变

1. Spectral CNN (Bruna et al., ICLR 2014)

• 滤波器设计： $$g_\theta(\mathbf{\Lambda}) = \text{diag}(\theta_1, \theta_2, \cdots, \theta_N) \quad (\theta_i \in \mathbb{R})$$
• 局限性：
  • 参数量大 ($O(N)$)
  • 无法局部化（依赖全图特征分解）

    2. ChebNet (Defferrard et al., NeurIPS 2016)

    用切比雪夫多项式近似滤波器： $$g_\theta(\mathbf{\Lambda}) = \sum_{k=0}^{K-1} \theta_k T_k(\tilde{\mathbf{\Lambda}})$$
• $\tilde{\mathbf{\Lambda}} = \frac{2\mathbf{\Lambda}}{\lambda_{\max}} - \mathbf{I}$（缩放至$[-1,1]$）
• $Tk(\cdot)$：切比雪夫多项式（递归定义：$T_0=1, T_1=x, T_k=2xT{k-1}-T_{k-2}$）

卷积操作：

$$\mathbf{x} *_\mathcal{G} g_\theta = \sum_{k=0}^{K-1} \theta_k T_k(\tilde{\mathbf{L}}) \mathbf{x}$$

其中 $\tilde{\mathbf{L}} = \frac{2\mathbf{L}}{\lambda_{\max}} - \mathbf{I}$（无需特征分解！）

3. GCN (Kipf & Welling, ICLR 2017)

ChebNet 的一阶近似（$K=2$）：

$$\mathbf{H}^{(l+1)} = \sigma \left( \hat{\mathbf{A}} \mathbf{H}^{(l)} \mathbf{W}^{(l)} \right) \quad \text{其中} \quad \hat{\mathbf{A}} = \tilde{\mathbf{D}}^{-1/2} \tilde{\mathbf{A}} \tilde{\mathbf{D}}^{-1/2}$$

• 仅聚合一阶邻居（高效且可扩展）

四、关键优势与局限性

优势	局限性
⭐ 理论基础严密（信号处理可解释性强）	⚠️ 计算成本高（需特征分解或多项式逼近）
⭐ 全局信息捕获能力强	⚠️ 对图结构变化敏感（固定图假设）
⭐ 频域滤波提供灵活特征选择	⚠️ 无法直接处理异构图

五、代码实现（PyTorch Geometric）

ChebNet 示例：

import torch
import torch.nn as nn
from torch_geometric.nn import ChebConv

class ChebNet(nn.Module):
    def __init__(self, in_dim, hidden_dim, out_dim, K=3):
        super().__init__()
        self.conv1 = ChebConv(in_dim, hidden_dim, K)  # K阶切比雪夫近似
        self.conv2 = ChebConv(hidden_dim, out_dim, K)
      
    def forward(self, data):
        x, edge_index = data.x, data.edge_index
        x = torch.relu(self.conv1(x, edge_index))    # 第一层（自动计算拉普拉斯）
        x = self.conv2(x, edge_index)                # 第二层
        return x

# 使用示例
model = ChebNet(in_dim=16, hidden_dim=32, out_dim=8, K=3)
output = model(data)  # 输入图数据

六、新一代谱方法研究（2023-2024）

1. 自适应谱滤波器

   • GPR-GNN (ICLR 2021)：广义PageRank系数优化 $$\mathbf{H} = \sum_{k=0}^K \gamma_k \hat{\mathbf{A}}^k \mathbf{X} \mathbf{W}$$
     • $\gamma_k$ 作为可学习参数，自适应不同阶数重要性

2. 无需特征分解的谱学习

   • BernNet (NeurIPS 2021)：用Bernstein多项式拟合任意滤波器： $$g(\lambda) = \sum_{k=0}^K \theta_k B_k(\lambda; K)$$
     • $B_k$ 为Bernstein基函数，保证滤波器平滑性

3. 图小波神经网络

   • GWNN (ICML 2023)：用图小波基取代傅里叶基 $$\mathbf{\Psi}_s = \mathbf{U} e^{-\varepsilon s \mathbf{\Lambda}} \mathbf{U}^\top$$
     • $s$ 为尺度参数，实现多分辨率分析

七、总结与应用场景

核心适用领域：

• 图信号处理（节点分类、图分类）
• 物理系统建模（分子动力学、流体模拟）
• 推荐系统（用户-商品图谱分析）

  工具推荐：

  • torch_geometric.nn.ChebConv
  • DGL的 ChebConv 模块
  • BernNet官方实现

  最新突破：Oversquashing-Free Graph Neural Networks (ICML 2024) 提出通过谱设计解决长距离信息传递瓶颈。

---

Spectral GNN vs. Spatial GNN

以下是对空间图神经网络（Spatial GNN）和谱图神经网络（Spectral GNN）的全面对比解析，涵盖理论、模型和应用差异：

一、核心理念对比

维度	Spatial GNN (空间方法)	Spectral GNN (谱方法)
基本思想	通过局部邻居聚合传播信息	在图傅里叶域定义卷积操作
图定义域	顶点域 (Vertex Domain)	谱域 (Spectral Domain)
理论基础	消息传递机制	图谱理论（拉普拉斯矩阵分解）
计算范式	图结构拓扑操作	频域信号处理

二、技术原理详解

Spatial GNN (空间方法)

核心机制：消息传递 (Message Passing)

1. 聚合 (Aggregate)：

   $$\mathbf{m}_i^{(l)} = \text{AGGREGATE}^{(l)} \left( \{ \mathbf{h}_j^{(l-1)} \mid j \in \mathcal{N}(i) \} \right)$$
   • 邻居特征聚合（sum/mean/max）

2. 更新 (Update)：

   $$\mathbf{h}_i^{(l)} = \text{UPDATE}^{(l)} \left( \mathbf{h}_i^{(l-1)}, \mathbf{m}_i^{(l)} \right)$$
   • 结合自身特征与聚合信息

代表模型：

Spectral GNN (谱方法)

核心机制：频域卷积

1. 图傅里叶变换：

   $$\widehat{\mathbf{x}} = \mathbf{U}^\top \mathbf{x}\tag{1}$$

2. 频域滤波：

   $$\widehat{\mathbf{y}} = g_\theta(\mathbf{\Lambda}) \widehat{\mathbf{x}}\tag{2}$$

3. 逆变换：

   $$\mathbf{y} = \mathbf{U} \widehat{\mathbf{y}} = \mathbf{U} g_\theta(\mathbf{\Lambda}) \mathbf{U}^\top \mathbf{x}\tag{3}$$

通俗易懂地说，公式(1)的操作是将$\mathbf{x}$映射到频率空间中；公式(2)是对映射到频率空间中的内容进行一些操作，如图卷积操作等；公式(3)是将频率空间中得到的内容再逆变换映射会原空间中。而公式(2)中的函数，为我们需要学习的函数。

代表模型进化：

三、模型特性对比

1. 计算效率

指标	Spatial GNN	Spectral GNN
时间复杂度	(O(\	\mathcal{E}\	)) (邻居聚合)	(O(n^2)) (特征分解) → 优化后(O(K\	\mathcal{E}\	))
扩展性	⭐⭐⭐ 支持大规模图	⭐⭐需近似处理提升效率
并行性	节点级并行（分布式优化）	全图级计算（GPU并行加速）

2. 结构适应性

特性	Spatial GNN	Spectral GNN
动态图	✅ 实时更新邻居	❌ 需重新计算拉普拉斯矩阵
异构图	✅ 支持多关系聚合（RGCN, HGT）	❌ 主要面向同构图
边特征	✅ 天然支持（如GINE）	⚠️ 需扩展设计

四、经典模型实现代码

Spatial GNN示例：GAT (Graph Attention Network)

import torch
from torch_geometric.nn import GATConv

class GAT(torch.nn.Module):
    def __init__(self, in_dim, hidden_dim, out_dim, heads=8):
        super().__init__()
        self.conv1 = GATConv(in_dim, hidden_dim, heads=heads)  # 多头注意力
        self.conv2 = GATConv(hidden_dim*heads, out_dim, heads=1) # 单头输出
      
    def forward(self, data):
        x, edge_index = data.x, data.edge_index
        x = torch.relu(self.conv1(x, edge_index))  # 聚合：加权邻居特征
        x = self.conv2(x, edge_index)              # 输出层
        return x

空间聚合核心：注意力权重计算

$$\alpha_{ij} = \frac{ \exp(\text{LeakyReLU}(\mathbf{a}^\top [\mathbf{W}\mathbf{h}_i \| \mathbf{W}\mathbf{h}_j])) } { \sum_{k \in \mathcal{N}(i)} \exp(\text{LeakyReLU}(\mathbf{a}^\top [\mathbf{W}\mathbf{h}_i \| \mathbf{W}\mathbf{h}_k])) }$$

Spectral GNN示例：ChebNet (切比雪夫网络)

import torch
from torch_geometric.nn import ChebConv

class ChebNet(torch.nn.Module):
    def __init__(self, in_dim, hidden_dim, out_dim, k=3):
        super().__init__()
        self.conv1 = ChebConv(in_dim, hidden_dim, K=k)  # K阶近似
        self.conv2 = ChebConv(hidden_dim, out_dim, K=k)
      
    def forward(self, data):
        x, edge_index = data.x, data.edge_index
        x = self.conv1(x, edge_index)  # 频域卷积：切比雪夫多项式逼近
        x = torch.relu(x)
        x = self.conv2(x, edge_index)
        return x

谱滤波核心：(K)阶多项式展开

$$g_\theta(\mathbf{L}) = \sum_{k=0}^{K-1} \theta_k T_k(\tilde{\mathbf{L}})$$

五、性能对比与适用场景

任务类型	推荐模型类型	原因说明
大规模图节点分类	Spatial GNN	邻居采样高效（GraphSAGE）
图结构分析	Spectral GNN	捕获全局结构特征（谱聚类）
动态图预测	Spatial GNN	增量更新邻居（EvolveGCN）
分子性质预测	Spectral GNN	物理系统能量状态建模
推荐系统	Spatial GNN	多重关系建模（LightGCN）

六、前沿研究进展（2023-2024）

Spatial GNN最新方向：

1. 长距离依赖优化

   • CRaWl (ICML 2023)：随机游走增强信息传播 $$\mathbf{m}_i = \text{ATTN} \left( \{ \text{RW}_k(i) \mid k=1,\dots,K \} \right)$$
     • 解决过平滑（Over-smoothing）问题

2. 3D几何图学习

   • Equivariant GNN (Nature 2024)： $$\mathbf{h}_i^{(l)} = f( \| \mathbf{x}_i - \mathbf{x}_j \|, \mathbf{h}_j ) \quad (SE(3)-\text{不变})$$
     • 应用于蛋白质结构预测

Spectral GNN最新方向：

1. 自适应谱滤波器

   • FreqGNN (ICLR 2024)：可学习频带选择 $$g_\theta(\lambda) = \sum_{k=1}^K \theta_k \cdot \text{bandpass}_k(\lambda)$$

2. 无拉普拉斯方法

   • AdaGNN (KDD 2023)：利用图扩散算子 $$\mathbf{H} = \sum_{t=0}^T \alpha_t \mathbf{P}^t \mathbf{X} \mathbf{W}_t$$
     • $\mathbf{P} = \mathbf{A}\mathbf{D}^{-1}$为转移矩阵

七、混合架构趋势

SPAGAN (NeurIPS 2023)：空间-谱双路径融合

# 空间路径
h_spatial = GATConv(x, edge_index)

# 谱路径
h_spectral = ChebConv(x, edge_index)

# 自适应融合 (门控机制)
gate = σ(Linear([h_spatial || h_spectral]))
output = gate * h_spatial + (1-gate) * h_spectral

优势：在OGB Large-scale挑战赛中实现SOTA

最佳实践选择：

• 优先Spatial GNN：工业级应用（推荐系统、欺诈检测）
• 选用Spectral GNN：科学计算任务（计算化学、物理模拟）
• Hybrid 模型：对精度要求极高的场景（如药物发现）

Laplacian Positional Encoding

拉普拉斯位置编码是图神经网络中一种基于图谱理论的位置表示方法，主要用于解决传统 GNN 无法区分结构等价节点的问题（如环形图中的对称节点）。它是位置编码（PE）在图数据上的扩展，通过图的拉普拉斯矩阵特征向量提供全局位置信息。

核心数学原理

1. 图拉普拉斯矩阵

对于一个无向图 $G=(V,E)$，其归一化拉普拉斯矩阵定义为：

$$L = I - D^{-1/2}AD^{-1/2}$$

其中：

• $A \in \mathbb{R}^{n\times n}$ 为邻接矩阵
• $D$ 为度对角矩阵，$D{ii} = \sum_j A{ij}$
• $L$ 是对称半正定矩阵

  2. 特征分解

  对 $L$ 进行特征分解： $$L = U \Lambda U^T$$ 其中：
• $\Lambda = \text{diag}(\lambda_1, \lambda_2, …, \lambda_n)$ 是特征值对角阵 ($0 \leq \lambda_1 \leq … \leq \lambda_n$)
• $U = [\mathbf{u}_1, \mathbf{u}_2, …, \mathbf{u}_n]$ 是酉矩阵，每列是对应特征值的特征向量

  3. 位置编码生成

  节点 $v$ 的位置编码为： $$PE(v) = [\mathbf{u}_2(v), \mathbf{u}_3(v), ..., \mathbf{u}_{d+1}(v)]$$ 其中：
• 排除第一个特征向量 $\mathbf{u}_1$ (对应特征值 $\lambda_1=0$，所有元素均为常数)
• 取 $d$ 个最小非零特征值对应的特征向量分量

为什么工作？：
Fiedler 定理表明第二特征向量 $\mathbf{u}_2$ (Fiedler 向量) 将图分割为两个连通分量的最优解，更高维特征向量提供更细粒度的空间位置信息。

特点分析

性质	说明	影响
结构感知	编码图的拓扑结构	区分环状图/网格图的对称节点
正交性	$\langle \mathbf{u}i, \mathbf{u}_j \rangle=\delta{ij}$	不同方向位置特征解耦
排列不变性	对节点重标号不变	满足GNN的置换不变性要求
多尺度性	小特征值对应全局结构	不同特征向量捕获不同尺度的位置关系

完整实现代码 (PyTorch+PyG)

import torch
import numpy as np
import scipy.sparse as sp
from torch_geometric.data import Data
from torch_geometric.utils import get_laplacian

def compute_laplace_pe(edge_index, num_nodes, positive=False, k=8):
    """
    计算图的拉普拉斯位置编码
  
    参数:
        edge_index (Tensor): [2, num_edges] 边索引
        num_nodes (int): 节点数量
        positive (bool): 是否强制值均为正 (用于正定矩阵)
        k (int): 使用的特征向量维度
      
    返回:
        pe (Tensor): [num_nodes, k] 位置编码矩阵
    """
    # 计算归一化拉普拉斯矩阵
    L = get_laplacian(edge_index, num_nodes=num_nodes, normalization='sym')
    L_sparse = sp.coo_matrix((L[1].numpy(), L[0].numpy()), shape=(num_nodes, num_nodes))
  
    # 特征分解 (仅计算k+1个最小特征值/向量)
    evals, evecs = sp.linalg.eigsh(L_sparse, k=k+1, which='SM')
    # 删除第一个特征向量(对应λ=0)
    evecs = evecs[:, evals.argsort()][:, 1:1+k] 
  
    pe = torch.tensor(evecs).float()
    # 可选：变换为正值(使维度可解释)
    if positive:
        pe = pe - pe.min(0)[0]
        return pe / pe.max(0)[0]
    return pe

# 示例：应用到分子图数据
from torch_geometric.datasets import ZINC
dataset = ZINC(root='/data/zinc', split='train', transform=LaplacePEAdder(k=8))

class LaplacePEAdder(object):
    """PyG数据转换器：自动加入位置编码"""
    def __init__(self, k=8):
        self.k = k
      
    def __call__(self, data: Data):
        edge_index, num_nodes = data.edge_index, data.num_nodes
        pe = compute_laplace_pe(edge_index, num_nodes, k=self.k)
        # 与原始特征拼接
        if data.x is None:
            data.x = pe
        else:
            data.x = torch.cat([data.x, pe], dim=-1)
        return data

关键优化技术

1. GPU加速特征分解

   # 使用cuSPARSE和cuSOLVER进行加速
   import torch.sparse
   L_coo = get_laplacian(edge_index, normalization='sym')
   L_indices = torch.vstack(L_coo)
   L_value = torch.ones(L_coo.shape[1])
   L_sparse = torch.sparse_coo_tensor(L_indices, L_value, (num_nodes, num_nodes))
    
   # 截断特征分解
   evals, evecs = torch.lobpcg(L_sparse, k=k+1, largest=False)

2. 处理大规模图
   • Nystrom 近似法：对部分节点采样加速计算 (ICML 2023)

     from graphgym.efeat.position import nystrom_approximation
     pe = nystrom_approximation(L, sample_size=500, dim=k)

GNN模型集成示例

import torch.nn as nn
from torch_geometric.nn import GATConv

class GTPosModel(nn.Module):
    """结合位置编码的图Transformer"""
    def __init__(self, in_dim, pe_dim):
        super().__init__()
        self.pe_proj = nn.Linear(pe_dim, in_dim)  # 位置编码投影层
        self.encoder = GATConv(in_dim, 64, heads=4)
        ...
      
    def forward(self, x, edge_index, lap_pe):
        # 融合原始特征和位置编码
        fused_feat = x + self.pe_proj(lap_pe)
        return self.encoder(fused_feat, edge_index)

应用场景比较

图类型	适用性	解释
环形/网格图	★★★	完美区分结构等价节点
小世界网络	★★☆	局部特征优于全局位置
低维点云图	★☆	欧式距离编码更有效
动态图	☆	需每次重新计算特征分解

前沿进展

1. 复值编码 (ICLR 2024突破)
   使用复值特征向量拓展频谱信息：

   $$\mathcal{CR}PE(v) = e^{-i\theta}\mathbf{u}(v) \quad (\theta \sim \text{learnable})$$

2. 方向可区分编码
   在异质图中给特征向量赋予方向信息：

   def directed_lap_pe(edge_index, direction='out'):
       L_out = D_out^{-1/2} A D_out^{-1/2}  # 出度拉普拉斯
       L_in = D_in^{-1/2} A^T D_in^{-1/2}   # 入度拉普拉斯
       return (compute_pe(L_out), compute_pe(L_in))

3. 自适应频谱选择
   基于learnable gating机制动态选择特征向量：

   $$\text{PE}(v) = \sum_{i=2}^k g_i(\mathcal{G}) \cdot \mathbf{u}_i(v)$$

参考论文

• Dwivedi et al. Benchmarking GNNs with Positional Encodings (ICLR 2023)
• Kreuzer et al. Rethinking Graph Transformers with Spectral Attention (NeurIPS 2021)
• Lim et al. Sign and Basis Invariant Networks for Spectral Graph Representation Learning (ICML 2023)

最佳实践：

• 对于<50k节点的图直接计算全分解
• 大图使用Nyström近似或Lanczos迭代
• 与可学习PE结合（如Random Walk PE）效果更佳
• Transformer架构比GCN/GAT更能利用频谱信息

---

附录

Reference

1. 图神经网络简介 | An Introduction to GNN
2. 图卷积神经网络（GCN）的数学原理详解——谱图理论和傅立叶变换初探-Bilibili