GNN 中的信息聚合程序可以理解为不同图结构之间的相互作用,本文提出采用 Shapley 值作为评分函数,通过考虑这种相互作用来衡量不同子图的重要性。图1中说明了本文提出的SubgraphX。经过搜索,得分最高的子图被认为是对输入图\mathcal{G}的预测结果为 y的解释。此外,Subgraph X 可以很容易地扩展到使用其他搜索算法和...
同时,考虑到运算效率,MCTS使用由近似计算得到的Shapley值衡量各子图的重要性。最终,SubgraphX得到的解释结果是多个连通子图。 SubgraphX不是直接研究掩码,其MCTS可视为掩码生成算法,节点剪枝操作可视为不同掩码得到的候选子图,Shapley值可视为更新掩码生成算法的目标函数[2]。和其它方法相比,其得到的重要子图的解释结果更...
《ICML 2021基于子图结构的GNN解释模型》一文通过明确识别重要子图来提供GNN模型的解释，这种创新方法显著改进了可解释性。该文提出了Subgraph X，一个采用蒙特卡洛树算法探索不同子图、利用Shapley值衡量子图重要性的解释模型。Subgraph X通过定义子图集合和重要性函数，寻找解释目标预测结果的关键子图。Shapley值...
本文提出了一种新的GNN解释性方法,称为SubgraphX,通过识别重要的子图来解释GNNs。给定一个训练好的GNN模型和一个输入图,SubgraphX通过蒙特卡罗树搜索有效地探索不同的子图来解释它的预测。为了使树搜索更有效,本文提出使用Shapley值作为子图重要度的度量。它还可以捕获不同子图之间的交互作用。为了加快计算速度,本文也提...
虽然SubgraphX没有直接研究掩码,但MCTS算法可以理解为掩码生成算法,其节点修剪动作可以看作是获取子图的不同掩码。此外,Shapley值可以作为目标函数来更新掩码生成算法。与其他基于扰动的方法相比,其获得的子图更易于人类理解,适用于图数据。然而,计算成本更高,因为它需要使用 MCTS 算法探索不同的子图。
GraphSVX: Shapley Value Explanations for Graph Neural Networks. ECML PKDD 2021. paper Alexandre Duval, Fragkiskos D. Malliaros. Applications Physics Discovering objects and their relations from entangled scene representations. ICLR Workshop 2017. paper David Raposo, Adam Santoro, David Barrett, Razvan...
该模型集成了空间模式 (spatial patterns) 和神经网络，结合 Shapley 加性解释理论，不但能够大幅提升预测的准确性，并且能够在复杂的空间场景中提升矿物预测的可解释性。MPM 过程 研究亮点 * 提出了一种地理神经网络加权逻辑回归模型 GNNWLR * GNNWLR 在矿产资源预测评价方面优于其他先进模型 * GNNWLR 克服了空间...
该模型集成了空间模式 (spatial patterns) 和神经网络,结合 Shapley 加性解释理论,不但能够大幅提升预测的准确性,并且能够在复杂的空间场景中提升矿物预测的可解释性。 MPM 过程 研究亮点 提出了一种地理神经网络加权逻辑回归模型 GNNWLR GNNWLR 在矿产资源预测评价方面优于其他先进模型 ...
该模型集成了空间模式 (spatial patterns) 和神经网络,结合 Shapley 加性解释理论,不但能够大幅提升预测的准确性,并且能够在复杂的空间场景中提升矿物预测的可解释性。 MPM 过程 研究亮点 * 提出了一种地理神经网络加权逻辑回归模型 GNNWLR * GNNWLR 在矿产资源预测评价方面优于其他先进模型 ...
本文提出了一种新的GNN解释性方法,称为SubgraphX,通过识别重要的子图来解释GNNs。给定一个训练好的GNN模型和一个输入图,SubgraphX通过蒙特卡罗树搜索有效地探索不同的子图来解释它的预测。为了使树搜索更有效,本文提出使用Shapley值作为子图重要度的度量。它还可以捕获不同子图之间的交互作用。为了加快计算速度,本文也...