Exploiting various patterns for heterogeneous graph attention network

Abstract

Recently, Graph neural networks(GNNs) have been improved under the influences by concepts of various deep learning techniques, such as attention, auto-encoder, and recurrent network. However, in the real world, since various graphs, such as social network, citation network, and the e-commerce data, have the multi-types of vertices and edges, most GNNs considering a homogeneous graph as input data is not suitable due to ignoring the heterogeneity. Meta-path based methods have been researched to capture both the heterogeneity and structural information of heterogeneous graphs. As meta-path is a kind of graph pattern, we extend utilizing meta-paths to exploiting graph patterns. In this paper, we propose a heterogeneous graph attention network for exploiting triangle patterns called TP-HAN and extend TP-HAN to utilize various graph patterns. Through experiments using real-world datasets, we show that both TP-HAN and VP-HAN has better performance than the state-of-art heterogeneous graph attention network.|현실에 존재하는 소셜 네트워크, 인용 네트워크, 단백질 상호작용 네트워크 등과 같은 그래프 타입의 데이터는 다양한 타입의 정점과 간선을 가진다. 그래프 데이터를 분석하기 위한 딥 러닝 기반의 기술로 그래프 컨볼루션 네트워크가 제안되었고 어텐션 메커니즘, 오토 인코더, 회귀 신경망 등의 적용을 통해 발전해왔다. 하지만, 기존에 연구된 그래프 컨볼루션 네트워크는 단일 타입의 정점과 간선을 가진 동종 그래프를 대상으로 개발되었으므로 다양한 타입의 정점과 간선을 가지는 이종 그래프를 분석하기에는 적합하지 않다. 이러한 이종 그래프를 분석하기 위해 메타 경로를 이용하는 그래프 컨볼루션 네트워크가 연구되었다. 우리는 메타 경로가 일종의 그래프 패턴이라 보았고, 메타 경로를 이용한 방법을 그래프 패턴을 활용하도록 확장시키고자 하였다. 따라서, 우리는 그래프 패턴 중에서 가장 기본적이고 중요하게 여겨지는 삼각형 패턴을 활용하는 TP-HAN과 삼각형 패턴을 활용하는 것에서 한단계 더 나아가 다양한 패턴을 활용하는 VP-HAN을 제안한다. 실험 결과, 우리가 제안한 TP-HAN은 기존의 HAN 과 비슷하거나 조금 더 나은 성능을 보였고, VP-HAN은 기존의 HAN보다 더 나은 성능을 보여 준다.