Systematic Evaluation and Adaptation of Spatio-Temporal Graph Neural Networks for Distributed and Resource-Constrained Environments

Abstract

시공간 그래프 신경망(Spatio-Temporal Graph Neural Networks, STGNNs)은 최근 시공간 데이터를 분석하는 강력한 모델로 부상하였으며, 많은 개별 연구에서 높은 예측 성능을 보고하고 있다. 그러나 이러한 주장들은 다양한 데이터셋에서 체계적으로 검증되지 않았으며, STGNN은 분산 환경과 자원 제약 환경에서는 충분히 연구되지 않았다. 본 논문에서는 먼저 STGNN의 성능을 평가하고 그 장점을 철저히 검증하기 위해 포괄적인 STGNN 벤치마킹 시스템을 개발하였다. 이를 기반으로, STGNN을 실제 환경에서 적용할 수 있도록 하는 두 가지 실용적 연구 결과를 제시한다. 즉, 분산 엣지 환경을 위한 연합 학습(Federated Learning)으로의 STGNN 적응과 신경망 구조 탐색(Neural Architecture Search)을 통한 경량 STGNN 모델 자동 설계이다. 논문의 첫 번째 부분에서는 SPATS라 불리는 실용적 비교 시스템을 설명한다. SPATS는 다양한 STGNN 모델과 데이터셋을 효과적이고 효율적으로 공정하게 비교할 수 있다. SPATS는 데이터 모델 의존성을 줄이기 위해 통합 데이터 포맷을 도입하고, 다수의 모델 비교를 자동으로 처리하기 위해 GPU 클러스터를 활용한다. 광범위한 실험을 통해 SPATS가 메모리 사용량을 줄이면서 STGNN 모델을 효율적으로 비교하고 GPU 클러스터를 충분히 활용할 수 있음을 확인하였다. 또한 SPATS를 통해 교통, 전염병, 기상, 뇌과학 등 다양한 도메인에서 기존에 검증되지 않은 STGNN 모델과 데이터셋의 효과적인 조합을 쉽게 탐색할 수 있다. 논문의 두 번째 부분에서는 기존의 중앙집중식 STGNN 모델을 연합 학습 버전으로 변환할 수 있는 범용 프레임워크인 FedSTGNN(Federated Spatio-Temporal Graph Neural Network)을 소개한다. 우리는 행렬 연산을 이용해 공통적인 STGNN 학습 과정을 수식화하고, 엣지 서버에서 누락된 센서 값을 처리하기 위해 그래프 기반 대치(imputation) 방법을 적용하며, 중앙집중식에서 연합 학습으로의 전환을 용이하게 한다. 종합적인 평가 결과, FedSTGNN은 원래 STGNN 모델의 예측 정확도를 유지할 뿐만 아니라 경쟁 모델보다 네트워크 효율이 현저히 높음을 보여준다. 또한 이 프레임워크는 희소 그래프, 장기 예측, 동적 서버 참여와 같은 실제 환경의 어려운 시나리오에서도 안정적인 성능을 보이며, 다양한 엣지 컴퓨팅 애플리케이션에 STGNN을 적용하기 위한 실용적이고 견고한 범용 솔루션임을 입증한다. 논문의 세 번째 부분에서는 SearchLight라는 새로운 NAS 기반 STGNN 프레임워크를 제시하여 예측 성능을 유지하면서 경량 STGNN 모델을 자동으로 탐색한다. NAS 방법의 각 셀 유형에 대해 공간적 연산과 시간적 연산을 위한 두 개의 별도 셀 집합을 설정하여 시공간 데이터 특성을 보다 잘 포착한다. 공간 및 시간 정보에 특화된 셀 유형을 사용하여 모델이 시공간 데이터의 내재적 특징을 효과적으로 결합하도록 설계하였다. 또한 모델 경량화와 예측 정확도를 동시에 최적화하는 다목적 탐색 전략을 사용하여 경량이면서 정확한 STGNN 모델을 발견할 수 있도록 하였다. 여러 실제 데이터셋에 대한 실험 결과, SearchLight는 모델 크기를 평균 ×103.0, 학습 시간을 평균 ×74.0 감소시키면서, 수동 설계 및 기존 NAS 기반 STGNN 모델에 비해 예측 성능은 평균 1.6%p만 소폭 감소하였다. 요약하면, 본 논문은 STGNN의 성능을 철저히 평가하고, 이를 분산 연합 환경과 경량 아키텍처라는 두 가지 방향으로 확장하였다. 다양한 데이터셋과 시나리오에서 광범위한 실험을 통해 제안 방법의 효과성을 검증하였다. 본 연구의 기여는 향후 STGNN의 실제 적용을 위한 실용적 기반이 될 수 있을 것으로 기대된다.|Spatio-Temporal Graph Neural Networks (STGNNs) have recently emerged as powerful models for analyzing spatio-temporal data, and many individual studies report strong predictive performance. However, these claims have not been systematically verified across diverse datasets, and STGNNs remain underexplored in distributed and resource-constrained environments. In this thesis, we first develop a comprehensive STGNN benchmarking system to evaluate their performance and rigorously validate their advantages. Building on this foundation, we present the results of two practical efforts aimed at enabling the deployment of STGNNs in real-world scenarios: adapting STGNNs to federated learning for distributed edge environments and automatically designing lightweight STGNN models through neural architecture search. In the first part of the thesis, we explain a practical comparison system, called Spatio-Temporal graph System (SPATS), that performs effectively and efficiently the fair comparison of various STGNN models and datasets. SPATS introduces a unified data format to reduce dependency on data models and exploits GPU clusters to handle a large number of model comparisons automatically. Extensive experiments demonstrate that SPATS can efficiently compare STGNN models with reduced memory footprints and fully exploit GPU clusters. Furthermore, SPATS allows us to easily find the effective combination between the STGNN models and the datasets in various domains that have not been examined before. In the second part of the thesis, we introduce Federated Spatio-Temporal Graph Neural Network (FedSTGNN), a universal framework that converts existing centralized STGNN models into a federated learning version. We formulate the common STGNN training process using matrix operations, employ graph-based imputation methods to handle missing sensor values at edge servers, and facilitate the transition from centralized to federated STGNNs. Our comprehensive evaluations demonstrate that FedSTGNN not only preserves the prediction accuracy of the original STGNN models but is also significantly more network-efficient than the competing model. Furthermore, the framework proves its robustness in challenging real-world scenarios, including sparse graphs, long-term forecasting, and dynamic server participation. Our work presents a practical, robust, and universal solution for deploying STGNNs into various edge computing applications. In the third part of the thesis, we present SearchLight, a novel NAS-based STGNN framework to automatically discover lightweight STGNN models while maintaining prediction performance. We set two cells for spatial and temporal operations into two distinct sets to capture spatial and temporal data features better for each cell type of the NAS method. We specialize in cell types for spatial and temporal information so that the model can better capture and combine the intrinsic features of spatial and temporal data. We employ a multi-objective search strategy that optimizes both model compactness and prediction accuracy to enable our method to discover lightweight and accurate STGNN models. Experimental results across several real-world datasets show that SearchLight reduces the model size by an average of ×103.0 and training time by an average of ×74.0, while sacrificing a small amount of prediction performance, an average of 1.6%p, compared to manually designed and existing NAS-based STGNN models. In summary, we rigorously evaluates the performance of STGNNs and extends their applicability in two directions: distributed federated environments and lightweight architectures. We validate the effectiveness of our methods through extensive experiments across diverse datasets and scenarios. We believe our contributions can serve as a practical foundation for the real-world deployment of STGNNs in future applications.