Profile-guided Optimization for Memory Management in CXL Memory Systems

Abstract

With the increasing memory usage of applications, heterogeneous memory systems are gaining attention. The recent prominence of CXL technology aims to expand memory usage. In an expanded memory system, there is a need to store memory objects in suitable devices and manage them efficiently. This paper introduces profiling and optimization techniques that analyze the dynamic behavior of memory objects in an application, providing different memory management strategies based on classification. Beyond leveraging existing memory-related performance, this approach analyzes memory access patterns during the lifetime of objects. This technique includes analyzing the total quantity of objects, cache pollution, and temporal locality of accesses. Through analysis, we determined the optimization techniques for each memory object and applied optimizations based on classification. Data placement optimizations using the quantity of objects and cache pollution show 20% higher performance in Redis, and memory packing using temporal locality shows 54% higher performance in microbench.|응용 프로그램의 메모리 사용량이 커짐에 따라, 이기종 메모리 시스템(heterogenous memory systems)이 주목받고 있다. 최근 각광을 받고 있는 CXL 기술 또한, 메모리를 확장하여 사용하기 위함이다. 확장된 메모리 시스템에서, 메모리 오브젝트를 적합한 기기에 저장하고, 적합한 방법으로 관리할 필요성이 있다. 본 논문은 응용 프로그램의 메모리 오브젝트 동태를 분석하여, 분류에 따라 서로 다른 메모리 관리 방식을 제공하는 프로파일링 및 최적화 기법(profile-guided optimization)을 소개한다. 오브젝트 총량, 캐시의 효율적 이용 여부, 시간적 지역성(temporal locality)을 활용하며, 기존의 메모리 관련 성능을 활용하는 것을 넘어, 메모리 오브젝트의 동태 패턴을 최적화에 사용할 것을 제안한다. 프로파일링 기법을 통해 메모리 오브젝트 각각에 최적화를 적용했다. 오브젝트 총량과 캐시의 효율적 이용을 분석하여 Redis에서 최적화를 진행한 경우, 고려 없이 캐시를 한 방법에 비해, 20% 성능 향상을 보인다. 시간적 지역성을 이용한 최적회의 경우, 마이크로벤치에서 54% 성능이 향상되었다.