메모리 가상화 및 실시간 스케줄링을 이용한 메모리 관리 시스템 및 방법

Abstract

본 발명은 메모리 가상화 및 실시간 스케줄링을 이용한 메모리 관리 시스템에 관한 것이다. 본 발명에 따르면, 메모리 가상화 및 실시간 스케줄링을 이용한 메모리 관리 시스템에 있어서, 다중 DNN 작업에 각각 할당된 가상 메모리 주소를 해당 DNN 작업의 실행에 필요한 데이터가 저장된 GPU 가상 주소로 변환해주는 매핑 테이블을 관리하며, 매핑 테이블 및 스케줄링 정보를 바탕으로 상기 DNN 작업에 대한 가상 메모리 주소를 통해서 상기 GPU 가상 주소에 접근하여 상기 데이터를 리딩하거나, 상기 데이터를 GPU 메모리에서 CPU 메모리로 스왑 아웃하거나 CPU 메모리에서 GPU 메모리로 스왑 인하는 프로세서부; 및 다중 DNN 작업에 대한 실행 순서와 스왑 인/아웃 동작을 시간에 따라 스케줄링하여 상기 스케줄링 정보를 상기 프로세서부로 제공하는 스케줄링부를 포함한다.