A Heterogenous OpenCL kernel-aware runtime DVFS system on ARM mobile GPUs

Abstract

현재 모바일 디바이스에서 사용되는 리눅스 운영체제의 GPU-DVFS 기술은 부하 기반으로 간단한 알고리즘을 통해서 구현되어 있다. 하지만 해당 DVFS 시스템은 머신러닝과 같은 큰 워크로드를 가진 프로그램을 모바일 GPU에서 그대로 구동 할 경우 최대성능으로 설정하기 때문에 에너지 관점에서 비효율적이며, 본 목적대로 사용되지 않는다. 또한 각 GPU 워크로드별 GPU 성능의 Boost정도에 따라 실제로 실행 시간이 단축되는 효과는 저마다 다르다. 이것은 워크로드 별로 GPU에서 컴퓨팅 연산 비율과 메모리 연산 비율이 각 워크로드마다 다르기 때문에 비롯된다. 그러므로 GPU 워크로드가 보유하고 있는 특성을 활용하여 능동적으로 성능을 조절하기 위해, 여러 워크로드를 동시 실행하는 환경에서 워크로드별 최적 성능을 설정하여 전력 효율을 개선할 수 있는 OpenCL 커널 기반 런타임 DVFS 시스템을 설계 및 제안한다. 본 연구에서는 제안된 구조를 구현 및 실험 결과, 다양한 프로그램에 DVFS 설정을 다르게 인가하였을 때 프로그램별 인가 성능에 대한 단일 실행 시간의 합과 오차범위 내 동일한 총 실행 시간을 보여줌을 확인하였다|The GPU-dynamic voltage frequency scaling (GPU-DVFS) technology on Linux operating systems currently used in mobile devices is implemented through a simple workload-based algorithm. However, this simple dynamic voltage frequency scaling (DVFS) system is inefficient in terms of power consumption; therefore, it is not used to perform heavy resource-consuming programs, such as machine learning applications on mobile devices. In addition, the performance gains when applying higher frequency varies significantly depending on the GPU workload characteristics. This is because the ratio of computation and memory operations differs for each target workload. Therefore, an OpenCL kernel-aware runtime DVFS system is proposed herein to improve power efficiency by setting different optimal operating frequencies for each co-running workload to actively adjust the efficiency based on its own characteristics when multiple workloads are concurrently executed. In this study, we verify that the sum of single execution times of all target programs is equal to the total execution time when all the programs are executed concurrently within an acceptable error budget, where the programs have different DVFS settings.