HEVC 화면 내 예측에서의 에지 기반 고속 CU 분할 알고리듬

Abstract

본 논문에서는 에지 정보를 이용하여 Coding Unit (CU) 분할을 제한 또는 생략함으로써 High Efficiency Video Coding (HEVC)의 화면 내 예측을 고속화하는 알고리듬을 제안한다. HEVC는 All Intra (AI)에서 가변 코딩 블록 구조 및 화면 내 예측에서 총 35가지의 모드를 사용함으로써 H.264/Advanced Video Coding (AVC)보다 높은 압축률을 달성하였다. 그러나 HEVC 화면 내 예측은 각각의 CU에 대해 Residual Quad Tree (RQT)를 통해 코딩 블록 구조 및 예측 모드를 결정해야 하므로 예측 과정이 복잡하다. 이를 고속화하기 위하여 Zhao는 모든 모드에 대해서 RQT를 수행하지 않고 하다마드 변환을 사용한 율 왜곡 비용 계산을 바탕으로 계산된 비용이 적은 한정된 숫자의 모드에 대해서만 RQT를 수행하는 Rough Mode Decision (RMD)라는 알고리듬을 제안하였다. 그러나 여전히 율 왜곡 최적화가 화면 내 예측의 부호화 시간의 대부분을 차지하고 있다. HEVC 화면 내 예측을 더욱 고속화하기 위한 방식들 중에 에지 정보를 이용한 여러 고속화 알고리듬들이 제안되었다. Guo와 Jamali는 가장 강한 에지 방향 정보를 바탕으로 모드 결정을 고속화 하는 알고리듬을 제안하였다. 그러나 이 알고리듬들은 모드 결정에서의 최적화 오류로 인해 Bjontegaard Delta Bit Rate (BDBR) 증가가 적지 않게 나타난다. 이를 개선하기 위하여 본 논문에서는 에지의 방향 정보를 이용하지 않고 크기 정보를 바탕으로 CU의 예측을 생략하거나 분할을 조기 종료하는 알고리듬을 제안한다. 제안하는 알고리듬은 CU의 에지의 크기 정보와 CU의 최대 깊이 간의 관계를 이용한다. CU의 분할 과정에서 현재 CU의 에지의 크기 정보를 계산해 봄으로써 CU 분할에서 생략할 수 있는 부분을 생략하도록 한다. 또한 그 과정에서 영상 특성에 따라 임계값이 적용될 수 있도록 일정 그룹 단위로 온라인 업데이트 단계와 고속 결정 단계를 구분하여 수행한다. 이를 통해 기존의 알고리듬보다 BDBR 증가를 줄일 수 있었다. 본 논문에서는 에지의 크기 정보를 이용하여 CU 분할을 고속화 하는 알고리듬을 제안한다. 제안하는 알고리듬은 Common Test Condition (CTC)에 있는 다양한 영상들에 대해서 실험되었다. 실험 결과를 통해 HEVC 참조 소프트웨어 대비 1% 미만의 BDBR 손실 하에 평균 약 30%의 부호화 속도 향상을 확인할 수 있었다.; In this paper, we propose edge based fast coding unit (CU) partitioning algorithm to reduce the complexity of intra prediction in High Efficiency Video Coding (HEVC). HEVC achieves more higher bit rate reduction at the similar visual quality as Advanced Video Coding(AVC) in All Intra (AI) configuration by using flexible coding unit structure and supporting up to 35 modes in intra prediction. However, intra prediction in HEVC has complexity because coding unit structure and prediction mode for each CU are decided through Residual Quad Tree (RQT) process. To reduce the complexity of intra prediction, Zhao proposed Rough Mode Decision (RMD) algorithm which can reduce the candidate modes for RQT by using Hadamard cost instead of rate distortion cost in rate distortion optimization process. Although HEVC adopts RMD algorithm, the computational complexity in rate distortion optimization process is still high. There are many algorithms to further reduce the complexity of intra prediction in HEVC using edge information. Guo and Jamali proposed fast mode decision algorithm based on dominant direction of edges. These algorithms show considerable Bjontegaard Delta Bit Rate (BDBR) increase since they have some optimization error in mode decision process. This paper uses magnitude of edge information instead of using direction of edge information. The proposed algorithm uses the correlation between magnitude of edge information and maximum CU depth. The magnitude of edge information in the current CU is used for determining whether the current CU is split or not. Also, we perform online update phase and fast CU decision phase separately to adjust the threshold according to the characteristic of the sequence. The proposed method has better performance in BDBR compared to conventional method. This paper proposes fast CU partitioning algorithm using magnitude of edge information. The proposed method is tested for the various sequences included in Common Test Condition (CTC). The results show encoding time reduction by 30% with 0.9% of BDBR increase compared to HEVC reference software.