주파수 영역 에지 검출과 모드 그룹화를 통한 고속 HEVC 화면 내 예측 알고리즘

Abstract

본 연구는 차세대 비디오 부호화 표준인 High Efficiency Video Coding (HEVC)의 주요 부호화 도구 중 화면 내 부호화 기법 (Intra Prediction)에 대하여 부호화 성능을 향상시키기 위한 고속 알고리듬을 제안한다. 특히 한 프레임 내에서의 공간적 중복성과 그 상관도를 최대한 활용하여 기존의 35개의 예측 모드 중 최종 모드로 채택될 가능성이 큰 모드를 효율적으로 선택 및 제거하는 화면 내 예측 기법을 제안하고 있다. 또한 제거된 모드들에 대해서 발생할 수 있는 부호화 오류를 보완하기 위해 주변 블록들의 최종 예측 모드를 참고하여 후보 모드 그룹을 업데이트하는 기술이 추가되었다. 기존 HEVC의 화면 내 예측 기법은 4ⅹ4부터 64ⅹ64 크기의 예측 단위에 대해, Planar와 DC 모드를 포함한 35개의 화면 내 예측 모드에 대해 Sum of Absolute Hadamard Transform Differences (SATD)를 수행함으로써 연산량과 상관없이 가장 정확한 방향성을 찾는 데에 중점을 두었다. 또한 화면 내 예측은 HEVC의 예측 단위인 Prediction Unit (PU)를 기본 단위로 진행하지만, 코드상에서의 실질적인 수행 단위는 변환 단위인 Transform Unit (TU)를 기준으로 진행하게 된다. 본 논문에서는 주파수 영역에서 DCT계수들의 분포를 분석하고 이를 통해 해당 예측 단위의 대표 방향성을 결정한다. 이때 대표 방향성은 수직방향 (Vertical), 수평방향 (Horizontal), 45˚ 대각방향 (Increased diagonal), 135˚ 대각방향 (Decreased diagonal), 평탄한 방향성 (Flat), 그리고 방향성 판단이 불가한 복잡한 방향성 (Non-directional)으로 구성된다. 또한 결정된 대표 방향성에 속하는 모드 그룹의 예측 모드들에 대해서만 화면 내 예측 기법을 수행하는 알고리듬을 제안하고 있다. 모드 그룹화를 적용하고 최종 예측 모드로 결정될 가능성이 적은 모드들을 사전에 생략하고 불필요한 연산 과정을 제거함으로써 부호화 속도 감소와 동시에 화질을 개선할 수 있다. 또한 주변 블록의 예측 모드를 참조함으로써 특정 블록의 예측 모드가 주변 블록들과의 경향성에서 벗어난 경우에 오차를 줄이기 위한 보상 과정을 적용하였다. 본 논문에서는 제안하는 알고리듬의 객관적인 성능 비교를 위해 신호-대-잡음비 (Peak Signal-to-Noise Ratio, PSNR)와 비트 발생율, 그리고 부호화 시간을 분석하며, 다양한 클래스의 영상들에 대한 BD-bitrate와 BDPSNR 결과를 확인하였다. 실험 결과, 비교 알고리듬인 노벨 적응적 화면 내 예측 알고리듬과의 성능 비교를 통해 제안하는 알고리듬이 평균 2.17%의 BD-bitrate의 증가와 평균 0.09dB의 BDPSNR의 감소를 보였지만, 고속 부호화 알고리듬으로서 평균 14.75%의 부호화 시간 단축을 확인할 수 있었다. 이는 적은 화질 감소와 비트율 증가에 비해 높은 부호화 시간 단축을 보여줌으로써 비교 알고리듬보다 제안하는 알고리듬의 부호화 성능이 높음을 알 수 있다. 또한 제안하는 알고리듬은 HEVC의 레퍼런스 소프트웨어인 HM14.0의 부호화기와 비교해서 평균 24.91%의 부호화 시간 단축을 달성할 수 있었다. 또한 BD-bitrate는 평균 2.15%의 비트율 증가를 보였고, BDPSNR은 평균 0.09dB 감소함으로써 제안하는 알고리듬이 빠른 부호화 시간과 동시에 적은 화질 감소와 비트율 증가를 가져옴을 확인하였다.