Deep Learning-Based Anomaly Detection for Automatic Modulation Classification

Abstract

Deep Learning-Based Anomaly Detection for Automatic Modulation Classification

1 Onyekwelu Michael Chisom Department of Electronic Engineering The Graduate School Hanyang University

In recent times, automatic modulation classification (AMC) has held importance in many applications, such as cognitive radio and spectrum surveillance, and there has been much research on AMC using deep learning-based (DL) models. In practical applications, one of the limitations of DL-based AMC is its vulnerability to anomalous or interfering signals, which can compromise the performance, security, and fidelity of data transmission. To address this vulnerability, a method of effectively detecting and distinguishing anomalous signals from normal signals is needed. This thesis investigates anomaly detection for DL-based AMC and analyzes detection performance for anomalies. To achieve this, the following DL-based models are firstly considered: classical autoencoder (CAE), Mahalanobis-based autoencoder (MAE), variational autoencoder (VAE), and convolutional neural network-based autoencoder (CNN-AE), where each model uses a different loss for anomaly detection. Then to analyze their detection performance, the respective loss function for each model is used to obtain the detection metric for comparison. For the CAE and CNN-AE models, the reconstruction loss is used; a combination of the reconstruction loss and Kullback-Leibler divergence (KLD) loss is employed for the VAE model; and for the MAE model, a hybrid loss that combines the reconstruction loss with the Mahalanobis distance of the latent space embedding of a training vector and any input vector is used. Through computer simulations, the detection performance of the models is evaluated and compared by showing that all models effectively detect and distinguish anomalous from normal signals, with the MAE model demonstrating the best performance.

1 The author of this thesis is a Global Korean Scholarship scholar sponsored by the Korean Government.|최근 인지 라디오 및 스펙트럼 감시와 같은 응용 분야에서 자동 변조 분류(AMC)의 중요성이 증대되고 있으며, 딥 러닝 (DL) 기반 모델을 사용하는 AMC에 대한 많은 연구가 진행되고 있다. 실제 응용 분야에서 DL 기반 AMC의 한계점 중 하나는 데이터 전송의 성능, 보안 및 충실도를 저해할 수 있는 이상 신호에 대한 취약성이다. 이러한 취약성을 해결하기 위해서는 정상 신호와 이상 신호를 효과적으로 탐지하고 구별하는 기법이 필요하다. 본 논문은 오토인코더(CAE), 마할라노비스 기반 오토인코더 (MAE), 변형 오토인코더 (VAE), 컨볼루션 신경망 기반 오토인코더(CNN-AE)의 총 4가지의 DL 모델 기반 이상치 탐지 알고리즘을 분석하고 컴퓨터 모의실험을 통해 각 알고리즘의 이상치 탐지 성능을 비교하고 분석한다. 먼저, 각 DL 기반 모델을 그에 적합한 손실 함수를 사용하여 훈련한다. 이때 CAE 및 CNN-AE 모델의 경우 재구성 손실이 사용되고, VAE 모델에는 재구성 손실과 쿨백 라이블러 발산 손실의 조합이 사용되며, MAE 모델의 경우 훈련 벡터 및 임의의 입력 벡터의 잠재 공간 임베딩의 마할라노비스 거리와 재구성 손실을 결합하는 하이브리드 손실이 사용된다. 컴퓨터 모의실험을 통해 각 모델들의 탐지 성능을 분석하고 비교하여, 그 결과 모든 모델이 효과적으로 정상 신호와 이상 신호를 탐지하고 구별할 수 있음을 보이며 그 중 MAE 모델이 가장 우수한 성능을 가짐을 보인다.