심층신경망 해석을 활용한 학습 외 분포 데이터 탐지

Abstract

학습 외 분포 데이터란 심층신경망(Deep Neural Network, 혹은 DNN)에서 학습할 때에 사용하는 학습데이터의 분포와는 상당한 차이를 보이는 데이터를 말한다. 심층신경망에서 이러한 학습할 때에 접하지 못한 데이터들은 입력으로 받을시 쉽게 오동작을 일으키는 결과를 내놓는 경우가 있다. 오류를 일으킬 수 있는 학습 외 분포 데이터를 안전을 위해 사전에 인식하는 것이 중요하나 심층신경망이 도출하는 결과에 대한 근거와 도출 방법을 이해하는 것이 어렵기에 처리 과정의 정보를 통한 인식에 어려움이 있다. 본 논문에서는 다양한 입력 데이터들 속에서 학습 외 분포 데이터를 정확하게 식별하기 위해 새로운 기법을 제시한다. 해당 기법은 학습 내 분포 데이터들이 심층신경망 안에서 결과 도출 시에 사용되는 은닉 뉴론 값 패턴이 학습 데이터도출에서 사용되는 패턴과는 이례적인 특정한 분포를 가진다는 가정을 기반으로 한다. 이러한 가정에서, 본 기법은 학습 내 분포 데이터들이 심층신경망에서 결과 도출할 때에 사용되는 은닉 뉴론 패턴을 해석하여 데이터끼리 군집으로 묶은 후 그 결과를 바탕으로 이례적인 형태를 보인 데이터를 학습 외 분포 데이터로서 검출 한다.