바이너리 분석을 통한 UNIX 커널 기반 File System의 TOCTOU Race Condition 탐지

Abstract

현대 사회에서 소프트웨어에 대한 의존도는 점점 증가하고 있다. 일반적인 사무 업무에서부터 정밀 기계 공정이나 의료 기기, 금융 서비스와 같은 핵심적인 기반 서비스까지 크고 복잡한 소프트웨어 시스템들은 널리 사용되고 있다. 이에 따라 다양한 소프트웨어들이 생산되고 있지만, 소프트웨어의 품질은 이와 같은 규모에 미치지 못하는 경우가 종종 있다. 소프트웨어의 품질에 영향을 미치는 것은 크게 두 가지로 결함(fault)과 취약점(vulnerability)이다. 특히, 취약점은 개발자들의 실수로 인해 소프트웨어에 발생할 수 있는 버그로 공격자가 악의적으로 이용할 수 있다. 취약점의 사례로는 버퍼 오버플로우, Race Condition 등이 있으며, 취약점은 소프트웨어의 품질을 저해시키고 사용자로 하여금 소프트웨어에 대한 안전성과 신뢰도가 떨어지게 되며, 개발 측에서는 유지 관리 비용을 증가시키는 요인이 된다. Race Condition은 둘 이상의 프로세스가 하나의 공통 자원에 대해 입력이나 조작이 동시에 일어나 의도치 않은 결과를 가져오는 취약점이다. 해당 취약점은 서비스 거부 또는 권한 상승과 같은 문제를 초래할 수 있다. 일반적으로 소프트웨어에서 취약점이 발생하면 관련된 정보를 문서화하지만 종종 취약점의 발생 원인을 밝히지 않거나 소스코드를 공개하지 않는 경우가 있다. 이런 경우, 취약점을 탐지하기 위해서는 바이너리 레벨에서의 분석이 필요하다. 본 논문은 UNIX 커널 기반 File System의 Time-Of-Check Time-Of-Use Race Condition 취약점을 바이너리 레벨에서 탐지하는 것을 목표로 한다. 지금까지 해당 취약점에 대해 정적/동적 분석 기법을 포함하여 다양한 탐지 기법이 연구되었다. 동적 분석은 실행 정보를 통해 정확한 탐지가 가능하며, 잘 알려져 있지 않거나 아직 발견되지 않은 취약점을 탐지하는 데에 적합하다. 모든 경로를 분석하기 위해서는 정적 분석을 이용하며, 널리 알려져 있는 취약점 발생 패턴을 이용한 탐지에 적합하다. 기존의 정적 분석 도구는 소스코드를 이용하여 탐지하며, 바이너리 레벨에서 수행한 연구는 현재 거의 전무하다. 본 논문은 Control Flow Graph, Call Graph를 이용하여 탐지하는 방법을 제안하며 취약점 탐지 기술에 있어 도움이 될 것으로 기대한다.