소프트웨어 엔지니어링 단계별 머신러닝의 안전한 적용 방법론

Abstract

산업기기, 철도, 항공, 자동차, 선박, 의료기기 등의 안전 관련 분야에서는 소프트웨어의 안전 무결성을 보증하기 위해 관련 기능 안전 국제표준들이 제정되어 보편적으로 적용되고 있다.

머신러닝은 데이터를 기반으로 훈련을 통해 학습 모델을 자동으로 생성하는 소프트웨어 개발의 한 형태이며 전통적인 프로그래밍 기반 소프트웨어 개발과는 개발 프로세스 및 결과물 측면에서 상이하다. 머신러닝 기술은 현재 제조, 언론, 마케팅, 의료, 재무, 운송 등 다양한 분야에서 적용되고 있으며 최근에는 자동차의 자율주행, 의료 분야의 암 진단 등 인간의 생명과 직결된 분야로까지 그 적용 영역이 확대되고 있다.

하지만 대부분의 해당 표준들은 전통적인 프로그래밍 기반의 안전한 소프트웨어 엔지니어링에 대해서만 규정하고 있고, 최신의 기술인 머신러닝에 대해서는 다루고 있지 못하다. 본 논문은 머신러닝을 안전 소프트웨어 분야에 활용하기 위해서 현존하는 소프트웨어 기능 안전 표준들에 대한 분석을 바탕으로 소프트웨어 엔지니어링의 요구사항 정의, 설계, 구현, 검증, 시험 단계에서 머신러닝 기반의 소프트웨어 개발에 요구되는 핵심적인 안전 요건들과 이들을 실현하기 위한 실행 가능한 방법들을 제안한다.

구체적으로 요구사항 정의 단계에서는 안전 성능 요구사항으로 안전 성능 지표(민감도 및 특이도)을 제시하고, 설계 단계에서는 내결함성(Fault Tolerance)와 공통 원인 고장로부터의 자유(Freedom from Common Cause Failure)를 핵심적인 안전 설계 원칙으로 제시하며 이를 실현하기 위한 접근 가능한 예로써 다양화 모델링(Diverse Modelling)을 제안한다. 구현 및 검증 단계에서는 검증가능성을 핵심 원칙으로 제시하고 실현 방안으로 설명 가능한 인공지능(XAI, eXplainable Artificial Intelligence)를 제안한다. 시험 단계에서는 요구사항 단계에서 명시된 안전 성능 지표인 민감도를 향상하기 위한 기술적인 접근 방안으로 안전 임곗값(Safe Threshold) 개념을 제안한다. 제안된 다양화 모델링, XAI 그리고 안전 임곗값 기법들은 실험을 통해서 그 효과성이 확인되었다.; In the field of safety related to industrial devices, railways, airborne systems, automobiles, ships, and medical devices, international standards for functional safety have been established and widely applied to ensure the safety integrity of software.

Machine learning is a form of software development that automatically generates a learning model through training based on data, and is different in terms of development process and output from traditional programming-based software. Machine learning technology is currently adopted in various areas such as manufacturing, media, marketing, medical care, finance, transportation, etc. Recently, the domain of its application has been expanded to sectors critical to human life such as autonomous driving of automotive domain and cancer diagnosis in medical domain.

However, most of these standards only address safe software engineering for traditional programming and does not cover the latest technology, machine learning. In order to apply machine learning in the area of safety software, this paper suggests crucial safety requisites and practicable methodologies to implement them, required for machine learning–based software development in the phases of requirements definition, design, implementation, verification and testing of software engineering through an analysis on existing software functional safety standards.

Specifically, in the requirements definition phase, safety performance metrics (sensitivity and specificity) are presented as safety performance requirements, and in the design phase, fault tolerance and freedom from common cause failure are presented as a fundamental safety design principle and diverse modeling is proposed as an accessible case to realize this. In the implementation and verification phase, verifiability is presented as a principal principle and eXplainable Artificial Intelligence (XAI) is proposed as an accessible method to realize this. In the test phase, the concept of the safety threshold is proposed as a technical approach to improve the sensitivity, the safety performance metrics specified in the requirements phase. The effectiveness of proposed techniques of diverse modeling, XAI and safety threshold have been validated through experiments.