Significance Analysis of Input Variables Using Bootstrap Method for Elastic Net under Sampling Uncertainty

Abstract

The problem of high-dimensional input variables can be solved by analyzing the significance of input variables using an elastic net. However, the significance varies because of sampling uncertainty, which can lead to incorrect inferences. Specifically, the sampling uncertainty tends to increase as the dimension of input variables increases. Therefore, a significance analysis method using bootstrap method for the elastic net is presented herein to reduce the sampling uncertainty. Through a mathematical example, the proposed significance analysis method was confirmed to provide greater accuracy than the elastic net. Additionally, the significance of input variables was analyzed by applying the proposed significance analysis method to an engineering problem. Although the bootstrap method entails high computational costs, it is expected that meaningful results can be obtained at a reasonable cost.;신축망을 이용하여 입력변수의 유의성 분석을 통해 입력변수의 고차원 문제를 해결할 수 있다. 하지만 샘플링 불확실성에 의해 유의성이 변동하여 잘못된 추론으로 이어질 수 있다. 특히, 입력변수의 차원이 증가할수록 샘플링 불확실성이 증가하는 경향이 있다. 따라서 본 연구는 샘플링 불확실성의 저감을 위해 신축망에 대해 부트스트랩 방법을 이용한 유의성 분석 방법을 제안한다. 수학 예제를 통해 제안하는 유의성 분석 방법이 신축망에 비해 높은 정확도가 도출됨을 확인하였다. 또한, 제안하는 유의성 분석 방법을 공학 문제에 적용하여 입력변수의 유의성을 분석하였다. 부트스트랩 방법은 많은 전산 비용을 요구하지만, 합리적인 수준에서 사용한다면 유의미한 결과를 도출할 수 있을 것으로 기대된다.