Bayesian deep learning based on dropout for AVO inversion with uncertainty estimation

Abstract

In recent years, deep learning (DL) methods have shown excellent results in amplitude versus offset (AVO) inversion which estimates elastic properties such as P- and S-impedances in subsurface using well log and seismic data. However, a conventional DL methods only predict elastic properties without their predictive uncertainties. The estimation of predictive uncertainties is very important in AVO inversion, since there are few wells which contain data used to training the DL model in exploration stage, and the reliability is very low in area far from the wells. There are two types of predictive uncertainties: aleatoric and epistemic uncertainties. The aleatoric uncertainty is related to the randomness of data such as noisy or outlier data and the epistemic uncertainty increases due to the lack of knowledge. In this dissertation, a Bayesian DL method was applied to predict the P- and S-impedances including their aleatoric and epistemic uncertainties. Unlike other conventional DL methods in AVO inversion, additional input datasets which supplement the lack of low frequency bands in seismic data and provide spatial information were used, and a reconstruction term was added to design a generalized DL model. The F3 block field dataset was used to verify the effectiveness of the proposed method. In addition, the sensitivity analysis depending on model settings and input data were performed. An optimal model setting was confirmed by comparing different scaling methods, model structure, and dropout rate. From the blind well test, it was confirmed that the proposed method predicts the P- and S-impedances well even in area far from the training wells compared to conventional AVO inversion, and the true P- and S-impedances were included within the range of predictive uncertainty. The changes of aleatoric and epistemic uncertainties according to different data were analyzed. The aleatoric uncertainty decreased when the high amplitude filtered data were used, and the epistemic uncertainty decreased when the number of training wells were increased. The proposed method can be easily applied to other geoscience problems requiring estimation of predictive uncertainties.|최근에 딥 러닝이 등장함에 따라 지하매질의 P와 S임피던스 같은 암석물성을 추정하는 오프셋에 따른 진폭 (Amplitude versus offset; AVO)역산에도 적용되어 왔다. 그러나 전통적인 딥 러닝 방법은 오직 암성 물성만 예측하고 예측된 결과의 불확실성을 제공하진 않는다. AVO 역산에서 불확실성 추정은 매우 중요한데, 그 이유로는 물리검층 자료와 시추공 위치에서의 각도 별 탄성파 자료만이 훈련자료로 사용되는데 탐사단계에서는 시추공 개수가 한정되어 있어 시추공에서 멀리 떨어진 지역에 대해서는 신뢰도가 매우 낮기 때문이다. 예측 불확실성은 내재적 불확실성 (aleatoric uncertainty)과 인식론적 불확실성 (epistemic uncertainty)이 있다. 내재적 불확실성은 잡음이나 이상 치와 같은 자료의 무작위성과 관련되어 있고 인식론적 불확실성은 지식의 부족 (자료의 부족)으로 인해 증가된다. 예측 불확실성을 추정하기 위해서는 베이지안 신경망 (Bayesian neural network)이 필요하다. 이 논문에서는 드랍아웃 (dropout)을 이용한 합성 곱 신경망을 이용하여 베이지안 신경망을 근사하고 P와 S 임피던스를 추정할 뿐만 아니라 그들의 예측 불확실성들을 추정하였다. AVO 역산에서 다른 딥 러닝 방법과는 달리 탄성파 탐사자료의 저 주파수 부족을 보충하고 공간적 정보를 제공하는 추가 입력자료를 사용하였고 일반화된 딥 러닝 모델을 고안하기 위해 복원 항을 추가하였다. 제안된 방법의 효용성을 검증하기 위해 F3 block data를 이용하였고 모델 조건에 따른 민감도 분석을 진행하였다. 또한 자료에 따른 내재적 불확실성과 인식론적 불확실성의 변화를 파악하기 위해 입력자료의 변화에 따른 불확실성의 변화를 분석하였다. 최적의 모델 조건은 scaling 방법, 모델 구조, 드랍아웃 비를 비교하여 결정되었다. 블라인드 시추공 테스트를 통해 제안된 방법이 훈련이 사용된 시추공에서 멀리 떨어진 지역에도 잘 예측이 되고 불확실성이 실제 값을 잘 포함시키는 것을 확인하였다. 내재적 불확실성은 높은 진폭이 필터링된 데이터를 사용했을 때 감소되었고 인식론적 불확실성은 훈련에 사용되는 시추공이 늘어날수록 감소되었다. 제안된 방법은 예측 불확실성이 필요로 하는 다른 지구물리, 물리탐사 분야에도 적용할 수 있다.