Comparisons of regression and machine learning models for cycle time and WIP prediction in reentrant flow shop

Abstract

The problem of predicting the cycle time and work-in-process (WIP) is emerging as an important issue from an industrial point of view. As the structure of the modern production system becomes more complex, it is difficult to predict the cycle time and WIP accurately, which are the key factors in production planning and control. In this paper, we proposed the algorithms with better performance by comparing two regression methods (Ridge regression, Lasso regression) and three machine learning methods (Random Forest, XGBoost, Artificial neural network) to build cycle time and WIP prediction models in reentrant flow shop CONWIP system. We considered five product types and each product type have three products for the experiment. Experimental data that we used in this paper obtained by the LEGO prototype of the manufacturing shop floor. K-fold cross validation (K=5) was used to select the algorithms that predicts equally well using any train data or test data. After the algorithms was selected, proposed algorithms tuned the hyperparameters with 80% of total data (train dataset). Then, test the prediction model with 20% of data (test dataset). We set the root mean squared error (RMSE) value and mean bias error (MBE) as a performance measure and checked which algorithms are best for prediction. Results show that, XGBoost has lower prediction error in cycle time prediction model with an average RMSE value of 27.23 and average MBE value of 3.21. In WIP prediction model, some stages (Input stage, Stage1) which seems like bottleneck stages gave good prediction with ANN, but other stages (Stage2, Stage3) with low WIP level did not predict well. ANN showed best result in Input stage WIP prediction model with average RMSE value of 1.75 and MBE value of -0.07. In Stage1 WIP prediction model, ANN also showed best result with average RMSE value of 1.53 and MBE value of 0.34. Stage2 and Stage3 have a small number of WIPs and have the characteristics of signal data, so the RMSE and MBE values are close to zero, but it showed predictive performance not different from MVA through the visualization graph.

|현대 생산 시스템의 구조가 복잡해짐에 따라 생산 계획 및 통제의 핵심 요소인 사이클 타임과 재공재고를 정확하게 예측하기가 어려워졌다. 이러한 이유로 사이클 타임과 재공재고 예측 문제는 산업적 관점에서 중요한 이슈로 떠오르고 있다. 본 논문에서는 2가지 회귀 방법 (Ridge 회귀, Lasso 회귀)과 3가지 머신러닝 방법 (Random Forest, XGBoost, Artificial Neural Network)을 비교하여 재진입 flow shop의 CONWIP시스템에서 예측 성능이 더 좋은 알고리즘을 제안했다. 우리는 5가지 제품 유형을 고려했으며 각 제품 유형에는 실험을 위한 3가지 제품이 시스템 안에 존재하도록 가정했다. 본 논문에서 사용한 실험 데이터는 제조 현장의 레고 프로토타임 모델에서 얻은 데이터를 사용하였다. K-폴드 교차 검증 (K=5)은 모든 학습 데이터 또는 테스트 데이터를 사용하여도 동일하게 잘 예측하는 알고리즘을 채택하기 위해 사용되었다. 알고리즘이 선택된 후 제안된 알고리즘은 전체 데이터의 80% (학습 데이터)를 사용하여 하이퍼파라미터를 조정해주었다. 다음으로 전체 데이터의 20% (테스트 데이터)를 사용하여 예측 성능 테스트를 진행했다. Root Mean Squared Error (RMSE)값과 Mean Bias Error (MBE)값을 성능 척도로 설정하고 예측에 가장 적합한 알고리즘을 확인했다. 사이클 타임 예측 모델에서는 XGBoost가 평균 RMSE 27.23, 평균 MBE 3.21로 낮은 예측 오차 결과를 보여주었다. 재공재고 예측 모델에서는 병목 현상이 있어 보이는 작업장 (Input 작업장, 작업장 1)은 ANN으로 좋은 예측 성능을 제공했지만 재공재고 수준이 낮고 signal data의 특징을 갖고 있는 작업장 (작업장 2, 작업장 3)은 잘 예측하지 못한 결과를 보여주었다. Input 작업장 재공재고 예측 모델에서는 ANN이 평균 RMSE 1.75, 평균 MBE -0.07로 가장 좋은 결과를 보여주었다. 또한, 작업장 1 재공재고 예측 모델에서도 ANN이 평균 RMSE 1.53, 평균 MBE 0.34로 좋은 결과를 보여주었다. 작업장 2와 작업장 3은 현저히 적은 양의 재공재고를 다루고 있기 때문에 평균 RMSE값과 평균 MBE값이 0에 가깝지만 예측 결과를 그래프로 가시화한 결과를 통해 MVA로 구한 값과 별로 다르지 않은 성능을 보여주었다.