INTERVAL TYPE-2 FUZZY RADIAL BASIS FUNCTION NEURAL NETWORKS

Abstract

많은 패턴 인식 분야에서, type-1 fuzzy sets (T1 FSs)은 입력 패턴의 여러 불확실성들을 효과적으로 표현하는데 성공적으로 사용되어 왔다 [1-4], [20-23], [29], [30], [38-40], [46], [50]. 반면에, 비록 T1 FSs 이 적절히 불확실성들을 표현할 수 있을지라도, 퍼지 패턴 분류 시스템에는 여러 부가적인 불확실성들이 존재한다. 이러한 불확실성들을 T1 FSs 보다 더욱 효과적으로 관리하기 위하여 type-2 fuzzy sets (T2 FSs)이 여러 패턴 인식과 제어 분야에 사용되어 왔고, T2 FSs이 더욱 효과적으로 주어진 패턴 집합의 불확실성을 다룰 수 있다는 것을 보여왔다. 그렇지만, “join”과 “meet”으로 불리는 union 과 intersection 이나 type-reduction과 같은 T2 FSs의 연산들은 무수히 많은 embedded T2 FSs의 조합에 의하여 계산된다. 따라서, a large amount of computation is required to compute T2 FSs의 연산을 계산하기 위하여 매우 많은 계산 량이 요구된다. 계산 량을 줄이기 위하여, secondary grade가 모두 균등하게 1인 interval type-2 fuzzy sets (IT FSs)가 사용되었다 [10-19], [25], [31-36], [41-45], [51], [52]. 반면에, IT2 FSs의 type-reduction 과정 또한 상당한 계산의 복잡도가 필요하다. 따라서, type-reduction의 계산 량을 줄이기 위한 여러 방법들이 제안되어왔다 [7], [32], [48], [49]. 본 논문에서는, radial basis function neural network (RBFNN)의 파라 미터에 대한 불확실성을 더욱 효과적으로 제어하기 위하여, IT2 FSs 바탕의 빠르고 간단한 RBFNN의 구조를 제안한다. 제안한 network는 fuzzy membership layer, IT2 RBF layer, output layer로 이루어진다. fuzzy membership layer는 입력 패턴들로부터 fuzzy membership 값들을 추출한다. IT2 RBF layer는 추가적인 2 종류의 가중치들과 두 Gaussian function들을 사용하여 IT2 FSs를 간단히 생성한다. Output layer는 계산 량이 많은 type-reduction 과정 없이 단순한 IT2 FSs의 수학 연산을 사용하여 crisp output 값들을 계산한다. 또한, 제안한 network를 디자인하기 위하여, 에러에 대한 각 가중치들의 미분들을 계산하는 방법들을 제시한다. 또한, 본 논문에서는 interval type-2 fuzzy membership functions (IT2 FMFs)의 생성 방법을 다룬다. Sample 데이터로부터 자동적으로 IT2 FMF를 생성하는 세가지 방법들을 제안한다. 제안한 세가지 방법은 heuristic based method, histogram based method, interval type-2 fuzzy c-means (IT2 FCM) based method 이다. Heuristic based method는 T1 FMFs를 교정함으로써 IT2 FMFs를 간단히 생성한다. Histogram based method는 sample 데이터의 histogram에 대한 Gaussian function fitting을 이용하여 IT2 FMF를 생성한다. 마지막으로, IT2 FCM based method는 IT2 FCM의 IT2 FMF에 관련된 수식을 사용하여 IT2 FMFs를 생성한다. 제안한 network와 IT2 FMFs 생성 방법들의 타당성을 보이기 위하여 여러 데이터 집합에 대한 실험 결과와 영상 분할 결과를 제시한다.; For many pattern classification applications, type-1 fuzzy sets (T1 FSs) have been successfully used to model the various uncertainty associated with input data over conventional systems[1-4], [20-23], [29], [30], [38-40], [46], [50]. Although T1 FSs can properly represent the uncertainties, there can still exist several uncertainties in fuzzy pattern classification systems which apply T1 FSs into their algorithms. To manage the uncertainties more effectively than T1 FSs, type-2 fuzzy sets (T2 FSs) have been applied into various pattern recognition and control areas and shown that they can effectively handle the uncertainties of given pattern sets. However, operations of T2 FSs, such as union (join), intersection (meet), and type reduction, involve numerous combinations of embedded T2 FSs. Thus, a large amount of computation is required to compute the operations of T2 FSs. To reduce the complexity, the use of interval type-2 fuzzy sets (IT2 FSs), where all secondary grades are uniformly weighted (i.e., all equal to one) have been introduced [10-19], [25], [31-36], [41-45], [51], [52]. However, the type-reduction process in IT2 FSs can still require a large amount of computational complexity. Therefore, methods for reducing the computational complexity of type reduction process in IT2 FSs have been proposed [7], [32], [48], [49]. In this dissertation, we present a novel structure of a radial basis function neural network (RBFNN) based on IT FSs not only to improve classification results but also to solve the computational issue of IT2 FSs. Our proposed network consists of three layers, the fuzzy membership layer, the IT2 RBF layer, and the output layer. The fuzzy membership layer utilizes the fuzzy membership values of input patterns using Gaussian function fitting to smoothed histograms of sample data. The IT2 RBF layer generates IT2 FSs for the fuzzy membership values using two distinct weights between the fuzzy membership layer and the IT2 RBF layer. The output layer obtains crisp output values using simple arithmetic operations of IT2 FSs without having to perform type-reduction. To find optimal weights, computing methods for the derivatives of error with respect to weights are presented as well. In this dissertation, we also focus on generation methods of interval type-2 fuzzy membership functions (IT2 FMFs). Three methods for generating an IT2 FMF automatically from training data are presented. Namely, the three methods are heuristic based, histogram based, and interval type-2 fuzzy c-means (IT2 FCM) based method. The heuristic method generates IT2 FMFs by simply incorporating heuristic T1 FMFs. The histogram based method generates IT2 FMF by performing Gaussian function fitting to smoothed histograms of sample data. The IT2 FCM based method uses the formula of the IT2 FCM to obtain IT2 FMFs. Several experimental results are given to show the validity of our proposed network and IT2 FMF generation methods.