시냅스의 최대 자극 수용 한계를 이용한 인공 신경망에 대한 연구

Abstract

인공지능에 대한 연구는 주로 인간이 정의한 지능에 초점을 맞추어 진행되었다. 그것은 지능활동이 갖는 특징들-기억, 추론, 예측 등-을 정의했고 여러 가지 접근법으로 연구되었다. 대부분의 경우 기계가 특정 행동을 하도록 규칙을 정하고 강제하는 경우가 많았는데 이런 방법은 학습 능력이 없는 기계가 예외 상황이 발생 했을 때 적절히 대응하기 힘들었다. 자연어 처리를 예로 들어보면, 기계에게 인간의 언어를 이해시키려는 노력은 주로 인간의 언어를 분석하고 이들이 갖는 규칙을 정의하여 기계에 적용하려 했다. 그러나 언어는 일정한 규칙을 가지면서도 수많은 예외 사항이 존재한다. 특히, 문어가 아닌 구어에서는 규칙을 따르지 않는 경우가 많다. 뿐만 아니라 모든 예외를 처리할 수 있다고 해도 정해진 규칙에 따라 동작하는 것일 뿐, 언어를 이해했다고 보기 힘들다. 때문에 기계에게 인간의 언어를 이해시키려는 노력은 비록 많은 발전이 있긴 했으나 목표를 온전히 이루지는 못했다. 이에 대해 저자는 근본적 원인이 그 접근법이 생물학 적이지 않기 때문이라고 가정하고 뇌가 정보를 어떻게 처리하는지 알아보고 그것을 모방해 기계가 인간의 언어를 이해하고 사고할 수 있게 하는 방법에 대해 논한다. 따라서 인간의 의사소통을 관찰하고 그것이 어떤 메커니즘으로 일어나는지 아는 것은 의미 있는 일이다. 본 논문에서는 기존의 인공 신경망을 구성하는 뉴런 하나에 하나의 의미를 부여하고 기존의 인공 신경망이 공간적인 결합만이 가능했던 것에 비해 시간적인 결합도 가능하게 하는 새로운 형태의 인공 신경망을 제안했다. 그리고 그 인공 신경망을 검증하기 위해 간단한 덧셈을 수행하는 실험을 했다. 거기에 덧붙여 제안한 인공 신경망과 유사한 연결 형태를 가지는 Hopefield 신경망을 비교하여 공간적 학습과 시간적 학습을 실험했다.