136 다층 퍼셉트론의 응용

각종 경기에 있어서 1등과 2등의 차이는 실로 엄청나다. 프로 테니스나 프로 골프의 경우에 1등상금이 20만달러라면 2등상금은 몇만달러에 불과하다. 골프에서의 1타차이가 그렇게 큰 상금의 차이를 만든다.

그러나 이 정도는 약과인지도 모른다. 세계최초로 전화를 발명한 사람이 벨 Bell 이라는 사실은 누구나 알고 있다. 그러나 발명왕 에디슨도 그와 동시 에 전화를 발명하였다. 그러나 그는 특허신청이 30분 늦었기 때문에 전화에 관한한 에디슨을 기억하고 있는 사람은 거의 없다. 흔히 콜럼버스의 달걀이 라고 불리는 최초의 고안자가 각광을 받게 되는 것이다. 그러한 맥락에서 볼때 다층퍼셉트론모델도 신경망에 관한한 불멸의 공적으로 여겨질 것이다.

1986년에발표된 다층퍼셉트론모델은 소개되자마자 새로운 가능성으로 엄청난 주목을 받았다. 1960년대에 거의 소멸되다시피한 신경망연구의 부활을 알리는 신호탄이었던 것이다. 물론 그 이전에도 몇가지 신경망모델들이 연구되 고 발표되었으나 본격적인 횃불을 올린 것은 바로 이 다층퍼셉트론 모델이었던 것이다.

다층퍼셉트론이발표된지 얼마 되지 않아 미국의 세즈노스키(Sejno-wski) 는백프로퍼게이션학습알고리듬을 이용한 다층퍼셉트론 모델을 사용하여 문자를 음성으로 합성하는 네토크(NETtalk)모델을 개발하였다. 이 모델은 미국 에서열린 컴퓨터관련학술대회에 빠짐없이 전시되어 신경망의 새로운 유행에 일조 하였다. 수백번의 전시를 통하여 텍스트를 발음할 수 있는 신경망의 능력에 많은 사람들이 감탄하였으며 그것을 계기로 신경망연구에 입문하는 사람들이 급격히 불어났다.

다층퍼셉트론은입력층과 출력층사이에 하나 이상의 중간층을 가진다. 이 중간층은 통상 은닉층이라고도 불리는데 단층 퍼셉트론이 할 수 없었던 보다 복잡한 패턴 분류를 가능하게 해준다. 은닉층이 하나냐 여러개냐에 따라 그 결과가 달라지는 것은 아니다. 다만 응용에 따라 은닉층의 개수는 경험적인 판단에 의해 결정되는 경우가 많다.

다층퍼셉트론의가장 성공적인 적용의 예는 XOR문제다. 이 문제는 전술한 바와 같이 0과 1의 입력 가운데 똑같은 입력쌍에 대해서는 0이 출력되고 서로 다른 입력에 대해서는 1이 출력되도록 학습하는 문제다.

1960년대에단층 퍼셉트론이 해결할 수 없었던 학습에 관한 대표적인 이 문제를 해결함으로써 신경망연구는 새로운 출발점을 맞이하였다. 이를 계기로많은 사람들이 신경망에 대한 기본적인 이해를 하게 되었으며 다수의 사람들이 신경망연구에 몰두하였다. 미국의 이브 쇼빈(Yves Ch-auvin)같은 사람은XOR문제에 대하여 은닉유닛의 수 및 학습계수의 변화가 학습의 속도에 주는영향을 조사하였다. 여러번의 실험결과 단지 두번만이 지역최소점에 빠져 정확한 해를 구할 수 없었고 나머지 경우에는 모두 정확한 해를 구하였다.

다층퍼셉트론의또 다른 성공적인 적용은 패리티(Parity)문제였다. 패리티문제는 입력패턴이 홀수개의 1을 포함한 경우에만 1을 출력하는 문제인데 매우 유사한 입력에 대해 다른 출력을 내지 않으면 안되므로 일반적인 네트워크를 이용하여 풀기에는 쉽지 않은 문제다. 중간층의 내부 표현을 통하여 이 문제 를 정확하게 풀었다는 것은 다층퍼셉트론이 뛰어난 기능을 지녔음을 의미한다고 볼 수 있다.

그외다층퍼셉트론이 해결한 초창기의 문제들로는 부호화(Encoding)문제, 대칭성 Sy-mmetry 문제 덧셈문제, 부정(Negation)문제, T-C 판별문제 등이 있다. 이러한 문제해결에 있어서의 결정적인 요인으로는 은닉층을 사용함으로써 신경망의 내부표현이 풍부하게 되었다는 점이다. 이를 계기로 하여 음성 인식.음성합성을 비롯한 다층퍼셉트론모델의 본격적인 응용이 이어졌다.

이러한맥락에서 신경망연구에 있어서 다층 퍼셉트론이 차지하는 비중은 실로 지대하다고 여겨진다.