보다 정교하고 지능적인 신경망 모델을 개발하기 위해 수많은 노력을 해다.
많은사람들이 각자 생각한 아이디어를 바탕으로 시뮬레이션해 온 결과 특정 한 응용분야에 어느 정도 적용되는 모델들이 개발 되었으며 컴퓨터 시뮬레이션을 통하여 개량되어 왔다.
신경망에있어서의 문제점중의 하나는 신경망 학습을 위한 반복적인 계산작업이 대부분의 경우 너무 오래 걸린다는 점이다. 이러한 단순계산을 위해 걸리는 시간적인 소모가 신경망의 실시간 처리를 어렵게 하고 있다. 특히 백프로퍼게이션 모델이나 네오코그니트론 모델의 경우에는 근본적으로 많은 시간이 걸리기 때문에 소프트웨어적인 구현으로는 실시간처리의요구사항을만족시 킬수없다. 이러한 문제점을 해결하기 위한 방안으로 대두된 것이 신경망의 주요 특징중 의 하나인 분산 병렬처리성을 이용하는 것이다. 이 방법은 많은 수의 뉴런에 해당하는 각각의 프로세서들을 동시에 작동시킴으로써 신경망 학습에 걸리는시간을 획기적으로 단축시키려는 것이다. 그러나 병렬 처리를 하더라도 프로 세서들간의 통신에 많은 오버헤드가 있기 때문에 기대와는 달리 아직까지는별다른 성과가 없는 실정이다.
따라서신경망의 실시간 구현을 위해 계산 속도가 매우 빠른 신경망 칩을 통한 구현이 제기되었다. 이 방법은 신경망 이론을 적용하여 들어온 입력에 대해 충분한 시뮬레이션을 거친 후 이들의 특징을 그대로 칩에다 구현하는 것이다. 신경망을 칩으로 구현할 때 생물학적 신경망에 대응하는 전자적인 뉴런의 구현을 위해 입력은 덴드라이트(Dendrite), 연결 강도는 저항(Resistor), 세포 의 몸체는 증폭기(Amplifier), 출력에는 액슨(A.on)이 각각 대응하게 된다.
신경망의집적회로를 통한 구현은 3가지 방법으로 나눌 수 있다. 즉 디지털 Digital 방법 아날로그(Analog)방법, 그리고 두가지 형태를 결합한 하이브리드 H-ybrid 방법이다. 디지털 방법은 신호들이 통상 2개의 안정된 상태를 가지는데 그것들의 함수 들은 부울(Boolean)연산에 의존한다. 디지털 신경망칩은 ON과 OFF의 두가지 상태를 가진 회로를 사용하며 상태의 전이는 이산적 시간에 따라 칩에 제공 되는 클록신호에 의해 제어된다. 디지털 신경망 칩의 장점은 노이즈에 강하고 빠르고 정확한 계산이 가능 하다는 것이며 단점은 기본적인 연산 수행에 있어서 더 많은 양의 트랜지스터가 필요하다는 것과 입력센서 변환에 있어서비교적 많은 파워의 손실이 있다는 것이다.
아날로그적인방법은 신호들이 연속적으로 변하고 곱셈과 덧셈의 연산을 하기 위하여 트랜지스터의 선형과 비선형의 조합으로 구현된다. 아날로그 신경 망 칩의 장점도 디지털 칩의 경우와 유사한데 프로그램이 가능한 컴포넌트를포함할 수 있으며 고정된 것과 적응적인 연결강도의 저장이 가능하다는 점이다. 주요 단점으로는 온도에 대한 안전성이 부족하고 잡음을 내포하며 연결 상의 문제점 등이 지적되고 있다.
하이브리드신경망 칩은 디지털과 아날로그의 장점들을 살리고 단점들을 보완하려는 혼성적인 방법이다. 하이브리드형의 경우 n개의 데이터 입력에 대해 n⒁개의 연산이 필요할 때는 아날로그형을 선택하지만 전이함수의 계산이 너무 복잡할 경우에는 디지털 회로를 사용하게 된다.
이와같이 하이브리드형은 디지털과 아날로그방법의 장점들을 최대한 이용하려는 시도로 여겨지므로 이론적으로는 하이브리드형의 신경망 칩을 통한 구현이 가장 이상적이다. 그럼에도 불구하고 실제 적용에 있어서는 어떤 경우에 아날로그나 디지털 방법중 하나를 선택할 것인가라는 근본적인 문제점을 내포하고 있다.
벌이나파리수준의 지능을 실시간에 구현하기 위한 노력이 진행되고 있으며신경망 칩은 처리속도면에서의 문제점을 해결할 수 있는 대안으로 여겨지고있다. 칩을 통한 벌수준의 지능이 구현되는 시기는 언제쯤일까.