서로 다른 반도체(다이)를 연결하는 '이종결합(HI) 패키징'이 신경망처리장치(NPU) 개발·고도화 필수 기술로 급부상했다.
이성현 오픈엣지테크놀로지 대표는 19일 전자신문 주최 '테크서밋 2023'에서 “고성능 NPU를 구현하려면 여러 개의 칩을 집적하는 칩렛 기술 등 '멀티 다이' 구조가 핵심”이라고 밝혔다.
특히 엣지용 AI 반도체는 소비 전력과 공간 등 가용 자원이 제한적이어서 칩렛 기반으로 반응시간을 최소화하고 소비전력·면적·메모리 효율성을 극대화하는 전략이 중요하다고 강조했다.
엣지는 대규모 서버가 아닌 가전·자동차·로봇 등 최종 기기단을 의미한다. 네트워크를 거치지 않은 만큼 AI 연산 속도가 빠르다는 게 강점이다. 그러나 자체 전력 공급 등 기술적 난제가 상존한다. 엣지용 반도체는 기본 성능은 제공하면서 전력은 적게 사용해야 되고 면적이 작아야 된다. 메모리 반도체 사용도 최소화해야 하는 숙제가 있다.
이 대표는 칩렛 기술이 엣지용 AI반도체의 한계를 극복하는 단초가 될 것으로 전망했다. 칩렛은 시스템온칩(SoC)을 구성하는 기능 블록(반도체 IP)을 최소 단위로 분리, 성능에 최적화한 방식으로 결합한다. 면적과 비용 효율성을 극대화할 수 있다.
성능뿐만 아니라 생산성도 끌어올릴 수 있다. 용도별 트랜지스터 집적도를 달리 적용할 수 있어 생산원가를 절감할 수 있다. 각 반도체 IP를 독립적으로 설계, 반도체 개발 시간과 비용을 줄이는 방식을 채택했다. 또 같은 IP를 다양한 장치에서 재사용하며 응용처를 늘릴 수 있는 것도 강점이다.
오픈엣지 역시 차세대 NPU IP 개발에 칩렛을 적용할 방침이다. 회사는 최근 최대 초당 1000조번(TOPS) 연산이 가능한 3세대 NPU IP를 개발하고 있다. 이미 기술을 확보한 2세대 NPU 대비 성능을 10배 이상 고도화할 것으로 예상된다. 자율주행 적용 시 자동차가 스스로 상황을 판단, 운전자 개입이 불필요한 레벨4 수준까지 지원할 수 있을 것으로 기대된다.
이 대표는 “칩렛 기술을 활용해 '멀티 다이 AI 플랫폼 IP 솔루션'으로 포트폴리오를 확대할 것”이라며 “경쟁사 대비 소비전력·면적·메모리 등에서 높은 효율성을 확보해 AI반도체 IP 기술을 선도하겠다”고 밝혔다.
NPU 실수 연산을 데이터 폭이 작은 정수 연산으로 변환하는 '신경망 양자화 기술'도 적용한다. 기존 신경망 양자화의 대세였던 8비트(bit) 뿐 아니라 4비트 양자까지 혼합하는 기술로 NPU 성능을 끌어올린다. 4비트는 8비트 대비 2배 빠른 연산 속도를 지원한다.
실제 오픈엣지가 자체 NPU로 테스트한 결과, 혼합 양자화 시 소비전력 효율성은 5.5배 더 우수하고 면적 효율성은 2.4배 우위에 있는 것으로 나타났다.
박종진 기자 truth@etnews.com