삼성전자가 세계 최초로 인공지능(AI) 프로세서를 탑재한 신개념 메모리 반도체를 개발했다. 데이터를 읽거나 기록하는 장치로만 여겨진 메모리에 중앙처리장치(CPU)와 같은 연산 기능을 부여한 것으로, 메모리 반도체에 패러다임 변화를 몰고 올 지 주목된다.
삼성전자는 메모리 반도체와 AI 프로세서를 하나로 결합한 HBM-PIM을 개발했다고 17일 밝혔다.
PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술을 뜻한다.
삼성전자는 PIM 기술을 활용, 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용할 수 있는 HBM-PIM을 개발했다.
기술적으로는 지난 2018년 1월 양산한 2세대 고대역폭 메모리 'HBM2 아쿠아볼트'에 AI 엔진을 탑재, HBM-PIM을 완성했다.
HBM-PIM의 특징은 기존 D램이 CPU에 데이터를 전달하는 역할을 하는 것과 달리 연산의 일부를 담당하는 데 있다.
최근 AI 응용 영역이 확대되고 기술이 고도화되면서 고성능 메모리에 대한 요구가 지속적으로 커져 왔지만 기존의 메모리로는 '폰 노이만' 구조의 한계에 부닥쳤다.
컴퓨터 대부분에서 활용되는 폰 노이만 구조는 CPU가 메모리로부터 명령어를 불러오고 실행하며, 그 결과를 다시 기억장치에 저장하는 작업을 순차 진행한다.
이 과정에서 CPU와 메모리 간에 주고받는 데이터가 많아지면 작업 처리가 지연되는 현상이 발생한다.
삼성전자는 이를 극복하기 위해 메모리 내부 각 뱅크(주기억장치를 구성할 때 최소 논리 단위)에 AI 엔진을 장착하고 병렬 처리를 극대화, 성능을 높였다.
또 HBM-PIM에 연산 처리 기능을 넣어 CPU와 메모리 간 데이터 이동 감소에 따른 시스템의 에너지 효율을 개선했다.
삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소된다.
이와 함께 기존 HBM 인터페이스를 지원해 HBM을 이용하는 고객들은 하드웨어(HW)나 소프트웨어(SW) 변경 없이 HBM-PIM을 탑재, AI 전용 시스템을 구축할 수 있다.
삼성전자는 D램 공정에서 HBM-PIM 제품화에 성공했으며, 최근 반도체 분야 세계 최고 권위를 자랑하는 학회 ISSCC에서 관련 논문을 공개했다.
삼성전자는 HBM-PIM 기술이 고성능컴퓨팅(HPC), 머신러닝 시스템 등 AI 시장에서 각광을 받을 것으로 보고 있다. 올 상반기 다양한 고객사의 AI 시스템에 제품을 탑재, 테스트 검증을 완료할 예정이다.
박광일 삼성전자 전무는 “HBM-PIM은 AI 가속기 성능을 극대화할 수 있는 업계 최초의 AI 맞춤형 PIM 솔루션”이라면서 “고객사와의 협력을 강화, PIM 생태계를 구축할 것”이라고 밝혔다.
강해령기자 kang@etnews.com