한국전자통신연구원(ETRI)은 AI 핵심 시스템 소프트웨어(SW)인 딥러닝 컴파일러(프로그래밍 언어를 컴퓨터가 이해하는 언어로 번역하는 도구) '네스트(NEST-C)'를 개발했다고 26일 밝혔다. ETRI는 이를 자체 개발한 AI 반도체 하드웨어(HW)와 함께 웹(Github)에 오픈소스로 공개했다.
딥러닝 컴파일러는 딥러닝 모델 추론 성능을 보장하는 핵심 시스템 SW다. HW와 응용 SW 간 가교 역할을 한다.
ETRI는 AI 응용프로그램에 적합한 공통 중간표현(컴파일러가 실행코드를 기계어코드로 변환시키기 위해 거치는 내부 고유 표현)을 정의해 네스트 컴파일러에 적용했다. AI 응용프로그램과 AI 반도체 간 이질성을 해소, AI 반도체 개발이 쉬워진다. 이 기술은 한국정보통신기술협회(TTA) 표준으로도 제정됐다.
보통 제조사들은 AI 반도체, 시스템 SW, 응용프로그램을 함께 개발해 판매한다. 그간 중소기업·스타트업은 반도체 설계에 역량을 집중하기 어려웠다. 시스템 SW, 응용프로그램 개발 및 최적화에 적지 않은 시간을 투입하기 때문이다.
특히, 컴파일러는 칩의 종류와 AI 응용프로그램에 따라 일일이 다르게 개발해야 하는 번거로움까지 있다. 상호 호환성과 새로운 영역으로의 확장성에 한계가 있었다.
이번 개발로 응용프로그램 개발 및 최적화 시간을 단축하고 시스템 SW 개발 수고를 덜 수 있다. 반도체 생산·판매비용 절감효과와도 연계된다. CPU, GPU뿐 아니라 신경망처리장치(NPU) 프로세서까지 모두 호환된다.
기존에는 딥러닝 플랫폼과 칩 종류만큼 컴파일러를 개발해야 했으나, 이제는 범용성 높은 네스트 컴파일러 하나로 대신할 수 있다.
ETRI는 국내 AI 반도체 스타트업이 자체 개발한 고성능 AI 반도체에도 네스트 컴파일러를 적용했다. 관련 기업과 협업해 딥러닝 컴파일러 지원 범위를 넓힐 계획이며, SW 전문 기업을 통해 AI 반도체 적용 서비스의 사업화도 추진 중이다.
김태호 ETRI 차세대시스템SW연구실장은 “표준 딥러닝 컴파일러 오픈소스 공개는 국내 AI 반도체 생태계 활성화를 위한 것”이라며 “다양한 AI 반도체 기업들에 적용하기 위해서 기술협력을 진행 중”이라고 말했다.
김영준기자 kyj85@etnews.com