국내 연구진이 양자컴퓨터 연산 효율을 높일 수 있는 최적화 알고리즘을 개발했다. 신약 개발과 반도체 설계 등 다양한 산업 혁신에 기여할 전망이다.
광주과학기술원(GIST·총장 김기선)은 안창욱 인공지능(AI)대학원 교수팀이 기존 반-고전 양자 유전 알고리즘 최적화 성능을 유지하면서도 연산 효율성을 획기적으로 끌어올릴 수 있는 알고리즘 구조를 개선했다고 22일 밝혔다.
양자 유전 알고리즘은 양자 신경망·양자 강화학습 등 기존 고전적 컴퓨터에서 성능이 입증된 기술을 양자컴퓨터에서 재현하려는 시도의 일환이다. 유전 알고리즘 장점인 전체 탐색 영역에서 최적의 해를 찾는 전역 최적화에 대한 메타-휴리스틱 접근법을 양자컴퓨터에서 구현하는 것을 목표로 한다. 하위개념인 반-고전 양자 유전 알고리즘은 고전적 유전 알고리즘 실행구조를 그대로 모사함으로써 상대적으로 빠른 성능 검증과 실용화에 초점을 두고 있다.
지금까지 관련 연구는 알고리즘 양자적 전환이라는 목표에 지나치게 집중했지만 최적화 성능 향상은 상대적으로 관점의 대상에서 벗어났었다. 양자계에서 필연적으로 발생하는 파동함수 붕괴는 반복적인 연산을 통해 해를 찾는 유전 알고리즘 작동 원리와 상충한다.
기존 반-고전 양자 유전 알고리즘 연구는 모집단 형성 시 대량의 무작위 개체를 생성함으로써 이 문제를 우회적으로 해결했다. 하지만 모집단 규모를 불필요하게 확장했기 때문에 양자 컴퓨터가 가진 자원 낭비를 초래하는 결과를 낳았다.
안 교수팀은 무작위 개체들이 알고리즘 최적화 작업에 거의 기여하지 않는다는 가설을 세운 뒤 알고리즘 다윈 진화적 구조를 유지하면서도 무작위 개체 생성을 최소화하기 위한 양자 회로를 개선했다. 이를 통해 각 세대에서 모집단을 형성할 때 이전 세대에서 확보한 우수한 개체 유전적 특성을 완전히 또는 부분적으로 보유한 개체만을 생성하는 구조를 설계했다.
연구팀이 이렇게 개선된 알고리즘을 이전 알고리즘과 함께 최적화 문제에 적용해 성능을 비교하는 실험을 한 결과, 이전 알고리즘과 동등한 수준의 최적화를 달성하면서도 총 적합 값 계산 횟수를 기존의 2560회에서 432회로 단축해 각 세대에서 요구하는 연산량이 최대 80% 감소하는 성능 향상을 입증했다. 알고리즘 본연의 최적화 성능 하락을 방지함과 동시에 모집단 규모를 축소함으로써 알고리즘 연산 효율을 약 5배 끌어올리는 데 성공했다.
안창욱 교수는 “양자컴퓨터는 최적화 문제에 대한 답을 빠르게 찾아냄으로써 미래 산업과 안보 생태계 판도를 바꿀 것으로 예상한다”며 “고전적 컴퓨터에 대한 관념을 벗어난 창의적 접근을 통해 실질적인 성능 개선을 이뤄냈다”고 말했다.
이어 “이번 연구는 양자컴퓨터만이 가능한 연산 방식으로 효율성까지 고려함으로써 향후 실용적인 양자 최적화 알고리즘 연구의 발판이 될 수 있을 것”이라며 “더욱 효과적인 양자 최적화 알고리즘의 개발로 이어질 수 있기를 기대한다”고 덧붙였다.
이번 연구는 안 교수가 지도하고 김준석 박사과정생이 수행했으며 한국연구재단 박사장려금 지원사업과 중견연구자 지원사업으로 이뤄졌다. 연구 결과는 컴퓨터공학 이론 및 방법 분야 국제학술지 '미래 세대 컴퓨터 시스템' 온라인에 최근 게재됐다.
광주=김한식기자 hskim@etnews.com
