양자 보안 전문 기업 노르마는 최근 공인인증서 해킹이 가능한 새로운 양자 알고리즘이 등장함에 따라 국내외 보안 시장에 양자내성암호(PQC)에 대하 요구가 높아질 것으로 전망했다.
미국 뉴욕대학교 수학연구소 오데드 레게브 교수는 '효율적인 양자 인수분해 알고리즘'을 논문 사전 공개 사이트 아카이브(arXiv)에 발표, 익히 알려진 쇼어 알고리즘보다 더 효율적으로 인수분해 할 수 있는 계산법을 공개했다.
레게브 교수 논문에 따르면 기존 쇼어 알고리즘의 몇 단계를 개선하면 계산 속도를 높이고 양자컴퓨터의 오류까지 줄일 수 있다. 쇼어 알고리즘은 인수분해 방법 중 '주기 찾기 문제'를 사용한 방법에 양자 알고리즘을 도입해 해결했다. 반면 레게브 알고리즘은 '격자 축소 문제'를 사용해 더 효율적으로 인수분해 문제를 풀이한다.
레게브 알고리즘으로 약 2048비트(약 600자리)를 인수분해하면 게이트 수를 쇼어 알고리즘에 비해 2~3배 줄일 수 있을 것으로 추정된다.
이 같은 연구 결과는 레게브 알고리즘을 양자 컴퓨터에서 사용하면 복잡한 인수문제를 한층 효율적으로 풀이할 수 있다는 점을 확인한 것이다. 인수분해 문제를 기반으로 한 현대 암호의 유효기간이 단축됐음을 시사한다.
현재 공동인증서 등 여러 분야에 사용되고 있는 공개키 암호 RSA는 큰 수의 인수분해가 천문학적인 시간이 소요될 만큼 어렵다는 수학적 근거에 기반하고 있다. 메사추세츠공대 피터 쇼어 교수는 양자 알고리즘을 사용해 주기 찾기 문제에 소요되는 시간을 획기적으로 줄일 수 있고 이는 인수분해 풀이 속도를 기하급수적으로 가속화할 수 있음을 30여년 전 최초로 밝혀냈다.
단, 실제 사용하는 RSA를 해킹하려면 약 2048비트의 큰 수를 인수분해해야 하고 양자컴퓨터의 오류까지 감안해야 하기 때문에 현실적으로 암호 해독은 한계가 있을 것으로 봤다. 그런데 레게브 교수가 30년만에 쇼어 알고리즘을 개선해 한층 효율적으로 인수분해 문제를 풀이해낸 것이다.
노르마 정현철 대표는 “이번 논문은 공인인증서가 새로운 양자 알고리즘으로 깨질 수 있다는 것을 보여준다”며 “PQC 도입 준비를 서둘러야 함을 시사한다”고 평가했다.
국내외에서는 양자컴퓨터에도 안전한 암호인 PQC 표준화 작업이 한창이다. 미국 국립표준기술연구소(NIST)는 양자 암호화 표준 후보로 4종의 PQC 알고리즘을 발표했고, 이중 3종은 표준 문서 초안 작성중이다. 한국은 양자내성암호연구단(KpqC)를 중심으로 표준화를 준비하고 있다.
노르마는 2011년 설립 이래 AI 기반 IoT 통합 보안 관제 솔루션 'IoT 케어 2.0(IoT Care 2.0)' 등 네트워크 및 IoT 보안 솔루션을 선보였다. 국방부, 한국수력원자력, 경찰청 등 기업 및 공공기관 중심의 공신력 있는 레퍼런스를 통해 기술력을 검증했다.
최근에는 기존 보안 영역에 PQC 기술을 적용해 PQC 기반의 IoT 보안과 자동차 보안, 스마트홈 보안 솔루션을 마련하고 있다. 대표 제품으로 PQC 기술을 적용한 고성능 SSL VPN 'Q 케어 커넥트(Q Care Connect)'가 있다. 양자 보안 기술력을 양자 컴퓨팅 분야로 확장해 양자 응용 프로그램 개발도 추진 중이다.
정 대표는 “양자컴퓨터에 대응할 수 있는 새로운 방식의 공개키 암호가 확정되면 현재 사용하고 있는 모든 보안 시스템을 바꿔가야 한다”며 “양자컴퓨터가 상용화될 것으로 전망되는 2030년 이전에 보안 대비를 마쳐야 할 것”이라고 강조했다.
조정형 기자 jenie@etnews.com
