올해에 이어 내년에도 인공지능(AI)은 사이버 보안의 핵심 키워드로 자리 잡을 것으로 보인다. 공격자와 방어자 모두 공방을 주고 받으며 AI 기술을 적극 사용할 전망이다.
9일 정보보호산업계에 따르면 프루프포인트, 디지서트, 구글 클라우드, 팔로알토 네트웍스, 안랩, SK쉴더스 등 국내외 주요 사이버 보안 기업은 내년 사이버 보안 위협 전망 분석에서 AI를 빼놓지 않았다.
프루프포인트는 내년부터 공격자가 AI 자체를 타깃으로 삼은 공격을 본격화할 것으로 내다봤다. AI 에이전트 의존도가 점점 더 높아지는 데다 생성형 AI가 콘텐츠 생성을 넘어 인사관리(HR)·마케팅·데브옵스(DevOps) 등 기업 전반에 걸쳐 의사결정자 역할을 할 것으로 전망되기 때문이다. 이에 공격자는 허위 사실이나 오류가 포함된 자료로 이메일이나 문서를 고의로 조작하는 등 거대언어모델(LLM) 기반 개인 데이터를 훼손해 AI를 공격 수단으로 활용할 수 있다.
디지서트도 내년 사이버 보안 10대 전망 중 하나로 AI 기반 리스크 증가를 꼽았다. AI 기술 발전이 탐지가 어려운 고도화된 피싱 공격의 폭발적 증가를 불러올 것으로 보고 있다. 공격자가 AI를 활용해 매우 정교하고 개인에게 맞춤화된 피싱 캠페인을 설계하는 동시에 자동화 도구를 통해 개인과 조직을 정밀히 겨냥해 빠른 속도로 대규모 공격을 펼칠 수 있다.
구글 클라우드는 내년은 AI와 보안의 두번째 단계로 AI를 이용해 반자율 보안 운영까지 실현될 것이라는 내용의 '2025년 사이버 보안 전망' 보고서를 내놨다. 보고서는 AI로 인한 위협과 AI를 활용한 보안 기술이 진화하고 있다면서 내년엔 AI가 완전자율보안운영의 전 단계인 반자율 운영을 시작할 것이라고 예측했다.
팔로알토네트웍스 역시 '사이버 보안과 AI의 융합: 2025년을 위한 7가지 게임 체인저 예측'에서 보안 운영 중심에 AI를 둬야 한다고 강조했다. 해커와 보안 개발자 모두 AI를 적극 활용함에 따라 이른바 'AI 사이버 군비 경쟁'으로 치달을 전망이다. 이에 따라 내년 사이버 보안 성공은 보안 솔루션과 데이터의 통합 플랫폼 융합, 거버넌스 프레임워크와 AI 신뢰 구축, 보안 운영 중심에 AI 두는 것 등에 달렸다는 게 팔로알토 네트웍스의 제언이다.
국내 사이버 보안 기업도 내년에 AI를 악용한 공격이 증가할 것이란 관측을 내놨다.
안랩은 내년 주목해야 할 5대 사이버 보안 위협 중 하나로 AI 기반 공격 확산을 제시했다.
우선 내년엔 생성형 AI를 악용한 사이버 공격이 한층 고도화할 것으로 봤다. 구체적으로 사회적 신망이 두터운 인물로 위장한 딥페이크 영상을 공격에 활용하는 '사회공학적 해킹', 프로그램·시스템 '취약점 발견' 시도, 시스템 환경을 학습해 탐지 회피를 시도하는 '적응형 멀웨어' 제작 등 AI를 전천후로 활용할 것으로 보고 있다.
SK쉴더스 역시 내년 5대 정보보안 위협에 'AI전환(AX) 시대를 파고드는 AI 보안 위협'을 올렸다.
정교화한 딥페이크·딥보이스 기술과 같은 AI 기반 공격이 늘어나는 동시에 금융사기 등의 형태로 공격이 발전해 심각한 피해가 발생할 것으로 예측했다. 또 경량 거대언어모델(sLLM)을 노린 해킹 위협이 새롭게 부상할 전망이다. 기업이 외부 생성형 AI와 비교해 민감정보 유출을 우려가 적은 sLLM을 선호하지만, 부서 기밀정보 공유, 외부 협력자 접근 등 맹점이 있다. LLM 자체 취약점을 활용해 데이터 조작·유출하는 공격으로 인해 피해가 증가할 것으로 보인다.
조재학 기자 2jh@etnews.com
