에스투더블유(S2W)가 거대언어모델(LLM) 관련 보안 위협을 분석한 '2024년 사이버 위협 결산 보고서'를 공개했다.
이번 보고서는 공급망 공격, 불안정한 국제정세에서 비롯된 사이버 공격, 은닉 채널 정보 유출 등 올 한 해 발생한 주요 사이버 위협의 유형과 사례를 망라했다. 특히 생성형 인공지능(AI) 대중화에 수반된 LLM 악용 위협 사례를 조명했다.
우선 올해 2월 오픈AI가 마이크로소프트(MS) 위협인텔리전스팀과 협력해 북한·중국·러시아 등 특정 국가를 배후에 둔 지능형지속위협(APT) 그룹이 정보 수집과 코드 디버깅, 피싱 콘텐츠 작성 등에 LLM을 활용하려 한 시도를 포착한 사례를 분석했다.
또 LLM 서버 노출로 인한 민감 정보 유출의 위험성도 주시했다.
앞서 S2W는 지난 8월 '플로와이즈(Flowise)' 등을 포함한 다수의 오픈소스 LLM 빌더 서버와 벡터 데이터베이스가 인터넷에 노출돼 민감 정보가 유출된 사례를 소개하며, 이와 같은 사고는 기업이 AI 도구를 비즈니스에 적용하는 과정에서 보안을 간과한 결과였다고 지적했다.
S2W는 LLM이 사이버 공격에 악용될 가능성을 최소화하기 위한 방안도 제시했다.
먼저 기업이 LLM 도입 전에 철저히 안전성을 검토하고 민감 데이터 노출을 방지하기 위한 관리·인증 절차를 구축해야 한다고 제언했다. 또 LLM 제공업체와 사용자 역시 위협 인텔리전스(TI)를 통한 모니터링을 강화해 악용 시도를 사전 차단하고, AI 기반 위협 대응 체계를 고도화해야 한다고 강조했다.
아울러 보고서엔 공급망 취약점을 파고든APT 그룹의 정교한 공격 사례도 담았다.
김재기 S2W 위협인텔리전스 센터장은 “모든 조직은 딥다크웹과 텔레그램 등 히든 채널 모니터링 시스템을 구축하고 유의미한 인텔리전스를 도출해 유사시 대응 역량을 강화해야 한다”며 “온톨로지(Ontology) 기반 지식그래프 기술을 바탕으로 악성코드 및 취약점과 위협 행위자 간 연관성을 체계적으로 파악해, 고객이 최적화된 방어 전략을 구축할 수 있도록 지원하고 있다”고 말했다.
조재학 기자 2jh@etnews.com
