올해 상반기 금융권을 타깃으로 삼은 사이버 공격이 가장 많은 것으로 나타났다. 비트코인 등 가상자산을 노린 공격이 늘어난 탓이다.
SK쉴더스가 미디어 세미나를 열고 이같은 내용의 2024년 상반기 주요 보안 트렌드를 발표했다.
SK쉴더스 EQST(이큐스트)가 분석한 업종별 침해사고 발생 통계를 살펴보면, 국내에선 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 비트코인 상장지수펀드(ETF) 승인 등 이슈로 가상자산 가치가 상승해 이를 노린 해킹 공격이 지속됐다.
국외에선 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다.
유형별 사고 발생 통계론 취약점 공격이 45%로 가장 많이 발생했다. 가상사설망(VPN), 라우터 등 네트워크 장비를 통한 지능형지속위협(APT) 공격 때문인 것으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 '소셜 엔지니어링' 공격이 26%로 뒤를 이었다.
EQST는 이날 거대언어모델(LLM) 서비스에서 발생 가능한 취약점 중 위험도가 높은 3가지를 시연했다.
우선, '프롬프트 인젝션'(Prompt Injection)은 악의적인 질문을 통해 인공지능(AI) 서비스에 적용된 지침·정책을 우회해 본 목적 이외의 답변을 끌어내는 취약점이다. 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다.
'불안전한 출력 처리' 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하한다. 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 예를 들어, 공격자가 원격 접속 코드 실행 요청이 포함된 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하게 되면 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취하는 식이다.
EQST는 또 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 '민감 정보 노출' 취약점을 분석했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우, LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있다. 이 때문에 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등 추가적인 보완책이 필요하다.
EQST는보안 대책으로 프롬프트 보안 솔루션과 데이터 정제 솔루션 도입, AI 서비스 보안 체크리스트를 통한 보안 위협 점검 등을 제안했다.
아울러 SK쉴더스는 다양한 산업 분야에서 취약점 점검, 모의해킹을 수행하며 보안 수준을 높여온 경험을 바탕으로 AI 인프라 운영에 특화된 제로 트러스트 환경 구축과 운영 체계 수립 서비스를 제공할 예정이다. 또한 기업에서 소프트웨어 자재명세서(SBOM) 등을 활용해 보안 이력을 관리할 수 있는 대책 등 전략을 선보인다.
김병무 SK쉴더스 정보보안사업부장(부사장)은 “전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화하고 있어 체계적인 대비가 필요하다”며 “선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속 공개하며 생성형 AI 시대 보안 전략을 제시하겠다”고 밝혔다.
조재학 기자 2jh@etnews.com
