[KAIST AI를 선도한다]<4>AI 이용한 정보보안

발행일 : 2017-05-07 17:00 지면 : 2017-05-08 6면

인공지능(AI)은 정보에서 시작한다. 장기간 또는 실시간으로 수집한 정보는 AI가 상황을 판단하고, 행동 방향을 정하는 기준이 된다. 앞으로는 정보보안도 지금과 다른 양상을 보이게 된다. 정보를 습득하고 관리하는 체계는 수 없이 많아진다. AI는 다양한 분야와 융합하고 발전한다. 그러는 과정에서 다양한 원천정보를 활용한다. 해킹으로 인한 정보 유출과 악성코드 주입을 비롯한 공격도 다양해진다. 정보보안이 AI 안정성 확보의 최우선 과제다. 다양한 경로의 공격에 대비한 연구가 필요하다.

KAIST(총장 신성철)는 올해 시작한 'AI 중심 연구혁신 10대 과제'에 정보보안 분야를 포함시켰다. AI 응용 기술의 취약점을 개선하고, 다양한 외부 공격으로부터 보호할 수 있는 기술을 확보하자는 취지다. 폭발적인 AI 응용 분야 확대에 대응해 다양한 보안 기술을 갖출 필요가 있다는 것이다.

김용대 전기 및 전자공학부 교수가 이끄는 KAIST 시스템보안연구실은 AI 기반 기술의 보안을 철저히 하는 연구를 하고 있다. 2010년대 초부터 연구에 본격 착수했다.

주로 센서의 정보보안 허점을 공격하는 방법을 연구한다. 센서는 많은 정보를 수집한다. 사물인터넷(IoT) 시대 AI의 작동 기반이 된다. 센서가 수집하는 정보를 지켜야 AI를 원활하게 작동시킬 수 있다.

지난해 6월 일어난 테슬라 모델S 충돌후 모습. 지붕 윗 부분이 없어졌다.

연구팀은 자율주행차 분야 연구에 높은 비중을 두고 있다. 지난해 6월 미국 플로리다에서 발생한 자율주행차 사망사고에서 보여준 것처럼 자율주행차는 최악의 경우 사람의 생명을 위협한다.

사고차량은 '테슬라 모델S'였다. 교차로에서 직진하던 이 차량은 좌회전 하던 대형 트레일러와 충돌했다. 트레일러 바닥 부분에 부딪치면서 차 지붕이 날아가고, 운전자는 사망했다. 핵심 자율주행시스템 AI인 '오토파일럿'이 일으킨 인식 혼란이 원인이었다. 오토파일럿은 하얀색으로 칠해진 트레일러 옆면을 '차량'으로 인식하지 못했다.

연구팀은 최근 자율주행차용 카메라가 외부 빛에 무력화될 수 있다는 것을 발견했다. 세계 1위 업체인 '모빌아이' 제품에 눈에 보이지 않는 근적외선을 쏘자 사물 인식이 중단되는 현상이 나타났다. 사람의 눈에 빛을 쏘면 순간 주변이 보이지 않는 원리다. 누군가 고의로 근적외선 빛으로 센서를 교란하면 사고를 유발하는 것도 가능하다. 연구팀은 앞으로 이 연구 성과를 논문으로 발표할 예정이다.

빛으로 '인퓨전 펌프(의료용 약품 주입 펌프)'의 약품 주입 AI를 교란할 수 있다는 사실도 밝혀냈다. 인퓨전 펌프는 빛 센서로 주입하는 약물의 양을 감지, 추가 분량을 결정한다. 약물 방울이 떨어지면서 센서에 닿는 빛을 가리면 그 횟수를 재는 방식이다. 센서에 계속 강한 빛을 가하면 AI가 약물 주입이 안 되는 것으로 오해해 주입량을 최대 300%까지 올리게 된다. 조그마한 레이저포인터 하나로 약물 과다 주입을 유발할 수 있다. 이 연구결과는 지난해 정보보호 학술지 '유즈닉스 WOOT'에 발표했다.

드론이 소리 공격에 취약하다는 사실을 밝힌 것도 연구팀의 성과다. 연구팀은 드론이 '자이로스코프 공진주파수'와 일치하는 소리 공격을 받으면 추락한다는 사실을 발견했다. 자이로스코프는 드론의 균형을 유지하고 위치 정보를 제공하는 집적회로 부품이다. 소리 공격을 받게 되면 이 자이로스코프가 교란돼 로터(회전물체)의 이상 출력을 일으킨다. 연구팀은 2015년 제24회 유즈닉스 보안 심포지엄에서 관련 논문을 발표, 개선을 유도했다.

정보통신 분야 허점도 파악했다. 연구팀은 이동통신 기술인 VoLTE(LTE망을 이용한 음성통신)의 보안 취약점을 공개, 세계적으로 큰 반향을 불러일으켰다. VoLTE는 기존 스마트폰 통신칩 대신 애플리케이션 프로세서(AP)와 세션 개시 프로토콜(SIP)을 활용한다. 하지만 새로운 통신 방식에 대한 취약점 파악과 관리가 안돼 해킹에 취약했다. 스마트폰 번호 도용, 이동통신사 네트워크 공격, 무과금 이용 등이 가능했다. 연구실은 국내는 물론 미국 5개 이통사를 조사, 보고해 이를 개선하는 알고리즘 개발을 이끌었다.

김 교수는 “새로운 AI 기술이 개발되면 이를 공격하고 악용하는 기술도 함께 만들어지고 고도화 된다”면서 “각 기술에 대응하는 취약점을 파악해 막을 수 있는 정보보안 기술을 개발하지 않으면 제4차 산업혁명은 성장할 수 없다”고 말했다.

KAIST는 AI로 국가 보안에 위협이 되는 요소를 찾아내는 기술도 연구하고 있다.

신승원 전기 및 전자공학부 교수 연구팀은 '다크웹'에서 각종 범죄와 테러 정보를 탐지하고, 정보 게시자 신원까지 분석하는 기술을 개발하고 있다. 미국방위고등연구계획국(DARPA)가 만들고 있는 '메멕스'처럼 인터넷에서 각종 범죄 정보를 잡아내는 기술이다.

다크웹은 특수한 방법으로만 접속할 수 있는 '심층웹'이다. 마약 및 무기거래, 범죄 모의에 쓰인다. 서버 우회를 비롯한 추적 회피 기술을 사용해 이용자 위치를 찾아내기가 어렵다.

신 교수팀이 개발한 탐지·분석 기술은 다크웹 이용자가 게시한 글과 정보를 바탕으로 신원을 파악한다. 먼저 다크웹에서 AI 자연어처리 기술로 이용자 신원을 유추할 수 있는 신상정보들을 수집한다. 말버릇, 자주 틀리는 맞춤법과 같은 언어적 특성도 함께 파악한다. 이후 각 정보의 유사성을 판단하는 다중채널 교차분석 엔진'으로 인터넷·사회관계망서비스(SNS)에서 연결고리를 찾아낸다.

이 기술을 적용하면 범죄 용의자가 앞으로 할 행동까지도 일부 추정할 수 있다. 그동안의 생활 패턴, 취미, 자주 가는 상점 등을 토대로 출몰할 가능성이 높은 장소 및 시간을 유추한다. 앞으로 국가정보원, 경찰 등 정보기관이 활용할 수 있다.

신 교수는 “발전된 AI 기법은 각종 웹에서 일어나는 일들을 가려내고 추정하는 것에도 활용할 수 있다”면서 “사이버 공간이 연루된 사건을 해결하고 정보 및 증거를 수집해 현실세계에 도움을 주는 것도 가능하다”고 말했다.

<세계 사이버보안 펀딩 금액, (단위:달러)>