한국뉴욕주립대 컴퓨터학과 우 사이먼 교수연구팀은 차량 이상징후 탐지 분야를 연구하고 있다. 현재 자율주행 자동차에 대한 관심과 개발이 점점 늘어나고 있는 것과 맞물려 자율주행 자동차와 연결된 네트워크상에서 새로운 사이버 공격도 점차 늘어날 것으로 예측되기 때문이다.
연구팀은 지난 12월에 열린 한국정보보호학회와 한국인터넷진흥원 주관으로 열린 정보보호데이터 챌린지 대회 '차량이상 징후탐지' 분야에서 차량에 가해지는 서비스거부·퍼지·리플레이 등 공격을 효율적으로 탐지하고 시각화한 프로그램을 개발했다.
연구팀은 이 대회에서 100개 이상 참가팀 중 전체 2위를 차지하는 성과를 거뒀다. 특히 자동차안의 네트워크는 보안에 아주 취약하다. 따라서 여러 가지 네트워크 공격을 자동으로 탐지할 수 있는 기술은 앞으로 자율주행 자동차 개발에 있어 아주 중요한 것으로 연구팀은 판단한다.
특히 사이버 공격은 브레이크, 엑셀 등 자동차 오작동을 유발할 수 있다. 자칫 사람 생명과도 직결되는 분야로 많은 보안 기술 연구가 필요하다. 연구팀은 각종 공격을 딥러닝과 네트워크 시그네이처를 이용해 효율적으로 탐지 방어하는 기술을 현재 고려대학교와 연구하고 있다.
또, 연구팀은 적대적 기계학습(Adversarial machine learning)·인공지능 역기능을 연구하고 있다. 딥러닝이 비약적으로 발전하고 있지만 사람이 아주 명백하게 판단하기 쉬운 문제일 경우 딥러닝이 오류를 범하는 경우가 있다. 이를 적대적 샘플이라고 한다.
연구팀은 해커가 이러한 취약점을 역이용해 기계학습·AI를 나쁜 목적으로 이용하려는 경우가 나타나고 있다고 한다.
특히 자율주행 자동차와 컴퓨터 비전알고리즘은 딥러닝이 실수를 할 경우 그 오류가 생명과 직결될 수 있다. 따라서 기계학습이 언제 그리고 어떤 경우에 실수·오류를 범하는 지 깊이있는 AI기술 연구를 진행하고 있다.
또, 적대적 샘플을 악용한 공격을 방어할 수 있는 기술과 기계학습 취약점을 근본적으로 보완할 수 있는 기술 개발이 필수적이다. 연구팀은 현재 적대적 이미지 샘플을 자동 생성하는 연구를 진행하고 있다. 간단한 노이즈로 딥러닝 클래스피어(Classifier)에 오류를 쉽게 생성시키는 기술을 개발하고 있다. 연구팀은 이를 바탕으로 인공지능·기계학습 취약점을 보완하는 기술을 개발한다.
안수민기자 smahn@etnews.com
