쏘카가 세계 최고 자연어처리(NLP) 학회에서 인공지능(AI) 기술 역량을 인정받았다.
쏘카는 AI팀(박경호 팀장·김현수 매니저·조충현 매니저·원해진 매니저)이 자연어처리 분야 세계 최고 권위의 'EMNLP 2023'에서 채택된 논문이 우수상을 받았다고 8일 밝혔다.
EMNLP은 자연어처리 분야 최고의 국제 학술대회다. EMNLP에서는 AI번역, 기계독해, 번역 등 언어 데이터 기반 인공지능 연구를 다룬다. 이달 6일~10일 싱가포르에서 개최되는 'EMNLP 2023'에는 구글 딥마인드, 마이크로소프트 리서치 등 유수의 AI 기업이 참여했다.
쏘카 AI팀은 지난 7일 열린 MRL 워크숍에 참가, 다국어 언어 처리 기술에 대한 연구성과를 공유했다. '소규모 언어 데이터를 활용한 다국어 음성 파운데이션 모델 학습 방법'을 제안, 수십억개에서 수천억개의 파라미터를 가진 거대모델에서 필요한 파라미터를 추출해 새로운 언어와 도메인에서 성능을 보장할 수 있는 사례에 대해 소개했다.
쏘카 AI팀이 제안한 방법은 먼저 복권가설(LTH)이라는 경량화 기법을 이용해 거대 모델에서 타깃으로 삼은 언어에 대한 파라미터를 추출한다.
이 파라미터에는 타깃 언어와 관련된 문법적·고차원 언어적 특성이 담겼다. 파라미터만으로 충분히 여러 문제를 풀 수 있다. 도메인에 관련된 지식을 추가 학습시키기 위해 LoRA(Low-Rank Adaption)을 이용한다. LoRA 기법을 통해 약 2%의 파라미터만으로 학습이 가능, 적은 양의 연산 자원에도 기존과 유사 성능을 달성할 수 있다.
박경호 쏘카 AI 팀장은 “쏘카의 모빌리티 서비스를 효율화하고 이용자에게 합리적이고 편리한 이동 경험을 제공하는데 적용할 수 있도록 노력하겠다”고 말했다.
김지웅 기자 jw0316@etnews.com
