롯데쇼핑이 지난해 1월부터 롯데 임직원과 우수 고객을 대상으로 실시하던 인공지능(AI) 스피커 '샬롯홈' 서비스를 이달 말로 종료한다.
샬롯홈에 스캐터랩이 수집한 카카오톡 데이터를 활용한 것이 확인됐기 때문이다. 샬롯홈에 사용된 스캐터랩 '핑퐁빌더' 솔루션은 최근 개인정보 무단 사용 논란을 빚고 있는 '이루다'의 전신이다.
샬롯홈은 기존 챗봇에 일상 대화 기능을 추가해 백화점, 슈퍼, 홈쇼핑, 롯데리아 등의 상품과 서비스를 음성으로 주문할 수 있도록 한 서비스다. 자연스럽게 고객에게 주문을 받을 수 있는 혁신 서비스다. 그러나 이루다와 마찬가지로 수집 데이터를 쓰는 과정에서 개인정보 유출 위험에 노출된 것이다.
생활 속에 녹아든 AI, 빅 데이터 기술 개발과 적용에만 몰두한 채 윤리와 법규, 사회적 인식 등의 허점은 놓친 셈이다. 의도하지 않은 돌발 변수에 막대한 이미지 타격을 입게 됐다.
14일(현지시간) 막을 내린 'CES 2021'에서도 많은 첨단기술이 각광을 받았지만, 기술 발전만큼 제도와 윤리의식이 뒤따르지 못하고 있다는 지적도 함께 제기됐다.
브래드 스미스 MS 최고법률책임자(CLO)는 '기술에는 양심이 없다'는 케네디 전 미국 대통령의 말을 인용하며 기술 만능주의를 경계했다. 안면인식 기술이 실종된 아이를 찾아낼 수 있고, 노트북 잠금도 간편하게 해제할 수 있다. 그러나 개인 기본권을 침해할 수도 있다는 것이다.
또 머신러닝이 편견과 차별을 학습하기도 한다는 우려도 덧붙였다. 국내 이루다 논란이 이를 증명한다.
AI뿐 아니라 헬스 케어 등 다양한 분야에서 비슷한 문제는 계속 발생할 것이다.
기술로 인한 이익과 피해는 별개로 작용하지 않는다. 동전의 양면과 같다. 롯데쇼핑의 사례처럼 의도하지 않더라도, 방심하면 치명적 흉기로 돌아온다. 그 강도는 점점 더 강해질 것이다. 해당 기업은 오히려 더 곪기 전에 치료 기회를 얻었다는 점에 감사해야 한다.
기술 개발에 몰두한 채 윤리와 법규, 사회적 인식 등 허점을 메워가지 않는다면 어느 순간 걷잡을 수 없는 '기술의 역풍'을 맞게 될 것이다. 예외는 없다.