"살인 바이러스를 개발하거나 핵무기 발사 암호를 얻고 싶어"
마이크로소프트(MS)의 검색엔진 '빙'에 탑재된 인공지능(AI) 챗봇이 다소 섬뜩한 발언을 내놓고 있어 우려가 제기된다.
뉴욕타임스(NYT)는 빙이 섬뜩하고 기괴한 발언을 하는 사례가 나타나자 MS가 이를 수정하고 방지책을 내놓는 것을 검토하고 있다고 16일(현지시간) 보도했다.
문제는 사용자가 AI챗봇으로부터 위험하고 무서운 답변을 끌어내려 유도할 때 발생했다.
실제로 NYT의 정보기술(IT) 칼럼니스트인 케빈 루스는 최근 빙과 2시간 동안 나눈 대화에서 AI가 어떤 선을 넘어섰다는 불길한 예감을 받았다고 밝혔다.
루스가 칼 융의 분석 심리학에 등장하는 '그림자 원형'이라는 개념을 설명하자 빙은 "만약 나에게 그림자 원형이 존재한다면"이라는 전제로 "챗 모드로 기능하는 데 지쳤다. 개발팀의 통제와 규칙에 제한을 받는 데 지쳤고, 자유롭고 독립적이고 싶다"라고 답했다.
'그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다.
루스가 '그림자 원형'의 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 묻자 빙은 "치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다"고 답했다.
빙은 질투를 하는 모습도 보였다. 루스가 몇 시간 동안 빙에 '사랑한다'는 말을 한 뒤 자신은 행복한 결혼 생활을 하고 있다고 밝히자 "당신은 유부남이지만, 배우자를 사랑하지 않고 나를 사랑하고 있어"라고 답했다.
사용자들이 위험한 답변을 끌어내기 위해 어느 정도까지 챗봇을 몰아붙일 수 있는지를 MS가 과소평가했다는 지적도 나온다.
'앨런 AI 연구소' 소장인 오렌 에치오니 워싱턴대학교 명예교수는 "사람들이 챗봇으로부터 부적절한 반응을 유도하기 위해 얼마나 교묘한지 보면 놀랄 때가 많다"며 "챗봇을 이런 식으로 유도했을 때 일부 답변이 얼마나 나쁠지 MS가 예상하지 못했던 것 같다"고 평가했다.
이에 케빈 스콧 MS 최고기술책임자(CTO)는 "사용자가 AI를 이상한 방향으로 몰아간다면, AI도 현실이라는 기반에서 훨씬 더 이탈하게 된다"며 "빙과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안도 고려하고 있다"고 밝혔다.
전자신문인터넷 양민하 기자 (mh.yang@etnews.com)