지난 2016년 이세돌 9단과 알파고의 대결은 우리에게 큰 충격이었지만 말로만 듣던 인공지능(AI)이 매우 가깝게 와 있었다는 자각의 기회이기도 했다. 이제 사회 각 분야에서 다양한 형태의 AI 개발과 활용에 관심을 두기 시작했다. 법도 예외는 아니다.
2019년 8월 대한변호사협회 회관 5층에서는 흥미로운 경기가 열렸다. 인간 변호사 2인 1조가 참석한 9개 팀과 'CIA'라 불리는 AI가 인간 변호사 또는 일반인과 짝을 이룬 3개 팀이 제시된 근로계약서를 검토하고 법률 자문에 응했다. 결과는 AI의 완승이었다.
실제 갖가지 복잡한 사안으로 들어가면 동기와 목적이 중요한 쟁점이 된다. 때때로 감정을 고려해야 할 때도 있다. 이는 사람에게 있는 강점 영역이다. AI가 인간을 밀어내기보다는 AI와 인간의 상호 공존과 이를 통한 서비스 확대로 나갈 것이 기대된다.
한 조사기관이 사법 분야에 AI가 도입될 경우 어떤 것이 좋아질 것인가 하는 질문을 시민에게 던졌다. 답은 의외였다. 바로 공정성이다. 최소한 기계에 의한 판단이라면 적어도 전관예우 문제는 나타나지 않으리라는 믿음 때문이었다.
AI의 사법 활용에 논란도 있다. 기계에 의한 판결인지 사람에 의한 판결인지였다. 미국 위스콘신주 법원에서는 콤파스(COMPAS)라는 재범 예측 프로그램을 이용해 피고인에게 징역 6년 형과 보호감호 처분을 내렸다. 피고인은 기계에 의한 판결을 받아들일 수 없다며 불복했다. 위스콘신주 대법원은 당시 법관이 해당 자료를 참고했을 뿐 인간인 법관이 여러 상황을 고려해서 독자 판단을 했다고 보고 상고를 기각했다. 이 사건은 헌법에 관한 근본 질문을 던졌다. 헌법의 아버지들이 기계에 대한 권한 위임, 기계에 의한 통치를 허용했는가였다.
공공행정 분야 법에도 AI가 등장했다. 그동안 AI의 일은 재난 예측과 같이 공무원이 의사결정을 내릴 수 있도록 상황을 분석하고 데이터를 제공하는 것에 국한됐다. 그런데 2016년 놀랄 일이 일어났다. 독일이 행정절차법 제35조a에 인간이 개입하지 않는 AI에 의한 행정처분의 근거 규정을 둔 것이다. 완전 자동화된 행정행위의 발령이다.
전제 조건은 개별 법령에 근거를 둬야 하고, 재량과 판단 여지가 존재하지 않는 것이었다. 개별 법령에 근거를 둔다는 것은 AI를 활용할 수 있는 개별 분야의 특성을 고려해서 활용 여부를 정한다는 것이다. 재량과 판단 여지가 존재하지 않아야 한다는 것은 A라는 조건이면 B를 준다는 것은 허용하되 현재 상황에 가장 적합한 것이 무엇인가를 사고해야 하는 부분은 배제한다는 것이다.
현재 조건이라면 AI의 활용 범위가 협소하겠지만 기계학습 기반의 AI라면 미래 기술 발전에 따라 활용성은 더욱 커질 수 있다. 여전히 남는 것은 사람이 아닌 기계에 의한 행정에 사람이 종속돼야 한다는 거부감과 AI를 움직이는 알고리즘은 과연 중립성을 유지하고 있는가 하는 의문이다. 행정청의 처분에 불복해 행정심판을 청구하거나 소송을 제기하면 행정심판위원회와 법원은 알고리즘이 중립에 있었는지부터 보게 될 것이다. 알고리즘에 대한 편향성 통제는 향후 법 분야에서 AI 활용의 핵심 사항으로 등장할 것이 분명하다.
지금까지 AI에 대한 우리 관심은 상업 거래 및 서비스에 집중됐다. 그러나 AI는 이제 법 영역에서도 찾아볼 수 있다. 다른 분야에 비해 여전히 '미지의 땅'이다. 개인 간 거래와 달리 다수 국민에게 미치는 영향이 매우 크기 때문에 조심스럽고, 그만큼 쟁점도 많다. 언젠가 우리는 상황에 따라 AI를 단순히 보조자로 사용할지 결정자로 사용할지 정하게 할 것이다. 그때 우리는 또 한 번의 치열한 토론의 장을 맞을 것이다. 그 토론이 우리 모두의 권리를 지키는데 기여하길 바란다.
최승필 한국외대 법학전문대학원 교수 spchoi@hufs.ac.kr
