세계 과학문학(SF) 3대 거장 아이작 아시모프는 1942년 소설 런어라운드에서 '인간에게 해를 끼치지 말 것' 등을 담은 '로봇 3원칙'을 처음 언급했다. 독자적으로 판단하고 행동하는 수준의 인공지능(AI) 시대가 다가오면서 정부가 로봇 3원칙과 유사한 '지능정보사회를 위한 원칙'을 제정했다. 원칙은 앞으로 국내 AI 사업자와 이용자의 권리와 책임을 규정하는 가이드라인 역할을 할 것으로 전망된다.
방송통신위원회가 정보통신정책연구원과 공동으로 '이용자 중심의 지능정보사회를 실현하기 위한 원칙(이하 원칙)'을 발표했다.
방통위는 지난해 지능정보화 이용자 포럼을 통해 기초 연구를 시작, 10월까지 국내외 주요 정보통신기술(ICT) 13개 사업자와 전문가 의견을 수렴해 최종 원칙을 마련했다.
방통위 관계자는 “맞춤형 뉴스, AI스피커, AI 면접 등 인간의 의사 결정을 보조하거나 대체하는 혁신서비스가 확산하면서 공정하고 책임 있는 AI 알고리즘 중요성이 커졌다”면서 “EU, OECD 등 국제사회가 AI를 위한 가이드라인, 권고안을 잇달아 발표하는 추세에 맞춰 방통위도 기본 원칙을 정립했다”고 배경을 설명했다.
AI 원칙 가운데 가장 중요한 것은 '인간 중심'이다. AI 서비스는 인간의 자유와 권리, 존엄성을 보장해야 하며 이용자 자율성을 최대한 보장해야 한다.
다음 원칙은 '투명성과 설명가능성'이다. AI 서비스가 이용자의 신체나 자유, 재산 등 기본권을 침해하면 기업은 이용자가 이해할 수 있도록 정보를 제공해야 하며 AI 시스템이 왜 오작동을 일으켰는지 주요 원인을 설명할 수 있어야 한다.
책임성 원칙에서는 관련 법령과 계약을 준수하도록 했고 안전성 원칙에서는 AI 서비스가 초래할 수 있는 피해에 대처하기 위해 서비스 제공자와 이용자가 협의 하에 자율 대비 체계를 마련하도록 했다. 이밖에 차별금지원칙, 참여원칙, 개인정보보호 원칙 등이 마련됐다.
방통위는 지능정보사회 이용자 보호를 위한 실질적이고 지속적인 논의를 위해 지능정보사회 구성원들이 참여하는 협의회를 구성해 운영하기로 했다.
지능정보사회를 위한 원칙은 AI 서비스 기업에 규제로 작용하면서 한편으로는 산업 발전 촉진제 역할도 할 것으로 예상된다. 명확한 정부 가이드라인과 이를 논의할 협의회가 구성되면서 AI 사업 추진을 위한 불확실성이 제거됐기 때문이다.
원칙 제정에는 삼성전자·카카오·KT·SK텔레콤·LG유플러스·구글코리아·페이스북코리아·넷플릭스·한국IBM·한국마이크로소프트·솔트룩스·인텔코리아·BSA코리아 13개 사업자가 참여했다.
방통위 관계자는 “지능정보사회를 위한 원칙을 초석 삼아 민관협의회를 구성하고 내용을 보완해나갈 것”이라면서 “다음 달 AI 관련 국제 컨퍼런스를 개최, 원칙을 소개할 것”이라고 밝혔다.
김용주기자 kyj@etnews.com