[기고] 김민하의 미래독백 1편 '인공지능과 민주주의'

《The Big Nine》에서 AI의 미래에 대해 비판적으로 접근한 에이미 웹(Amy Webb)의 주장은 IT에 몸담고 있는 사람들에게 여러모로 시사점을 던진다. 머쉰러닝에 기반한 추천알고리즘을 소셜네트워크에 구현하는 나 역시 AI의 간접 수혜자가 될 것이기에 무작정 비판적일 수만은 없지만, 에이미 웹의 관점은 더 나은 AI를 만들기 위해서라고 믿어 의심치 않는다. 무조건 AI의 장밋빛 미래만을 고착화할 것이 아니라 우리의 인간성을 잘 보존하고 긍정적으로 진화시킬 수 있는 방향을 고민한다면 다소간의 비판적 관점은 모든 AI 연구자들의 필수 덕목이라고 할 수 있다.

 

언제부터인가 세계 경제는 미국과 중국, G2의 경쟁과 협력 속에서 전개되어 왔다. AI산업도 마찬가지다. 현재 미국과 중국은 AI산업을 이끌고 있는 양 축이라고 해도 과언이 아니다. 다만, 구글, 아마존, 마이크로소프트 등 민간의 IT 기업들이 주도하는 보텀 업(bottom up) 구조의 미국 AI산업과 달리 중국의 AI산업은 전형적인 사회주의 국가답게 국가가 주도하는 탑다운(top down) 방식을 취하고 있다고 한다.

 

국가 주도의 사업으로 일사불란하게 움직이며 정부가 시혜하는 각종 혜택에 힘입어 중국의 AI산업이 훨씬 더 발전할 것이라는 일부의 예측도 있지만, 여기서 나는 에이미 웹이 소개한 콘웨이의 법칙(Conway’s Law)을 생각해 보게 된다. 시스템은 그것을 개발한 사람들의 가치 및 팀의 조직문화를 반영하는 경향이 있다는 콘웨이의 법칙은 하버드대와 MIT의 연구에 의해서도 입증이 되었다. 다소 경직된 사회주의의 문화 속에서 개발된 AI와 인간의 존엄성 및 자유를 최상의 가치에 두는 사회에서 개발된 AI의 퀄리티를 비교, 평가해 보라고 한다면 나는 주저 없이 후자를 선택할 것이다.

수년 전 마이크로 소프트가 중국의 텐센트, 그리고 중국판 트위터로 일컬어지는 웨이보와 협력하여 개발한 ‘샤오이스(Xiaoice)’라는 AI가 있었다. 17세 중국 소녀로 설계된 샤오이스는 웨이보와 텐센트의 위챗을 통해 이용자들과 채팅이 가능하여 큰 주목을 끌었다. 실제 인간의 얼굴을 한 아바타가 스포츠, 패션, 정치, 문화, 등 다양한 주제의 대화를 했기에 선풍적인 인기를 끌었다. 설령 샤오이스가 학습을 미처 하지 못한 주제에 관한 이야기가 나올 때는 주제를 바꾸거나 부끄러워한다거나 아니면 모른다는 것을 인정하는 등 흡사 인간처럼 행동했다고 한다. 일대 혁신이라고 할 수 있었다.

 

문제는 샤오이스의 미국 버전에서 일어났다. 마이크로 소프트는 2016년에 이름을 ‘테이(Tay)’로 바꾸어 미국에서의 AI 론칭을 시도하였다. 트위터를 위한 챗봇으로 최적화된 테이는 그러나 오래 지나지 않아 엄청난 문제를 발생시켰다. 테이가 전송한 트윗들이 인종차별주의적인 발언으로 가득했기 때문이다. 마이크로 소프트의 개발자들이 샤오이스를 통한 중국에서의 경험에만 의존했기에 만일 누군가가 테이에게 공격적인 언사를 했을 경우 등을 대비한 리스크 시나리오를 앞서 계획하지 못했던 것이 문제였다. 

 

여기서 중국과 미국의 인터넷 문화가 확연히 드러난다. 인터넷에 대한 엄격한 감시와 통제가 존재하는 중국사회에서 인터넷 이용자들은 인터넷 룰을 엄격히 따르고 서로에 대한 공격을 하는 경우는 드물다. 반면 미국의 트위터는 수많은 이용자들이 자유롭고 때로는 거칠게 다양한 가치를 표출하는 거대한 공간이다. 다시 말하면 샤오이스는 인간 사회에서 존재할 수 있는 다양한 경우를 학습하지 못한 절반의 성공이었던 것이다. 중국사회의 맥락에서 개발된 AI가 국제적으로 적용되는 데 있어서의 기능적 한계를 보여주는 대표적인 사례라고 할 수 있다.

 

통제된 사회라는 맥락은 인간의 자유로운 상상력과 창의성을 구현해내는 AI산업을 성공시키는데 결정적인 결함을 보여줄 것이다. AI가 비단 테크놀로지의 구현물이 아니라 인간 사회의 가치와 문화의 결정체라는 사실을 잊지 말아야 한다. 그래서 우리는 오늘도 민주주의가 정상적으로 작동되는지 자문해 볼 필요가 있다.

 

김민하 - 《미래독백2》 (김민하 저, 바른북스 펴냄, 2022) 중에서 발췌

글/사진 = 김민하

 

스타트업엔

스타트업엔(StartupN)