인공지능 시대의 무기와 평화운동(21. 03. 30)

올해 2월 4일은 첫 번째 ‘국제 인간 형제애의 날’(International Day of Human Fraternity)이었습니다. 유엔은 종교, 문화, 국적, 인종을 뛰어넘어서 인류 모두가 화합하고 연대하자는 취지로 이 날을 제정하였습니다. 세계교회협의회(WCC)는 지구촌의 이웃 종교들과 함께 ‘국제 인간 형제애의 날’을 기념하며 인공지능 시대의 평화와 군축에 관하여 절박하고 실질적인 과제를 제기하였습니다. “우리 모두의 인간성 보전을 위한 탄원”(A Plea for Preserving Our Shared Humanity)이라는 제목의 공동 성명서는 인간의 통제를 벗어난 가공할 만한 인공지능 무기 개발에 대한 우려를 표명하고 유엔 회원 국가들과 모든 선의의 시민들이 전적인 자율성을 지닌 무기에 대해 선제적 금지 조처를 취하도록 요청하고 있습니다.

세계교회협의회는 기계와는 질적으로 다른 “인간의 양도할 수 없는 존엄성과 인간 생명의 측정할 수 없는 가치”에 주목하면서 인류의 인간성을 보전하기 위해서 전적 자율무기를 개발하는 일을 단호하게 거부해야 한다고 호소합니다. “방대한 양의 디지털 정보를 처리하는 기계학습은 기존의 편견을 답습할 수 있고, 따라서 취약한 집단에게 불리한 결과를 초래할 수 있습니다. .... 생사여탈의 결정을 로봇에게 맡기는 일은 자신의 행위의 내용과 결과에 대한 인간의 책임성을 심각하게 방기하는 것을 뜻합니다. 인공지능은 공감, 우정, 자비, 연대를 향한 독특한 인간적 역량과 겨룰 수 없습니다. .... 우리는 차이의 존엄성을 존중하면서 평화, 비폭력, 대화, 상호 협력의 문화를 건설하는 일에 헌신하고자 합니다.” 

최근에 인공지능이 우리의 일상생활을 가속적으로 편리하게 해준다는 유토피아적 광고들이 점차 많아지고 있습니다. 그러나 인공지능이 무기화되어 자율살상무기, 일명 ‘킬러 로봇’이 출현하게 되면 문자 그대로 디스토피아가 될 것입니다. 아직 본격적인 킬러 로봇이 등장한 것은 아니지만, 윤리적 토대에 대한 사회적 논의와 법적 규제가 선도적으로 이루어지지 않으면 본격적인 킬러 로봇의 개발, 생산, 사용을 막을 수가 없게 됩니다. 자동 살상 기능이 장착된 지상 탱크, 제트 전투기, 군함 등은 전쟁의 효율성 논리에 부합할 것입니다. 만일 킬러 로봇에 인종적 프로필이나 특정 이데올로기가 반영된 판단기준이 주입된다면, 취약한 특정 부류의 사람들이 킬러 로봇의 목표가 될 가능성을 배제할 수 없게 됩니다.

두 번의 세계대전을 치른 폭력적인 20세기에 일어난 평화운동에는 인류의 파괴적 역량을 경계하고 통제하고자 하는 무기 군축 운동이 큰 흐름을 차지하고 있습니다. 평화와 군축을 위한 운동은 꾸준히 그리고 집요하게 지뢰, 집속탄, 화학무기, 세균무기, 레이저 무기 등을 금지하는 운동을 벌였고 국제법적 규제라는 성공적인 결실을 얻었습니다. 무기거래조약(Arms Trade Treaty)은 2014년 성탄절 이브에 발효되어 인류를 위한 성탄 선물과도 같은 기쁨을 선사했습니다. ICAN이 주도한 핵무기금지조약(TPNW)도 2021년 1월 22일에 발효되었습니다. 

인공지능에 기반을 둔 자율살상무기가 지닐 가공할 파괴력의 위험을 감지한 세계평화운동 시민단체들은 2012년에 “킬러 로봇 중단 캠페인”(International Campaign to Stop Killer Robots)을 출범시켰습니다. 그 기반에는 기계 혹은 알고리즘이 인간의 생사여탈을 결정하게 둘 수 없다는 윤리적 인간학적 문제의식이 놓여 있습니다. 자율살상무기는 민간인과 전투요원을 적절하게 구분할 수 없기 때문에, 무력충돌 시 적대행위에 가담하지 않거나 또는 가담할 수 없는 사람들을 보호하고 전투의 수단과 방법을 규제하는 국제인도법(International Humanitarian Law)에도 저촉될 것입니다. 자율살상무기는 갈등 종식을 위해 인내심을 지니고 외교적·정치적 해결방식을 찾기보다 손쉽게 무력을 사용하게끔 유혹할 수 있고 국제적 무기경쟁을 촉발할 수 있습니다. 독재자나 테러리스트가 이런 무기를 가지게 되면 지구촌 곳곳에서 민간인의 생명이 위험해집니다. 인공지능이 핵무기와 만난다면 상상할 수조차 없는 지구적 위기 상황이 초래될 것입니다.

2013년 유엔의 인권이사회(Human Rights Council)는 최초로 자율살상무기에 관한 논의의 장을 마련하였습니다. 2015년에는 3,000명 이상의 인공지능 전문가들이, 2017년에는 인공지능과 로봇기술 연구를 선도하는 116명의 로봇 회사 CEO들이 킬러 로봇의 위험을 경고하고 유엔의 금지 조처를 요청하였습니다. 자율살상무기에 대한 금지 요청은 노벨평화상 수상자들, 종교 지도자들, 평화를 지향하는 정치가들에 의해 점차 확대되어 가고 있습니다.

인공지능 시대의 세계평화운동은 한국의 평화운동이 군축에도 관심을 가지게 되기를 기대하고 있습니다. 우리나라는 미국, 러시아, 중국, 영국, 프랑스, 이스라엘과 함께, 목표물 선정에 관하여 높은 자율성을 장착한 자동무기를 개발하는 나라로 손꼽히고 있습니다. 비무장지대(DMZ)에서 사용하고 있는 경계감시 로봇인 SGR-1은 아직 사격 판단이 관리하는 병사에 의해 이루어지지만, 초기 형태의 킬러 로봇으로 분류되고 있습니다. 인공지능 기반의 군사 산업의 잠재적 위험에 대한 사회적 논의와 법적 규제가 필요한 상황입니다. 기술혁신의 밝은 가능성에만 도취할 일이 아니라 그 어두운 그림자도 미리 예측하고 단속해야 할 것입니다. 첨단과학과 무기 산업이 손을 잡고 적절한 법적 규제와 심도 깊은 윤리적 사회적 논의도 없이 일방적으로 급속 주행을 하게 되면, 머지않아 인류 생존의 위협을 초래하게 될지도 모릅니다.

한국교회는 조선의 독립, 동양과 세계의 평화라는 대의를 위하여 같은 뜻을 지닌 이웃 종교와 협력한 삼일운동 기미독립선언서의 정신을 기억하고 있습니다. 한국교회가 선한 이웃들과 함께 인공지능에 기반을 둔 자율무기 개발을 선제적으로 규제하고 법제화를 실현할 수 있도록 사회적 논의를 이끈다면, 한반도 평화운동만이 아니라 세계 평화운동에도 크게 기여하는 일이 될 것입니다. 법제화만이 아니라 법의 실효성까지 담보하려는 사회적·정치적 의지가 굳건해지기까지 갈 길이 참 멉니다. 

교회는 전쟁 자체를 지구상에서 종식하고(미 4:3), 평화를 이 땅에서 실현하고자 하는 영성적·정신적 의지의 뿌리 깊은 그루터기 역할을 감당해야 합니다. 무기와 전쟁은 관계의 단절과 증오의 산물입니다. 기독교인들은 한반도의 분단과 남북 갈등을 형제자매애에 입각한 대화와 그리스도의 사랑으로 극복하고자 평화의 길을 모색하고 있습니다. 이러한 노력이 인공지능 시대의 무기 군축 영역에도 확대될 수 있도록 우리의 기도와 관심이 깊어지기를 기대합니다.

배현주/ WCC 중앙위원, 평화통일연대 전문위원