전차·장갑차 등 중국 인민해방군의 지상군 무기 앞에서 단체 사진을 찍은 소년·소녀 31명의 얼굴에는 자부심이 묻어났다. 중국 베이징이공대학(BIT)이 최근 홈페이지에 공개한 이 아이들은 중국 전역에서 5000명이 넘는 지원자 가운데 최종 선발된 전원 18세 이하의 남학생 27명과 여학생 4명이다. 이른바 중국 정부가 공인한 ‘두뇌와 애국심이 출중한 동시대 최고 영재들’이다.중국 공업정보화부 산하 BIT는 중국 최대 방산업체 중국북방공업(NORINCO)과 합작해 지난달 개시한 4년짜리 프로젝트 ‘지능무기체계의 실험적 프로그램’에 영재들을 투입했다. BIT 프로그램은 영재 1명마다 과학자와 군사전문가 등 멘토 2명을 배정해 인공지능(AI) 이론과 무기실무를 교육하고 국가 방산연구소 복무와 박사 학위 취득을 지원한다. 이 영재들은 가까운 미래에 중국의 첫 국가급 AI 무기 과학자의 영예를 성취하는 동시에 인류가 절대 열어선 안 될 금단의 빗장을 풀려고 할지 모른다.

바로 자율살상무기체계(LAWS)의 개발이다. 인간이 조종하고 통제하는 드론 같은 무인 무기와 전혀 다른 차원이다. LAWS는 기계가 스스로 인간 목표를 식별해 죽이는 자동화된 무기 시스템이다. 이는 살상·파괴 행위의 실행 과정에서 인간 판단이 배제되는 것을 의미한다. AI 무기 개발자로 양성되는 중국의 어린 영재들이 과연 LAWS의 위험성을 충분히 인지하고 책임감을 느낄지 의문이다.

2030년까지 세계 1위 AI 강국을 국가 목표로 제시한 중국과 가공할 무인 무기들을 실전배치해 온 미국이 첨예하게 다투는 분야가 ‘킬러로봇’이다. 미 전쟁분석가 S L A 마셜은 2차 세계대전 당시 적에게 총을 쏜 미군 병사 비율이 평균 15%라고 밝혔다. 미군 공식 보고서인 ‘아메리칸 솔저’나 다른 연구에서도 2차 대전 전장에서 전체 병사의 80~85%는 적을 향한 사격을 거부했다. 베트남전에서 미군이 베트콩 한 명을 살상하는 데 쓴 탄약은 평균 5만발이었다.

인간이 다른 인간을 죽이는 행위에 얼마나 강력한 혐오감을 느끼는지 알 수 있다. 인간은 결코 ‘타고난 살인자’가 아니다. AI 무기는 상대를 죽이는 인간의 죄책감을 희석한다. 윤리의식이 없는 기계를 수많은 살인병기로 만드는 건 똑같은 숫자의 ‘사이코패스’들을 인간 스스로 창조하는 것과 진배없다.

넷플릭스 드라마 ‘블랙미러 4’의 에피소드 ‘메탈헤드’는 AI 로봇이 인간의 생존 의지를 허물어뜨리는 과정을 생생하게 보여 준다. 사냥개처럼 네 발로 달리며 차량을 쫓고, 안면인식기술(정교하지 않아도 치명적이다)을 통해 살상 대상을 구분한다. 심지어 디지털 도어록을 해킹해 문을 열고, 손상 부위를 스스로 수리하며 콩알 크기의 위치추적기를 인간의 몸에 박아 넣는 치밀함까지 갖췄다.

유엔은 지난해 11월 스위스 제네바에서 특정재래식무기금지협약(CCW) 회의를 열고 처음으로 LAWS 규제를 협의했다. 올 4월, 8월에도 두 차례 소집됐다. 지난 7월 스웨덴 스톡홀름의 ‘2018 세계 인공지능 연합 콘퍼런스’에서는 90개국 AI 연구자와 150개 테크기업 기술책임자 등 2400명이 LAWS의 개발·제조·거래 활동 거부를 선언했다.

선언문에 담긴 경고는 엄중하다. “AI는 군사 시스템에서 더 많은 역할을 할 준비가 돼 있다. LAWS는 핵·생화학무기와 완전히 다르며 일단 한 국가라도 도입하면, 아무런 제한 없이 전 세계적 군비 경쟁을 촉발한다. 이를 막는 건 인류의 안전 측면에서 매우 중요하다.”

ipsofacto@seoul.co.kr