AI 무기 통제 문턱 낮아진다는 우려, 유엔 보고서에서 빠진 안전장치는?

자율살상무기체계(LAWS)는 작동을 시작한 뒤 인간이 직접 조작하지 않아도 표적을 찾아 공격할 수 있는 무기다.

이를 규제할 방안을 논의해온 유엔 정부전문가그룹(GGE)은 3년간의 논의 끝에 2026년 8월31일∼9월4일 스위스 제네바에서 회의를 열고 최종 보고서를 채택했다.

그러나 9월14일 공개된 보고서에는 6월 초안에 있던 민간인 보호와 인간의 개입을 위한 조항 다수가 빠졌다.

쟁점의 배경에는 AI의 예측하기 어려운 오류가 있다.

소총 든 전투원을 찾도록 훈련한 AI가 긴 막대 모양을 표적의 특징으로 학습하면 우산을 든 민간인이나 목발을 짚은 사람을 공격할 수 있다.

흰 눈 덮인 군용 트럭을 식별하도록 학습한 시스템이 흰 천으로 덮인 민간 트럭을 표적으로 삼는 경우도 상정할 수 있다.

초안에는 작동을 예측·추적·설명할 수 있어야 한다는 문구가 있었지만, 최종본에는 이 기준이 남지 않았다.

국제인도법에 따라 공격 효과를 예견하고 제한할 수 없는 경우 LAWS 사용을 금지한다는 조항도 삭제됐다.

무기를 국제인도법에 맞게 쓸 수 없다면 제조·획득·비축·이전하지 말자는 내용, 자율 교전 횟수 제한, 표적·임무 조건을 인간 승인 없이 실질적으로 바꾸지 못하게 하는 조항도 빠졌다.

이는 단순히 표현을 다듬은 데 그치지 않고, 무기의 사용과 변경을 제한할 구체적 장치가 줄어든 것이다.

인간의 역할을 둘러싼 문구도 약해졌다.

최종 보고서는 ‘인간의 판단과 통제’ 대신 ‘통제와 인간의 판단’이라는 표현을 택했고, 인간이 시스템 작동 내내 판단을 실행할 능력을 가져야 한다는 제안은 반영하지 않았다.

따라서 공격 도중 민간인이 나타났을 때 인간이 재평가해 공격을 멈출 수 있어야 한다는 조건도 명시되지 않았다.

다음 고비는 2026년 11월16∼20일 열리는 제7차 유엔 특정 재래식무기 금지협약(CCW) 검토회의다.

각국은 GGE 보고서를 바탕으로 LAWS를 금지·규제하는 법적 구속력 있는 새 의정서 협상을 시작할지 논의한다.

협상 개시에는 단 한 나라의 반대도 없어야 한다.