[인공지능 시대의 국제정치] ⑫ AI 경쟁과 국제규범의 위기? 자율살상무기체계 거버넌스 경쟁의 동학과 도전과제

I. AI 전쟁의 도래와 AI 자율살상무기체계 규범

AI가 군사혁신에 미치는 영향이 급진적일지 아니면 점진적일지에 대한 견해 차이는 있으나, 미래 전장에서 AI의 군사적 사용이 결정적 변수가 되리라는 점에 대해서는 이견이 크지 않다.[1] AI의 군사적 사용은 이미 현실의 문제이기도 하다. 2026년 1월 미국이 베네수엘라 마두로 대통령 체포를 위한 특수작전을 수행하는 과정에서 팔란티어가 앤트로픽(Anthropic) 사의 AI 모델인 클로드(Claude)를 사용한 것으로 보인다.[2] 러시아-우크라이나 전쟁, 2026년 2월 28일 미국과 이스라엘이 이란을 공격하면서 시작된 이란 전쟁은 방공시스템, 드론, 지휘통제체제 등 전방위에 걸쳐 AI의 군사적 사용이 본격화되고 있음을 보여준다.[3]

전장에서 AI가 본격적으로 사용되면서 AI의 군사적 활용의 역량 강화를 위한 경쟁과 더불어 AI의 정당한 군사적 사용에 대한 가치와 규범의 충돌 역시 현실의 문제가 되고 있다. 2026년 2월 미 국방부와 앤트로픽 사이에 AI의 군사적 사용 문제로 인한 갈등이 고조되었다. 앤트로픽은 군 기밀시스템에서 사용승인을 받은 유일한 AI 모델 기업이었으며, 2025년 7월 미 국방부와 2억 달러에 달하는 계약을 체결하기도 하였다. 그러나 베네수엘라 마두로 대통령 체포 작전 이후 앤트로픽이 팔란티어에 작전수행과정에서 클로드의 사용여부에 관해 문의하면서 국방부와의 갈등이 촉발되었다.[4]

앤트로픽이 자사의 AI 모델인 클로드의 사용과 관련하여 미국 시민에 대한 대규모 감시와 더불어 인간의 개입 없는 살상무기를 위한 사용은 허용할 수 없다는 원칙을 고수하면서 AI의 적극적인 군사적 활용에 대한 국방부의 방향과 충돌하였기 때문이었다. 미국이 이란을 공격하기 직전이었던 2월 27일, 트럼프 대통령은 자신의 소셜미디어에 모든 연방기관에서 클로드를 퇴출한다고 하였고[5], 국방부 역시 2월 24일 피트 헤그세스(Pete Hegseth) 국방부 장관의 경고에 이어 3월 4일 자로 앤트로픽을 공급망 위험(supply chain risk) 기업으로 공식 지정하였다.[6] 미 국방부는 앤트로픽의 윤리적 제약이 “지나치게 제약적”일 뿐 아니라, “군사작전 상의 법적 복합성이나 전장의 현실을 고려한다면 애초에 실행이 불가능하다”는 입장 역시 견지하였다.[7]

AI의 군사적 사용에 대한 미 국방부와 앤트로픽의 갈등은 단순히 미 국방부와 한 AI 기업간 계약의 문제로 볼 수는 없다. 좁게는 AI 모델 간 경쟁의 측면에서 AI의 윤리적 개발과 사용을 선호하는 기업의 입지와 영향력이 약화될 수 있는 사건이다. 아마존 웹(Amazon Web Service) 서비스나 엔비디아(Nvidia) 등 미국 정부와 계약하려는 AI 생태계 내외의 다른 기업들 뿐 아니라 이러한 기업들과 계약하려는 다른 국가의 정부 및 기업들 역시 앤트로픽과의 계약을 재고할 필요가 생겼다.

그러나 그보다 더 큰 문제는 미 국방부와 앤트로픽의 갈등이 AI와 관련한 전장의 미래 모습을 결정지을 수 있는 군사적 AI의 발전방향에 대한 일종의 “스트레스 테스트”라는 점이다.[8] 군사적 AI의 개발과 사용에 있어서 “할 수 있는 일”과 “해야 하는 일”, 결과의 논리(logic of consequence)와 적절성의 논리(logic of appropriateness), 경쟁승리를 위한 무(無) 도덕적 개발과 윤리적이고 책임감 있는 개발 및 사용이라는 양 극단 사이의 어느 경로를 향해 나아가야 하는가 라는 근원적 목표를 향한 가늠쇠 정립의 과정이기도 하다. 특히, 앤트로픽이 AI 사용을 허용하지 않겠다는 두 가지 분야 중 하나가 완전자율무기라는 점은 미 국방부와 앤트로픽의 충돌이 현재 국제사회가 법제화를 위해 논의중인 AI를 이용한 자율살상무기체계(Lethal Autonomous Weapons System: 이하 LAWS) 거버넌스 경쟁과도 밀접하게 연결되어 있음을 의미한다.[9]

Ⅱ. AI LAWS 거버넌스 경쟁: 원칙과 간극

글로벌 AI 거버넌스 경쟁은 기업 친화적인 접근을 선호하는 미국과 정부중심적 접근을 선호하는 중국, 그리고 권리중심적 접근을 주창하는 EU 간 경쟁의 양상을 보였다.[10] 2023년 EU는 AI 사용이 야기할 수 있는 위험성에 따라 규제 및 금지의 정도를 구분한 EU AI법을 발표하였고, 미국 바이든 행정부 역시 2022년 10월 ‘AI 권리장전을 위한 청사진(blueprint for an AI bill of rights)’, 2023년 10월 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용에 대한 행정명령 14110(executive order on safe, secure, and trustworthy development and use of AI)’을 발표하면서 EU가 주창하던 권리중심적 접근의 상당부분을 반영하는 모습을 보였다. 그러나 트럼프 2기 행정부가 들어서면서 취임 첫날 행정명령 14110을 철회하고, 스타게이트 프로젝트를 발표하는 등 탈규제 및 기업혁신친화적 환경 조성으로 방향을 선회하였다. 동시에, 2025년 1월 중국의 DeepSeek-R1 출시 등의 여파로 그동안 디지털 규범논의에 있어서 권리중심적 접근을 주창하였던 EU마저 AI 역량개발 및 기술혁신을 추진하는 방향으로 변화하고 있다. 2025년 11월 20일에는 2026년 8월로 예정되어 있던 EU AI법의 적용을 2027년 12월까지 16개월 연기하고 개인정보보호규정을 완화하는 ‘디지털 간소화 방안’을 발표하기도 하였다. 결국 현재 AI 거버넌스 경쟁은 브뤼셀 효과에 기반한 EU의 권리중심적 접근으로 수렴하는 듯했으나, 최근 들어 윤리적이고 책임감 있는 AI 개발 및 사용보다는 AI 경쟁의 선점우위효과 쟁취를 위한 미국과 중국 간 규범 경쟁의 모습이 커지고 있다.

그러나 AI를 둘러싼 규범경쟁이 가장 첨예하고 시급하게 나타나고 있는 안보분야 중 하나인 LAWS 거버넌스[11] 논의에서 나타나는 규범경쟁의 양상은 AI 거버넌스에 대한 규범경쟁의 모습과는 상당한 차이를 보인다. 미국, 중국, EU 등 주요 행위자 간 입장차이가 명확한 AI 거버넌스 경쟁과 달리 LAWS 거버넌스 경쟁에서는 LAWS의 전면적 금지와 규제, 전면허용의 스펙트럼 속에서 미국과 중국 등 기술선도국들이 각기 다른 규범을 주창하기보다는 현재 진행중인 LAWS 거버넌스가 경쟁 친화적인 형태로 마무리되도록 하기 위해 암묵적인 협력의 모습을 보여주고 있다.

다양한 국제기구 및 다자협의체에서 파편화되어 진행되고 있는 AI 거버넌스 논의와는 달리 현재 LAWS 거버넌스에 대한 논의의 중심은 UN 특정 재래식무기 금지협약(Convention on Certain Conventional Weapons: 이하 CCW)의 LAWS에 대한 정부간전문가그룹(Group of Governmental Experts on LAWS: 이하 LAWS GGE)에서 진행 중이다. 미국, 중국 등 주요 국가들은 UN CCW GGE가 LAWS 거버넌스 논의에 있어 가장 적절한 포럼이라는 입장을 발표한 바 있다. 예컨대, 미국은 2025년 9월 한국을 포함한 주요 동맹국 및 우방국 등과 함께 “UN CCW가 LAWS 논의에 있어서 가장 적절한 포럼이라고 강조하였다.[12] 오스트리아, 칠레, 프랑스, 독일, 이탈리아, 파키스탄, 스페인, 우루과이, 브라질 등 중남미 및 유럽 지역 39개 국가들 역시 LAWS GGE에서의 논의가 글로벌 LAWS 거버넌스 발전을 위한 충분한 기반이 되고 있다며 지지의 의사를 밝혔다.[13]

구테흐스 유엔 사무총장은 2026년까지 UN CCW 체제 내에서 LAWS 거버넌스에 대한 규제안이 마련되어야 한다는 점을 강조하였고, 참여국들 역시 2026년 제7차 검토회의 전까지 참여국들의 합의에 기반한 LAWS 거버넌스 체제를 마련하겠다는 목표를 달성하기 위한 논의를 진행하고 있다. 미국과 이스라엘의 이란 공격의 충격 속에서도 참여국들은 2026년 3월 2~6일 제네바에 모여 2026년 1차회기 회의를 진행하는 등 연내 합의 및 최종결과 도출을 위해 노력하고 있다.[14]

LAWS GGE 논의 초반 LAWS의 전면금지 및 규제에 대한 반대의 입장이 가장 강했던 국가는 러시아였지만, 미국과 중국, 영국, 이스라엘, 인도, 호주, 일본 등 주요국, 특히 다수의 기술선도국들 역시 규제보다는 LAWS의 허용에 대한 선호를 명확히 하였다. 한국 역시 이에 속하였다. 반면, 기술적으로 LAWS의 사용에 뒤쳐질 수밖에 없는 국가들은 LAWS의 전면금지를 선호하는 경향을 보였다. 인간의 통제 없이 치명적인 살상력을 행사할 수 있는 무기체계의 사용과 확산을 경계하는 입장이다. 예컨대, 아프리카 지역 54개국은 2018년 LAWS 사용금지에 대한 법적 구속력이 있는 제도의 확립을 촉구하는 성명서를 내기도 하였다. 한편, EU를 포함하여 오스트리아, 네덜란드, 스페인, 노르웨이, 프랑스, 독일, 이탈리아 등 다수의 국가들은 이원적 접근(two-tier approach)을 추진하였다. 이들은 LAWS 역시 국제인도법 등 기존 국제법을 따라야 하기 때문에 국제인도법을 위반하는 사용은 전면 금지하되 그 외의 영역에 대해서는 엄격한 규제의 방법에 대해 논의하자는 입장이었다.

LAWS의 전면금지, 전면허용, 그리고 이원적 접근에 대한 거버넌스 경쟁은 LAWS 거버넌스에 있어서도 기존 국제인도법을 따라야 한다는 점에 대한 원칙적 합의가 이루어지면서 이원적 접근에 대한 지지가 급속히 확대되었다.[15] 2019년 LAWS GGE가 LAWS 사용에 관한 11개의 이행원칙을 채택하는 과정에서 LAWS 사용에 있어서 국제인도법이 적용되어야 한다는 점, 무력 살상 시에는 인간의 개입이 필요하며 인간의 책임을 유지해야 한다는 점, 새로운 기술의 사용 시 국제법적 의무의 준수 등과 더불어 기술의 평화적 발전을 저해하는 것은 금지한다는 점을 분명히 하였다. 뿐만 아니라, 2024년 12월 2일 UN 총회에서 LAWS의 사용을 전면금지하자는 이중접근에 기반한 결의안이 채택되었다. 이원적 접근에 대해 다소 망설이는 모습을 보였던 미국을 포함하여 한국, 일본 등 대다수 UN 회원국(166개국)이 찬성하였다.[16] 구테흐스 유엔 사무총장, ICRC 등 국제기구 역시 인간의 의미 있는 개입과 통제가 없는 자동공격 등은 완전히 금지하고, LAWS 사용대상 및 범위 등에 대해서는 제약을 가해야 한다며 이원적 접근에 대한 지지를 명확히 하였다.

이에 기반하여, 2025년 2차회기 회의 이후 의장의 명의로 작성되어 참여국들에게 회람된 롤링 텍스트에서는 국제인도법 적용의 원칙에 대해 다음의 내용을 포함하였다.[17] 먼저 롤링 텍스트는 국제인도법이 LAWS 사용과 발전에 완전히(fully) 적용된다는 조항을 포함하고 있다(Box 2의 3조). 또한, 이원적 접근에 기반하여 기존 무기체계 및 무력사용에 있어서 국제인도법이 금지하고 있는 것들은 LAWS에서도 금지되어야 한다는 점 역시 명확히 하였다(Box 3의 1, 2조).[18] 이에 따라, 롤링 텍스트에서는 “LAWS의 사용이 본질적으로 과도한 부상이나 불필요한 고통을 주거나, 태생적으로 무차별적으로 사용될 수 있거나, 국제인도법에 부합하지 않는 사용은 어떠한 상황에서도 금지된다”는 조항을 포함하고 있다. 또한, LAWS 사용은 비례성 원칙 및 예방의 원칙에 따라야 하고, 어떠한 상황에서도 시민 또는 시민의 소유물 등 민간을 표적으로 공격해서는 아니된다는 점 역시 명확히 하고 있다. 이에 대한 참여국의 의견을 수렴하였던 2026년 3월 1차회기 회의에서 대다수의 참여국들은 국제인도법 적용에 관한 의장 명의의 롤링 텍스트의 내용에 대한 합의의 뜻을 분명히 하였다.[19]

이처럼 LAWS GGE에서 진행 중인 논의의 흐름을 살펴보면, 국제인도법의 적용, 이원적 접근 등 LAWS 거버넌스의 큰 틀에 대한 합의는 상당부분 진척된 것으로 보인다. 그러나 국제인도법 적용에 대한 원칙적 합의에도 불구하고, 어떻게 국제인도법을 적용하여 LAWS를 규율할 것인가라는 문제, 즉, 국제인도법의 구체적 적용 및 준수 방법 등에 대해서는 여전히 첨예한 논쟁이 계속되고 있다.

프랑스, 독일, 덴마크, 핀란드 등 다수의 유럽국가들은 국제인도법에 따른 규제가 어려운 분야에서는 LAWS를 금지할 필요가 있다고 하면서 LAWS 사용의 시간적·지리적 제한을 명확히 해야 한다고 주장한다.[20] 네덜란드 출신의 보쉬(Robert in den Bosch) 의장 명의의 롤링 텍스트 역시 국제인도법에 부합하는 LAWS 사용을 위한 조건들에 대해 상세히 제안한다. LAWS는 본질적으로 군사적 목표에 대해서만 사용되어야 하거나 LAWS의 숫자를 제한해야 할 뿐 아니라 공격 대상의 종류와 지속, 지정학적 범위 등 임무의 주요 매개변수들이 책임감 있는 지휘체계 속에서 상황에 적합한 인간의 판단과 통제 없이 (AI에 의해) 자율적으로 변경되어서는 아니된다는 등 세부적 조건을 첨부하고 있다.[21] 자율적으로 기능을 수행하는 LAWS의 숫자 역시 제한되어야 하며, 자폭 등의 방법을 통해 시의적절하게 비활성화될 수 있어야 한다는 점도 명시한다.[22] 뿐만 아니라, 롤링 텍스트는 LAWS의 책임 귀속성과 관련하여 국제인도법에 따른 교전행위에 대한 책임은 국가와 무력충돌의 당사자 및 개인에게는 부과될 수 있으나 무기체계에는 부과될 수 없다는 점을 분명히 상기하고 있는데[23], 이는 LAWS로 인한 결과의 책임이 AI에 귀속될 수 없다는 점을 분명히 한 것이다.

반면, 미국, 한국, 호주, 캐나다 등은 LAWS 사용에 있어 국제인도법 적용의 원칙에는 동의하지만 국제사회가 기술혁신과 군사적 필요성 사이의 균형점을 찾아야 하며, 과도한 규제는 오히려 LAWS 기반 방어체제에 대한 부당한 제약으로 이어질 수 있다는 우려를 표명하였다.[24] 또한, 국제인도법에 따라 민간을 표적으로 하는 LAWS의 사용을 금지하는 것에는 원칙적으로 동의하지만 “어떠한 상황에서도” 민간을 표적으로 하는 LAWS 사용을 금지한다는 조건에 대해서는 우려를 표시하면서, 민간부문은 군사작전의 위험으로부터 일반적인 보호를 받는다는 제네바협약 제1의정서 제51조의 내용을 따르는 것을 제안하였다. LAWS 사용 수량의 제한에 대해서도 이러한 제한은 국제인도법에 부합하지 않는다는 점을 강조하면서 해당 조항의 삭제를 주장하였다. 중국 역시 지나치게 세세한 규제는 오히려 LAWS 거버넌스에 대한 합의 도출의 가능성을 약화시킬 것이라며 AI LAWS에 대한 과도한 규제를 방지하려는 모습을 보인다.[25]

국제인도법 적용 범위 및 방식에 대한 주요국의 이견은 LAWS GGE의 핵심목표 중 하나인 LAWS에 대한 새로운 조약 체결의 필요성에 대한 주요국 간 간극으로 이어진다. 다수의 유럽국가와 아프리카 및 글로벌 사우스 국가들은 새로운 LAWS 조약 또는 LAWS 금지협약의 체결을 지향한다. LAWS의 사용과 개발에 있어 상당 수준의 규제를 법제화할 수 있기 때문이다. 반면, 미국, 중국, 러시아, 이스라엘, 한국, 일본 등은 LAWS에 대한 별도의 국제조약 체결에 부정적인 입장이다. 특히, 미국은 LAWS 거버넌스의 경우 기존 국제인도법만으로도 충분한 규제가 가능하다는 입장이다. 이는 AI의 군사적 사용에 있어서 정당한 사용이 아니라 “적법한 사용”을 강조하는 미 국방부의 입장과 일맥상통하는 것이다. 만약 위법성 여부에 대한 판단의 근거가 될 ‘법’의 존재 자체가 없는 상황이라면, 규범을 위반하는 것이 아닌 법을 위반할 경우 AI의 군사적 사용을 제한하겠다는 말은 곧 AI LAWS를 포함한 AI의 군사적 사용에 있어 제약과 제한을 최소화하고자 한다는 의미이기 때문이다.

결과적으로 현재 LAWS 글로벌 거버넌스 경쟁은 미중 간 경쟁의 모습보다는 기술선도국과 약소국간 규범충돌의 속성이 강하게 나타나고 있다. AI LAWS가 미래 군사안보질서에서 결정적 우위를 가져올 것이라는 믿음과 위기감 속에서[26] 기술선도국들은 국제인도법 적용이라는 최소한의 굴레도 부담스러워 하는 반면 다수의 후발국가 및 약소국들은 (탈냉전 이후 EU가 규범권력에 집중했던 것과 비슷하게) LAWS 격차의 완화를 위해 별도의 LAWS 조약 또는 금지협약을 체결하기를 강력히 희망하기 때문이다. 나아가, LAWS에 대한 새로운 조약 체결에 대한 입장의 간극은 LAWS 개념 정의, 인간의 개입과 통제 등 세부적 내용을 둘러싼 규범경쟁으로 나타나고 있다.

Ⅲ. LAWS GGE의 주요 쟁점

2026년 3월에 열린 2026년 1차회기 회의에서 참가국들은 국제인도법 적용이라는 원칙에 대한 합의는 유지하였고, LAWS에 관한 법적 구속력이 있는 새로운 조약의 체결이라는 목표를 위한 노력을 계속하기로 하였다.[27] 그러나 LAWS의 개념정의, 인간 판단에 의한 통제의 필요성 및 정도 등 주요쟁점에 대해서는 여전히 상당한 간극이 존재한다. 이 글에서는 주요쟁점 중 미국과 중국 등 기술선도국들과 EU, 글로벌 사우스 국가들 간 거버넌스 경쟁의 동학분석을 위해 LAWS의 개념정의 문제와 인간 판단 및 통제의 문제에 집중하여 살펴보고자 한다.[28]

1) LAWS의 개념정의

LAWS GGE의 주요쟁점 중 하나는 LAWS의 개념정의에 관한 문제이다. 이는 LAWS 거버넌스 논의의 출발점이기도 하다. 과연 무엇을 LAWS로 간주해야 하는 지의 여부에 따라 국제인도법이 규율하는 일반적 원칙의 적용의 방식과 범위가 크게 달라질 수 있음에도 불구하고 LAWS에 대한 개념정의가 여전히 명확하지 않기 때문이다. 2026년 1차회기 회의에서는 LAWS의 개념정의 및 핵심속성과 관련하여 특히 두 가지 문제가 쟁점이 되었다. 하나는 LAWS의 핵심속성에 식별(identify)의 기능을 포함해야 하는 지의 문제이고, 다른 하나는 ‘치명성(lethality)’를 어떻게 규정할 것인가의 문제이다.

먼저, LAWS의 정의에 있어서 표적 식별의 기능을 포함해야 하는 지의 여부는 민간인의 보호 및 이를 위한 민간인과 전투원(혹은 민간시설과 군사목표물)의 구별이라는 국제인도법의 핵심적 요소와 밀접하게 연결되는 문제이다. 이스라엘의 라벤더(Lavender) 시스템 등 실제 전장에서 이미 AI를 통한 자동적인 표적 식별 기능이 활용되고 있다는 점에서 현실의 문제이기도 하다.

일련의 국가들은 LAWS의 개념정의, 특히 자율성(autonomy)의 속성을 정의함에 있어서 식별은 제외해야 한다고 주장하였다. LAWS의 자율적 과정 혹은 속성을 “식별(identify)-선택(select)-교전(engage)”라고 한다면, 식별은 선택의 전제조건인 동시에 선택의 과정에 태생적으로 내재되어 있는 기능이기 때문에 별도의 명시는 불필요하다는 입장이다.[29] 전혀 다른 이유에서 식별의 제외를 주장한 국가들도 있다. 이들은 LAWS를 정의함에 있어서 식별을 포함할 경우 LAWS 거버넌스의 대상을 너무 좁게 제한하는 역효과가 발생할 수 있을 뿐 아니라 잠재적 허점(loophole)을 만들 수 있다는 점을 지적하였다.[30] 예컨대, 식별의 일부 혹은 전체과정을 인간이 수행할 경우에는 LAWS가 아니라고 주장할 위험성이 존재한다.

반면, 독일, 프랑스 등 EU 국가, 한국, 일본 등은 식별과 선택이 완전히 다른 별개의 기능이자 단계라는 반대의견을 제시하면서, LAWS의 개념정의에 식별이 포함되어야 한다는 입장을 견지하였다.[31] LAWS가 표적을 공격하는 과정에서 식별이 포함되는 것이 더 명확할 뿐 아니라 전투원과 비전투원의 구별원칙 등 국제인도법과의 정합성을 높여주기 때문이다.[32] 또한, LAWS의 정의에 식별의 기능이 포함되지 않는다면 다른 무기 체계들과의 구분성이 약화될 수 있다는 우려를 표명하였다.

LAWS 개념정의상 식별 포함 문제에 대한 양측의 이견 속에서 2025년 3월 1차회기 회의의 결과를 반영하여 2025년 5월에 작성한 롤링 텍스트는 LAWS를 “사용자의 개입이 없이 표적을 선택하고 교전할 수 있는 무기체계 및 기술적 구성요소의 통합된 조합”으로 정의하자고 제안하였다.[33] LAWS의 개념정의에 있어서 이전까지는 포함되어 있던 ‘식별’의 기능이 삭제된 개념 정의였으며, 의장은 이러한 변화가 LAWS 개념정의와 관련하여 2025년 1차회기 회의에서 나온 가장 중요한 변화라고 평가하였다.[34] 식별의 제외는 LAWS 조약의 잠재적인 허점(loophole)을 최소화하면서도 지나치게 제약적인 접근은 피하려는 노력이라는 점 역시 강조하였다.[35]

그러나 2025년 2차회기 회의 이후 회람된 12월 18일자 롤링 텍스트에서는 LAWS의 개념정의에 식별이 다시 포함되었다.[36] 또한, 식별의 포함이 잠재적 허점을 야기할 수 있다는 우려를 해소하기 위한 방편으로 “표적의 한도를 인간이 설정하는 경우도” LAWS로 포함시킨다는 내용을 부속조항으로 포함하였다.[37] 이러한 부속조항에 대해 중국 등이 반대의 입장을 표명하였으나, 미국을 포함한 다수의 국가들이 부속조항 추가 필요성에 대해 동의를 표시하였다. 2026년 1차회기 회의에서는 해당 부속조항에 대한 논의와 수정작업이 계속되었으나 조건부의 형태로 식별을 포함하는 방향에 대해서는 합의가 이루어진 것으로 보인다.[38]

이와는 달리, ‘치명성’ 포함의 문제는 여전히 주요 국가들의 의견이 충돌하는 핵심쟁점이다. LAWS GGE에서 논의되는 규제와 거버넌스가 치명적 살상능력을 가지거나 야기한 자율무기체계(AWS)만을 대상으로 해야 하는 것인지 아니면 모든 형태의 자율무기체계를 대상으로 해야 하는 것인지를 결정짓는 문제이기 때문이다. 전자의 경우라면 미사일 요격시스템, 근접방어무기, 능동방어체계 등은 규제의 대상에서 제외될 수 있기 때문에 더욱 예민한 문제이기도 하다. 어느 정도의 살상 또는 파괴를 치명적이라고 해야 하는 지의 문제 역시 이견이 큰 쟁점이다.

오스트리아, 스위스 등 EU 국가들은 LAWS의 개념정의에서 “치명적(lethal)”이라는 형용사를 포함하는 것에 반대의 입장을 명확히 하고 있다. 이들은 기존 국제인도법에서 “치명성”이라는 개념은 존재하지 않기 때문에 국제인도법의 적용을 원칙으로 하는 LAWS 거버넌스에서 역시 “치명적”이라는 조건을 부여하지 말아야 한다고 주장한다.[39] 또한, 치명성은 무기의 효과이자 교전의 결과이지 무기체계의 특성이 아니라는 점도 지적한다. 치명성을 포함할 경우, 거버넌스의 대상에서 벗어나는 LAWS가 발생할 수 있다는 점에 대해서도 우려를 표시하였다.[40]

반면, 미국과 중국, 러시아, 한국 등은 “치명성”을 포함해야 한다고 주장한다. 러시아는 치명성은 2016년 UN CCW GGE on LAWS가 시작할 때부터 내려온 핵심적 특성이자 논의 및 거버넌스의 대상을 명확히 하는 개념이라는 점을 강조하였고, 중국은 치명성 요건이 롤링 텍스트에 명시되어야 한다는 점을 강조하였다. 미국 역시 LAWS GGE에게 주어진 위임사항(mandate)이 치명적 자율살상무기체계에 대한 것이라는 점을 강조하였다. 치명성의 의미에 대해서도 미국과 중국, 러시아 등의 선호와 EU 등의 선호가 충돌한다. 먼저, 2025년 5월 회람된 의장의 롤링 텍스트는 치명성을 “사망을 야기할 수 있는 능력(the capacity to cause death to a person)”으로 규정하였다.[41] 부상이나 물체의 파괴 등 사망을 초래하지 않는 경우도 있겠지만, 단순히 결과만을 보기보다는 사람을 사망케 할 수 있는 능력의 유무에 집중해야 한다는 설명이다. 치명성에 대한 이러한 개념정의가 치명적 자율살상무기체계가 아니라 모든 자율살상무기체계에 대한 금지 및 규제를 주장하는 입장과 살인과 직결되는 “치명적인” 경우에만 자율살상무기체계의 사용을 규제하자는 입장 간의 간극을 해소할 수 있는 건설적인 노력이라고 평가하였다.[42]

반면, 미국은 “치명성” 대신 “치명적인 힘으로(with lethal force)”라는 표현으로 바꾸어야 한다고 주장한다. 예컨대, 미국은 “자율성(autonomy)”은 자율적 기능을 가능하게 하는 특정 기술이나 능력의 포함여부와는 상관없이 기능이나 임무에 기반하여 이해해야 한다고 강조하면서, 자율성은 결국 무기체계의 능력(capacity)이기 때문에 무차별적 무기처럼 기존 국제인도법이 금지하는 무기체계와는 다르다는 점을 강조하였다.[43] 즉, 무기체계의 속성이나 능력보다는 행위의 결과에 따르자는 입장이다. 미국의 이러한 의견에 대해 한국과 인도 역시 동의를 표명하였다.

이러한 의견을 반영하여 가장 최근 회람된 2025년 12월 롤링텍스트는 논의의 대상인 LAWS에 대한 개념정의에 있어서 “치명적”이라는 표현을 포함하는 동시에 “LAWS가 물건을 파괴하거나 피해를 입히는 행위 또는 사람에게 상해를 야기하는 행위처럼 사람의 생명을 앗아가는 것이 아닌 방식으로 사용될 수 있다 하더라도 LAWS의 범주에서 제외될 수는 없다”는 별도의 부속조항(1조 B항)을 신설하였다. EU 등 치명성 포함에 반대하는 국가들의 선호 역시 반영하려는 시도이다. 실제로 스위스, 브라질, 아일랜드 등은 신설된 부속조항이 현실적인 타협안이라는 의견을 표명하였다.[44] 미국은 부속조항이 불필요하다는 의견을 제시하였다.

2) 인간의 판단과 통제

LAWS GGE에서는 의미 있는 인간 통제와 판단의 필요성 및 범위 역시 치열한 논쟁의 대상이 되었다.[45] 브라질, 멕시코 등 다수 국가들은 인간 통제의 중요성을 강조하면서 국제인도법 준수와 책임귀속의 명확성을 위해 해당 내용을 독립된 개별조항으로 포함하여 LAWS 거버넌스를 위한 조약의 핵심 요건임을 명확히 해야 한다고 주장한다. 독일, 오스트리아 등은 AI 시대에 국제인도법이 제대로 작동하기 위해서는 무력의 사용에 있어서 인간의 판단이 연결되어야 한다고 주장하였고, EU 역시 인간의 판단과 통제가 LAWS의 개발과 배치, 사용 등 전체의 생애주기(life cycle)에 모두 적용되어야 한다는 점을 강조하였다. 또한, 그동안 GGE on LAWS에서의 논의가 각국의 다양한 의견을 최대한 수용하기 위한 방편으로 지나치게 낮은 수준의 타협안을 작성해왔다고 비판하면서 논의의 출발선이 되는 롤링 텍스트를 더 이상 후퇴시켜서는 안된다고 주장하였다.[46] UN, 국제적십자위원회(International Committee of the Red Cross: ICRC) 등 국제기구 역시 인간통제가 LAWS의 핵심기능으로 명시되어야 한다는 점을 강조하면서, LAWS 사용에 있어 (명확한 사용기간 및 지리적 범위의 제시 등) 시공간적 제한과 더불어 유사시 인간에 의해 LAWS를 중단하거나 비활성화할 수 있는 통제능력이 있어야 한다고 주장한다.

반면, 미국과 중국, 일본은 인간통제는 국제인도법 준수를 위한 수단에 불과하므로 개별조항으로 명시하는 것에 대해 반대의 입장을 명확히 하였다. 미국은 법적 의무를 발생시킬 수 있는 형태로 인간통제의 조건을 명시적으로 포함하는 것에 대해 부정적인 입장이다. 또한, 인간의 판단이라는 것이 AI에 의한 자율적 판단보다 항상 더 나은 것이라고 확신할 수 없으며, AI의 자율적 판단이 오히려 민간인 보호하는 국제인도법의 목표를 이행하기에 더 나을 수 있다는 의견 또한 제시하였다.[47]

이번 회기 회의에서 LAWS에 대한 인간의 개입과 통제의 문제는 “상황에 적합한 인간 판단과 통제(context-appropriate human judgement and control)”의 포함여부 및 표현방식에 대한 논쟁으로 진행되고 있다. 명시적 포함을 지지하는 측에서는 상황적으로 적합한 인간의 판단과 통제라는 표현이 차별성 원칙과 비례성 원칙, 그리고 예방의 원칙(precaution in attack) 등 국제인도법의 핵심원칙을 지키기 위해서는 LAWS에 대한 인간의 판단과 통제가 필요하다는 점을 강조하면서, “상황적으로 타당한 인적 판단과 통제”라는 표현이 그동안 LAWS에 대한 인간 통제의 정도에 대해 주요 국가들이 보여주었던 입장의 간극을 줄일 수 있는 장치라고 설명한다.[48] 예컨대, 불가리아, 덴마크, 프랑스, 독일 등 유럽국가들은 LAWS 논의에서 인간적 요소(human element)의 중요성에 대한 합의가 나타나고 있다고 강조하면서, 그동안 LAWS 논의에서 인간 통제와 관련하여 다루어졌던 “충분한”, “적절한”, “의미 있는” 등의 표현들이 상황에 적합한 인간의 판단과 통제라는 표현으로 포용할 수 있다고 주장하였다.[49]

또한, “상황에 적합한”이란 조건은 무기의 종류, 계획된 임무, 운용환경 및 조건 등 상황을 고려한 인간 개입과 통제의 수준 및 유형을 의미하는 것이며, 인간의 판단은 LAWS 개발 및 사용에 있어서 구별성 원칙, 비례성 원칙, 예방의 원칙 등 국제인도법에 따른 교전을 개시할 때 인간이 판단을 행사하는 것을 의미한다고 설명한다.[50]

이러한 주장에 대해, 미국은 “상황과 적합한 인간 판단과 통제”가 곧 의미 있는 인간통제라고 보기는 어려울 뿐 아니라, “적합한”이라는 표현은 국제인도법의 위반 여부를 판단할 수 없는 모호한 기준이라는 점을 강조하였다. 또한, 상황에 적합한 인간 판단과 통제가 없는 LAWS를 금지하자는 것은 fire-and-forget 시스템처럼 작동 후 인간의 개입 없이 자율적으로 운용되는 자율무기체계를 모두 금지하자는 의미로 해석될 수 있다며 이러한 해석에 대한 미국의 반대입장을 명확히 하였다.[51] 또한, 미국은 “인간사용자(human user)”보다는 “조작수(operator)”[52]라는 표현이 더 적절하다는 의견을 제시하였다. 무기체계에 대한 인간의 직접적 통제의 특성을 명확히 할 뿐 아니라 군사적·법적 용어라는 설명이다. 또한, 미국 등은 인간 조작수나 인간사용자 등 “인간”이라는 표현을 사용해서는 아니된다고 주장하였다. 국제인도법에서도 “사용자”라고 할 뿐 “인간”이라는 표현을 포함하지 않는데, 이는 사용자가 당연히 인간이라고 이해하기 때문이라고 설명한다. 또한, “인간사용자”라고 할 경우, 비인간사용자가 있다는 의미로 해석될 수 있다는 우려도 표명하였다.[53] 일본은 상황에 적합한 인간 판단과 통제가 국제인도법에 따라 LAWS를 사용하기 위한 수단이어야지 그 자체가 조건이 되는 것은 바람직하지 않다는 우려를 보였다.[54] 한국 역시 미국, 일본과 비슷한 의견을 제시하면서, “국제인도법 준수를 위해 인간 판단과 통제가 필요하다”는 이전의 표현에 대한 선호를 표명하였다.[55] 또한, 중국도 “적합한”이라는 것이 무엇을 의미하는지에 대해 객관적인 기준을 명확히 할 필요가 있다는 우려를 표명하였다.[56]

이러한 우려 속에서 “상황에 적합한”이라는 조건의 기준과 관련하여 일부 국가들은 AI LAWS의 지휘계통에서 법적인 고려(legal consideration)와 더불어 윤리적 고려(ethical consideration) 또한 명시해야 한다고 주장한다. 예컨대, 브라질, 페루, 쿠바 등은 윤리적 고려가 2023년 GGE 보고서의 지도원칙(guiding principles) 및 마르텐스 조항(Martens Clause)에 부합하는 내용이기 때문에 필수적으로 유지해야 한다는 입장이다. 이에 대해, 일본, 이스라엘 등은 ‘윤리적 고려’를 위한 보편적 윤리적 기준에 대해 국가들이 합의한 바가 없다는 점을 지적하며 해당 문구의 삭제를 주장하였다.[57]

Ⅳ. LAWS 거버넌스 전망과 함의

LAWS 거버넌스는 미래 세계질서의 발전에 있어 핵심변수 중 하나이자 빠르게 발전하고 있는 AI의 군사적 사용과 개발에 관한 글로벌 거버넌스의 뼈대를 구축한다는 점에서 시급하고 중요한 일이다. 이를 위해 현재 LAWS GGE는 2026년 최종결과 도출을 위한 논의의 마무리를 위해 박차를 가하고 있다.[58] 그러나 국제인도법에 부합하는 LAWS 개발과 사용에 대한 원칙적 합의, LAWS 개념정의에 대한 공통분모 도출 등 유의미한 진전에도 불구하고, LAWS GGE가 목표로 하는 최종결과물의 도출은 쉽지 않아 보인다. 특히, 다수의 국가들이 선호하는 경성법 형태의 결과물, 예컨대 UN CCW 부속의정서로서 LAWS 조약 또는 금지협약이 체결될 가능성은 크지 않다.

첫번째 이유는 UN CCW는 당사국 전원의 합의를 필요로 한다는 점이다. 현재 LAWS 개념정의 중 치명성 포함의 문제, 인간통제의 방식 문제, LAWS 개발금지의 문제 등 LAWS GGE 주요쟁점에 대한 주요국들의 입장과 선호의 간극이 여전히 큰 상황임에도 불구하고, 이에 대한 조율의 기회는 9월 첫 주로 예정된 2026년 2차회기 회의와 그 이전까지 의장의 주도로 진행될 몇 차례의 비공식협의에 불과한 실정이다. 따라서 당사국 전원이 받아들일 수 있는 합의문을 도출하기는 어려울 것으로 보인다.

두번째 이유는 미국과 중국 등 AI 기술을 선도하는 국가들이 LAWS 조약을 원하지 않는다는 점이다. 특히, 글로벌 LAWS 거버넌스에 대한 미국의 부정적 인식과 선호는 자신이 선도했던 규칙기반 자유주의 국제질서에 대한 비판과 부정, 제도적 후원의 약화, 재정지원의 축소, 규범적 리더십의 상실 등 국제기구와 국제법, 보편적 인권규범 전반에 대한 미국의 자기파괴적 접근[59]과 맞물린 것이다.[60] 국제관계에서 국제법 등 법과 원칙의 영향이 약화되는 국제정치의 탈사법화나 규범의 위기에 대한 우려의 목소리가 커지는 원인이기도 하다.

그러나 LAWS GGE에서 최종합의의 도출 가능성이 크지 않다 하더라도 LAWS GGE의 논의과정에 대한 이해와 분석은 필요하다. 역시 두 가지 이유 때문이다. 첫 번째 이유는 글로벌 거버넌스는 항상 변화를 고려하여 이해해야 한다는 점이다.[61] 즉, 어떠한 행위자가 어떤 가치와 규범을 주창하고, 이를 어떠한 방식으로 공론화하였으며, 어떠한 행위자들과의 관계 맺음을 통해 자신의 선호하는 규범이 국제사회에서 어떻게 받아들여지고 제도화 시키려고 했는지 등의 동학을 살펴보아야 한다. 두 번째 이유는 LAWS GGE에서의 논의가 UN CCW의 틀 밖에서 계속될 수 있다는 점이다. 대인지뢰금지협약은 UN CCW에서 지지부진한 논의진행에 실망한 캐나다 등 주요국 및 비정부행위자들이 오타와에 모여 CCW와는 별개로 논의를 시작하면서 체결되었고 UN CCW 제2의정서로 안착되었다. 집속탄 금지협약 역시 UN CCW에서의 논의가 진전을 보이지 못하자 노르웨이, 뉴질랜드 등 주요국 및 비정부행위자들이 오슬로에 모여 선언을 채택하고 CCW의 틀 밖에서 논의를 시작하면서 체결되었다. LAWS 거버넌스 역시 비슷한 방식으로 진행될 가능성이 적지 않다. 특히, 오타와 협약과 오슬로 협약 모두 CCW에서 다소 느린 속도로 진행되던 논의가 CCW 바깥에서 진행되면서 1년 남짓한 비교적 짧은 기간내에 조약의 체결로 진행되었다는 점을 고려하면, 올해 중으로 LAWS GGE 틀 밖에서 논의가 진행될 경우에 대한 대비 역시 필요하다.

그렇다면 CCW 틀 바깥에서 나타날 수 있는 LAWS 거버넌스 논의에 대한 한국의 접근과 전략은 어떠해야 하는가? 일단 AI 거버넌스에 대한 한국의 선호 및 전략과 궤를 같이 해야 한다. 또한, 현실적으로 한국은 미국이 주도하는 AI 생태계에 대한 참여가 필요한 상황이라는 점과 더불어 분단국가의 현실, 군비경쟁의 압력이 커지는 안보환경 등으로 인해 한국 역시 LAWS를 비롯한 군사적 AI 사용에 대한 필요성이 적지 않다는 점도 고려해야 한다. 동시에, 동맹국 및 우호국에 대한 미국의 정책변화가 장기화될 가능성 등으로 인해 세계안보질서 및 규범체계의 전환기적 변화의 모습이 커지고 있다는 점도 고려해야 한다. 전환기의 위기 극복을 위해서 다양한 유사입장국과의 연대협력 역시 절실하다는 점에서 중견국 규범외교전략 역시 포기해서는 안 될 것이다. 이미 한국은 대인지뢰금지규범이 오타와 프로세스를 통해 법제화되는 상황에서 한반도의 특수성을 고려하여 오타와 협약의 체결국으로 참여하지는 못했으나 대인지뢰금지에 대한 원칙적 찬성 의사는 표명한 바가 있다. 따라서 LAWS GGE 내외에서 진행되는 LAWS 거버넌스 논의과정에 적극 참여해야 한다. ■

[1]설인효. 2026. "AI 군사혁신의 전개 양상 전망: 혁신 속도에 관한 두 관점과 미·중 사례." 『EAI 워킹페이퍼」 1월 27일.

[2]Ramkumar, Amrith and Keach Hagey, and Vera Bergengruen. 2026. "Pentagon Used Anthropic’s Claude in Maduro Venezuela Raid." Wall Street Journal, February 15. https://www.wsj.com/politics/national-security/pentagon-used-anthropics-claude-in-maduro-venezuela-raid-583aff17.(최종검색일: 2026년 4월 5일).

[3]Amaral, Nilza. 2026. "The Iran War Highlights the Creeping Use of AI in Warfare." Chatham House. March 27. https://www.chathamhouse.org/2026/03/iran-war-highlights-creeping-use-ai-warfare. (Accessed: April 5, 2026); Brown, Michael. 2026. "The First AI War: How the Iran Conflict is Reshaping Warfare." Forbes. March 30. https://www.forbes.com/sites/mikebrown/2026/03/30/the-first-ai-war-how-the-iran-conflict-is-reshaping-warfare/ .(Accessed: April 5, 2026); Hammad, Noor. 2026. "The Proliferation of AI-enabled Military Technology in the Middle East." IISS Charting Middle East. April 2. https://www.iiss.org/online-analysis/charting-middle-east/2026/04/the-proliferation-of-ai-enabled-military-technology-in-the-middle-east/.(Accessed: April 5, 2026).

[4]Frenkel, Sheera and Julian E. Barnes. 2026. "Defense Dept. and Anthropic Square Off in Dispute Over AI Safety." New York Times, February 18. https://www.nytimes.com/2026/02/18/technology/defense-department-anthropic-ai-safety.html.(Accessed: April 5, 2026).

[5]Ramkumar, Amrith. 2026. "Trump Administration Shuns Anthropic, Embraces OpenAI in Clash Over Guardrails." Wall Street Journal, February 27. https://www.wsj.com/tech/ai/trump-will-end-government-use-of-anthropics-ai-models-ff3550d9.(Accessed: April 5, 2026).

[6]Metz, Cade, Julian E. Barnes, and Sheera Frenkel. 2026. "Pentagon Officially Notifies Anthropic it is a 'Supply Chain Risk'." New York Times, March 5. https://www.nytimes.com/2026/03/05/technology/anthropic-supply-chain-risk-defense-department.html .(Accessed: April 5, 2026).

[7]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails." Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/. (Accessed: April 5, 2026).

[8]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails." Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/.(Accessed: April 5, 2026)

[9]LAWS 거버넌스 논의에 있어서 AI는 이제 핵심요소이기 때문에 글로벌 LAWS 거버넌스의 결과는 글로벌 AI 거버넌스의 모습을 살펴볼 수 있는 기회이기도 하다.

[10]문용일. 2024. "수렴인가? 이질동형상(isomorphism)인가?: EU, 미국, 중국의 데이터 프라이버시 법제 비교분석." 『국제지역연구』 28 (2).

[11]UN 군축실(UN Office of Disarmament Affairs)은 새로운 도전과제로 과학기술, 군사적 영역에서의 AI, 무인전투체계(armed uncrewed systems), ICT 보안, 우주, 미사일, 시민사회와 군비통제와 함께 LAWS를 다루고 있다. UN 군축실 홈페이지 참조. https://disarmament.unoda.org/en. (최종검색일: 2026년 4월 5일).

[12]UN CCW/GGE.1/2025/WP.7 (미국 등의 공동의견서).

[13]UN CCW/GGE.1/2025/WP.8 (39개국 공동 성명).

[14]2026년 3월 7일 오후회의 중 의장 모두발언 참조. 1차회기 동안 진행된 회의들의 영상 역시 홈페이지에서 확인 가능하다. https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026.(최종검색일: 2026년 4월 5일)

[15]Perrin, Benjamin. 2025. "Lethal Autonomous Weapons Systems & International Law: Growing Momentum Towards a New International Treaty." American Society of International Law Insights 29 (1).

[16]해당 결의안에 대해 반대의사를 분명히 표시한 국가는 러시아와 벨라루스, 북한 3개국에 불과하였다. 한편, 중국은 해당 결의안의 표결에 기권한 15개 국가 중 하나였다. LAWS 규제논의에 대해 부정적인 입장임을 알 수 있다. 중국 외에 해당 결의안 표결에 기권한 국가는 에스토니아, 피지, 인도, 이란, 이스라엘, 라트비아, 리투아니아, 니카라과, 폴란드, 루마니아, 사우디아라비아, 시리아, 튀르키예, 우크라이나였다(UN General Assembly Resolution A/RES/79/62. December 2, 2024).

[17]UN CCW/GGE.1/2025 (Revised rolling text as of 12 May 2025).

[18]UN CCW/GGE.1/2025.

[19]2026년 3월 초에 열린 UN CCW GGE on LAWS 1차회기 회의의 주요내용은 4월 1일자로 공개된 의장의 요약문에서 확인할 수 있다{UN CCW GGE.1/2026.WP.2 https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf .(최종검색일: 2026년 4월 5일)}.

[20]UN CCW/GGE.1/2025/WP.4.

[21]UN CCW/GGE.1/2025/WP.9, Box 3.

[22]UN CCW/GGE.1/2025/WP.9, Box 3.

[23]UN CCW/GGE.1/2025/WP.9, Box 3.

[24]UN CCW/GGE.1/2025/WP.6.

[25]2026년 3월 3일 오후회의. https://webtv.un.org/en/asset/k1y/k1ywe5vjyq.(최종검색일: 2026년 4월 5일)

[26]Garcia, Eugenio. 2024. "Conclusions: Charting the Challenge of AI IR." International Studies Review 26 (2); 차태서. 2026. “AI 혁명과 공화주의 안보이론: 무정부와 위계의 이중 난제 재부상,” 『EAI 워킹페이퍼』2월 3일.

[27]2026년 3월 7일 오후 회의. https://webtv.un.org/en/asset/k1m/k1m35gbktf.(최종검색일: 2026년 4월 5일)

[28]2026년도 1차회기 회의에서 이견이 컸던 또 하나의 쟁점은 LAWS의 개발(development) 금지의 문제였다. 현재의 롤링 텍스트에서는 LAWS의 사용(employ)에 대한 금지를 다루고 있는데, 이를 개발(development)로 대체하여 LAWS의 개발을 금지하자는 문제가 핵심 쟁점 중 하나가 되었다. 브라질, 멕시코, 노르웨이, 파키스탄, 쿠바 등 개발 단계에서의 금지를 주장하는 국가들은 1975년 발효된 생물무기금지협약(Convention on the Prohibition of the Development, Production, and Stockpiling of Bacteriological(Biological) and Toxic Weapons and on Their Destruction: BWC), 1997년 발효된 화학무기금지협약(Convention on the Prohibition of the Development, Production, Stockpiling and Use of Chemical Weapons and on Their Destruction: CWC) 등 비인도적 무기의 사용만 아니라 개발을 금지한 기존 조약의 선례를 따라야 한다고 주장한다. 반면, 미국, 한국, 일본, 이스라엘, 영국, 호주 등 주요 국가들은 개발의 의미와 범위 등에 대한 모호성의 문제 등을 지적하면서, 국제인도법이 본질적으로 ‘사용’을 규율하므로 이에 따라야 한다고 주장한다. 중국은 국가의 자율에 맡겨야 한다는 입장을 보이고 있고, EU의 경우는 프랑스는 개발의 금지를 지지하는 반면, 독일과 스웨덴 등은 조건부 반대의 입장을 보이는 등 일관된 입장을 보여주지 못하고 있다.

[29]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[30]UN CCW GGE on LAWS Rolling text-18 December 2025 version. p.3.

[31]UN CCW GGE on LAWS Rolling text-18 December 2025 version. p.3. 각 국가의 입장은 1차회기 회의 영상에서 확인할 수 있다.

[32]UN CCW/GGE.1/2026/WP.2.

[33]“an integrated combination of one or more weapons and technological components, that can select and engage a target, without intervention by a human operator in the execution of these tasks.” {UN CCW/GGE.1/2025/WP.9 (Rolling text as of 12 May 2025)}.

[34]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[35]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[36]UN CCW GGE on LAWS Rolling text-18 December 2025 version

[37]1조 A항의 내용은 다음과 같다. “The fact that a human operator sets the parameters of the target(s) does not exclude the system from the characterization.”

[38]UN CCW/GGE.1/2026/WP.2.

[39]2026년 3월 2일 오후 회의 중 오스트리아 발언 참조.

[40]2026년 3월 2일 오전 회의 중 아일랜드 발언 참조.

[41]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[42]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[43]UN CCW/GGE.1/2025/wp.6.

[44]2026년 3월 2일 오전 회의(아일랜드와 스위스), 3월 5일 오전 회의(브라질) 참조.

[45]자율무기체계에 대한 거버넌스 논의 초기에는 인간을 표적으로 하는 LAWS를 금지하자는 목소리가 컸다. 도덕적 판단과 윤리적 의사결정을 배제한 기계적 계산과 판단에 의해 인간의 생사가 결정되는 것은 인간 존엄성에 대한 근본적인 침해라는 주장이다. 그러나 현재 LAWS GGE에서는 소위 ‘킬러로봇’과 같은 대인 시스템에 대한 금지는 주요 쟁점에서 빠져 있다. 시민사회 등이 강력하게 비판하는 부분이기도 하다.

[46]2026년 3월 2일 오전 회의, 3월 3일 오전회의 중 EU, 오스트리아, 독일 의견 참조.

[47]2026년 3월 3일 오전 회의, 3월 4일 오전회의 중 미국 의견 참조.

[48]UN CCW/GGE.1/2025/WP.9.

[49]UN CCW/GGE.1/2025/WP.4.

[50]UN CCW/GGE.1/2025/WP.4.

[51]2026년 3월 4일 오후회의 중 미국 의견(intervention) 참조.

[52]예컨대, 미국은 조작수(operator)는 LAWS를 활성화하거나 통제하거나 감시할 수 있는 인간을 의미하는 것으로, 단순히 명령을 내리는 지휘관은 조작수로 보아서는 안 된다는 의견을 제시하였다(UN CCW/GGE.1/2025/WP.6; 2026년 3월 3일 오전 회의 중 미국 의견 참조).

[53]2026년 3월 3일 오전 회의 중 미국 의견 참조.

[54]2026년 3월 3일 오전회의 중 일본 의견 참조.

[55]2026년 3월 3일 오전회의 중 한국 의견 참조.

[56]2026년 3월 2일 오전회의 중 중국 의견 참조.

[57]2026년 3월 3일 오전회의와 오후회의 참조.

[58]의장은 3월 7일 오후회의에서 이번 1차회기의 내용을 중심으로 수정된 롤링 텍스트를 4월 중으로 각국에 회람한 후, 이에 대해 8월 31일부터 9월 4일로 예정된 제2차 회기 회의에서 논의하겠다는 의사를 밝혔다. 또한, 원활한 의견 조율을 위해 회기 간 비공식적인 협의 역시 진행할 예정이라는 점도 분명히 하였다. 2026년 3월 7일 오후회의 의장 발언 참조.

[59]Cordell, Rebecca and Alex Dukalskis. 2025. "Authoritarianism, Global Politics, and the Future of Human Rights." International Organization 79; Reeder, Bryce. 2025. "The Future of United Nations Peacekeeping in a Fragmenting World." International Organization 79.

[60]일례로, 미국은 국제인권레짐의 획기적 발전이자 결과물이라 할 수 있는 2025년 세계 최초로 UN 보편적 정례인권검토를 받지 않겠다고 선언하였고, 실제로 미국에 대한 UPR은 예외적으로 2026년 하반기까지 연기되었다{Human Rights Watch. 2025. “US Skips UN Periodic Rights Review.” November 7. https://www.hrw.org/news/2025/11/07/us-skips-un-periodic-rights-review.(최종검색일: 2026년 4월 5일)}.

[61]Avant, Deborah, Martha Finnemore, and Susan Sell, eds. 2010. Who Governs the Globe? Cambridge Studies in International Relations. Cambridge: Cambridge University Press.

■저자: 문용일_서울시립대학교 국제관계학과 교수.

■ 담당 및 편집: 임재현_EAI 연구원

    문의: 02 2277 1683 (ext. 209) | jhim@eai.or.kr