초지능 AI 규제·국제 거버넌스 논쟁 격화: 영국 사례와 한국의 대응 전략

총괄 요약

영국 의회 다수의 초당적 압박에도 내각사무처는 킬스위치 도입을 거부했다. 이는 정치적 후퇴가 아니라 분산 배치된 상용 AI 모델을 물리적으로 통제할 수 없다는 실무적 판단이다. UN 인권최고대표는 AI를 실존적 위협으로 규정하며 국제 규범화를 촉구했지만, 미중 기술패권 경쟁이 규제 속도를 억누르는 구조적 제약은 그대로 남아 있다. 향후 12~18개월은 규범 공백이 장기화될 가능성이 가장 높으며, 국제 규범 조기 수렴은 제한적 확률로 봐야 한다. 한국은 국내 제도 정비를 우선하되, 확률이 낮은 조기 수렴 국면에도 다자 논의 참여에 발판을 마련하는 이중 전략이 필요하다.

I. 이슈 상황분석

초지능 AI 규제·국제 거버넌스 논쟁 격화: 이슈 상황분석

1. 이슈 배경 및 경과

이번 사태의 발화점은 2026년 9월 영국 의회다. 70명이 넘는 상하원 의원이 문화미디어체육부 장관 앤디 버넘에게 초지능(ASI) 개발 금지를 지지하라는 서한을 보냈다[1]. 서명자 명단이 예사롭지 않다. 전직 각료 15명, 전 내각사무처 수장 로빈 버틀러, 노동당 좌파 존 맥도널을 포함한 여야 중진 의원들이 한목소리를 냈다[1]. 이는 특정 정파의 문제 제기가 아니라 웨스트민스터 정치권 전반의 초당적 우려로 읽힌다.

발화의 직접 계기는 AI 업계 내부자의 경고였다. Anthropic 팀 리더가 "AI가 인류 전체를 죽일 수 있다고 진심으로 믿는다"는 취지의 글을 공개한 것이 영국 의원들을 자극했다[5]. 노동당 의원 대런 존스는 이를 근거로 UN과 OECD에 "초지능의 안전하지 않은 개발"에 개입하라는 공개서한을 보냈다[5]. 와이어드는 이 국면을 "AI의 혼돈의 여름"이라 규정하며, 영국 정치권이 여름 한 철 동안 연쇄적으로 대응 법안을 쏟아낸 배경을 전했다[5]. 노동당 의원 알렉스 소벨이 관련 법안을 하원에 상정한 것도 같은 시기다[5].

이 흐름은 영국만의 예외적 현상이 아니다. 국내에서는 이미 EAI 워킹페이퍼 시리즈가 "인공지능의 급속한 발전은 군사, 안보, 정치, 외교, 경제, 사회 등 전 영역에서 혁명적 변화를 촉발하고 있다"고 진단해온 바 있다[7]. 미중 기술패권 경쟁이 안전 규제의 속도를 억제하는 구조적 요인이라는 점도 국내 사설을 통해 이미 지적된 상태다. 한겨레는 "업계와 전문가들 사이에서 비슷한 우려의 목소리가 이어지는데도 개발 속도를 늦추기 위한 규제 움직임이 없는 것은 미·중이 미래 패권을 건 인공지능 개발 경쟁에서 물러서려 하지 않기 때문"이라고 지적했다[8]. 영국 의회의 초지능 금지 요구는 이런 구조적 정체 속에서 나온 정치적 돌파 시도로 볼 수 있다.

2. 현재 상황

영국 정부의 답은 거부였다. 내각사무처는 위험한 AI를 긴급 상황에서 강제로 정지시키는 법적 '킬스위치' 도입 요구를 받아들이지 않았다. BBC는 내각사무처가 "영국은 단순히 AI를 꺼버릴 수 없다"는 입장을 밝혔다고 보도했다[13]. 데일리사바흐도 동일한 사실을 전하며, 캐비닛 오피스가 AI 안전 업무를 총괄하는 부처임을 명시했다[11]. 즉 안전 정책의 주무 부처 스스로가 기술적·행정적 실현 가능성을 이유로 강경 규제안에 선을 그은 셈이다. 이는 의회 다수의 정치적 요구와 행정부 실무 판단이 정면으로 엇갈리는 구도다.

같은 시기 UN 차원에서도 경고가 이어졌다. UN 인권최고대표 볼커 튀르크는 인권이사회 연설에서 AI가 "인류에 대한 실존적 위협"이 될 수 있다고 경고했다[15][16][17]. 그는 "AI 거버넌스의 필요성은 널리 인정되고 있지만, 행동은 어디 있는가"라고 반문하며, 지연이 대형 테크기업과 그 소유주들에게만 이익이 된다고 말했다[15]. 튀르크는 자신의 두 번째 임기 개시를 앞두고 AI 안전을 확보할 "무쇠 같은 보증"을 요구했다[16][17]. 이 발언은 영국 의회 내 초지능 금지 논쟁과 시기적으로 맞물리면서, 국가 단위 규제 시도와 UN 차원 규범화 요구가 동시에 부상하는 양상을 만들었다.

한겨레 사설이 제시한 NPT 유비는 이 국면에서 상징적 준거로 작동하고 있다[8]. 핵확산금지조약이 강대국을 포괄하는 틀로 핵무기 확산을 억제했던 전례를 AI 규범화에 적용하자는 논리다. 다만 이 비유가 실제 조약 형태로 이어질 제도적 경로는 현재로서는 부재하다. SIPRI 전문가들이 6월 제네바에서 열린 UN 군사분야 AI 관련 첫 비공식 협의에 참여한 사실은[6], 다자 논의가 시작 단계에 있음을 보여준다. 동시에 이는 아직 구속력 있는 규범 형성과는 거리가 있는 초기 탐색 국면이라는 뜻이기도 하다.

3. 주요 행위자 및 입장

영국 의회 초당파 그룹은 행정부를 압박하는 주체다. 전직 각료와 여야 중진이 함께 서명한 서한은 정치적 무게가 크다[1]. 그러나 이들이 요구하는 국제 운동 주도는 영국 단독으로 실현 가능한 목표가 아니다. 영국의 AI 산업 규모와 국제적 협상력을 고려하면, 이는 상징적 리더십 요구에 가깝다.

영국 정부(내각사무처)는 규제 실효성과 산업 경쟁력을 함께 고려하는 입장이다. 킬스위치를 "단순히 꺼버릴 수 없다"는 논리로 거부한 것은[13], 기술적으로 분산·복제된 AI 시스템을 일괄 통제하기 어렵다는 실무적 판단과, 영국이 자국 AI 산업의 국제 경쟁력을 훼손하지 않으려는 산업정책적 고려가 겹친 결과로 해석된다.

UN 인권최고대표실은 규범 형성의 도덕적 명분을 제공하는 역할이다. 튀르크의 발언은 구속력 있는 조치가 아니라 정치적 압력 행사에 가깝다[15][16][17]. UN 군축연구소(UNIDIR), UN 군축업무국(UNODA)이 SIPRI와 공동 주관한 군사 AI 논의는[6], 인권 프레임과 군사안보 프레임이 UN 내부에서 병렬적으로 진행되고 있음을 보여준다.

Anthropic 등 프런티어 AI 기업 내부자들은 역설적으로 규제 논쟁의 최대 촉매다. 자사 기술의 위험성을 공개 경고하는 움직임이[5] 오히려 정치권의 입법 시도를 자극하고 있다. 이는 기업이 안전성 담론을 선제적으로 주도함으로써 규제 설계 과정에서 발언권을 확보하려는 전략으로도 읽을 수 있다.

미국과 중국은 이번 논쟁의 표면에는 등장하지 않지만 구조적 배경을 이룬다. 한겨레가 지적했듯 양국의 패권 경쟁이 규제 완화 압력의 근원이다[8]. 브루킹스연구소 브리핑 자료는 G7 정상회의, UN 등 일련의 AI 서밋을 거치며 미중 격차가 오히려 더 벌어지고 있다고 진단한다[12]. 이런 구조에서는 영국이나 UN이 요구하는 국제 규범화가 미중 양국의 실질적 동참 없이는 제한적 효과에 머물 가능성이 크다.

4. 핵심 쟁점

첫 번째 쟁점은 위험의 실체성이다. 10%라는 인류 멸종 확률 수치가[1] 검증된 과학적 추정인지, 담론적 수사인지에 대한 합의가 없다. 이 불확실성이 정치권의 강경 대응과 행정부의 신중론이 갈리는 근본 원인이다.

두 번째 쟁점은 규제 수단의 현실성이다. 킬스위치처럼 명확한 통제 지점을 만드는 방식과, 분산 배치된 AI 시스템의 기술적 특성 사이의 간극을 영국 정부가 정면으로 지적했다[13]. 이 문제는 영국에 국한되지 않고 모든 국가 단위 규제 시도에 동일하게 적용될 구조적 제약이다.

세 번째 쟁점은 국제 규범화의 경로다. NPT 유비[8]는 강대국 포괄이 전제조건이다. 그러나 현재 미중 경쟁 구도에서[8][12] 양국이 자발적으로 개발 속도를 늦출 동기는 약하다. UN 인권최고대표실의 도덕적 압박[15][16][17]과 SIPRI 등 전문기관의 군사 AI 논의[6]는 규범 형성의 씨앗이지만, 구속력 있는 조약으로 이어질 정치적 경로는 아직 보이지 않는다.

네 번째 쟁점은 담론 정치성이다. 기업 내부자의 경고가 실제 위험 평가인지, 규제 설계 과정에서 발언권을 확보하려는 전략적 포지셔닝인지 구분이 쉽지 않다. 이 지점은 한국을 포함한 중견국이 국제 논의에 참여할 때 반드시 짚어야 할 대목이다. 위험 담론의 정치성을 가려내지 못하면, 규제 설계의 주도권을 프런티어 기업과 강대국에 넘겨줄 위험이 있다.

II. 이슈 심층분석

초지능 AI 규제·국제 거버넌스 논쟁 격화: 이슈 심층분석

1. 근본 원인 분석

이번 사태의 근본 원인은 기술 위험 평가와 정치적 대응 사이의 시차다. Anthropic 내부자의 공개 경고가 촉발한 것은 위험의 실재 여부가 아니라 위험 서사에 대한 정치권의 반응 속도였다[5]. 와이어드는 이 경고가 "마케팅 과장이든 진짜 멸종 위협의 전조든" 정부가 개입해야 한다는 대런 존스 의원의 논리를 그대로 전한다[5]. 즉 위험의 진위를 확정하기도 전에 정치적 행동을 요구하는 구조가 만들어진 셈이다. 이는 위험 검증보다 정치적 책임 회피가 앞서는 전형적 패턴이다.

기업 내부 균열도 근본 원인의 한 축이다. Anthropic 연구원 제이콥 콕슨의 사임과 에반 허빙거의 멸종 확률 10% 발언은 프런티어 AI 개발사 내부에서조차 안전성 합의가 없다는 점을 드러낸다. 안전을 최우선 가치로 내세워온 기업 스스로가 내부 경고음을 외부로 노출시켰다는 사실은, 규제 당국이 참조할 만한 객관적 위험 기준이 애초에 존재하지 않는다는 것을 방증한다.

여기에 산업 구조적 유인이 맞물린다. 미중 간 AI 패권 경쟁이 안전 규제 도입 속도를 제약하는 근본 조건이라는 점은 국내 사설에서도 이미 지적됐다. "개발 속도를 늦추기 위한 규제 움직임이 없는 것은 미·중이 미래 패권을 건 인공지능 개발 경쟁에서 물러서려 하지 않기 때문"이라는 진단이다[8]. 영국 의회의 초지능 금지 요구는 이 국제적 경쟁 구도를 거스르는 일국 차원의 시도이기 때문에, 처음부터 실효성 논쟁에 부딪힐 수밖에 없는 구조였다.

2. 구조적 맥락

정치적 구조: 입법부-행정부 괴리

영국 의회 내 초당적 연대는 정치적으로 이례적이다. 전직 각료 15명, 전 내각사무처 수장 로빈 버틀러, 노동당 좌파 존 맥도널과 보수당·자민당·SNP 중진이 함께 서명한 서한은 정파를 초월한 압박이다[1]. 그러나 실제 AI 안전 정책을 담당하는 내각사무처는 이를 수용하지 않았다. BBC는 내각사무처가 "영국은 단순히 AI를 꺼버릴 수 없다"고 밝혔다고 전한다[13]. 이는 입법부의 정치적 상징 행위와 행정부의 기술적·집행적 현실 판단이 어긋나는 구조다. 킬스위치라는 개념 자체가 분산 배치된 상용 AI 모델의 물리적 통제 불가능성을 전제하지 못한 채 제시됐다는 점에서, 영국 정부의 거부는 정치적 후퇴라기보다 실무적 한계 인정에 가깝다.

이 괴리는 AI 규제가 처한 보편적 딜레마이기도 하다. 브루킹스연구소는 중견국들이 미중 사이에서 선택을 강요받는 구조 자체가 경제·지정학적 위험이라고 지적한다[9]. 영국은 미중 두 강대국 사이에서 규범을 선도하려는 시도와 자국 산업 경쟁력 보호 사이에서 균형을 잡아야 하는 처지이며, 킬스위치 거부는 이 균형점을 산업 쪽으로 기울인 결정으로 해석할 수 있다.

안보적 구조: 군사 영역과의 연계

UN 차원의 논의는 인권 영역에 국한되지 않는다. 스톡홀름국제평화연구소(SIPRI) 전문가들은 6월 제네바에서 열린 UN 군사 분야 AI 관련 첫 비공식 협의에 참여했다[6]. 이 협의는 UN 군축연구소, UN 군축업무국, UN 인권최고대표사무소가 공동 주최했다는 점에서, 이번 튀르크 최고대표의 경고가 인권 이사회 발언에 그치지 않고 군축·안보 트랙과 연결되어 있음을 보여준다[6]. 즉 초지능 위험 논쟁은 민간 챗봇 안전성 문제를 넘어, 자율살상무기체계 등 군사적 AI 활용 규범 공백과 같은 맥락에서 다뤄지고 있다. EAI 워킹페이퍼 시리즈도 "자율살상무기체계 거버넌스 경쟁의 동학과 도전과제"를 별도로 다룬 바 있어, 민간·군사 두 트랙의 규범 논의가 사실상 같은 뿌리에서 갈라져 나온 것임을 시사한다[7].

경제적 구조: 규제 지연의 수혜자 문제

튀르크 최고대표는 "지연은 오직 거대 테크기업과 그 소유주, 조력자들에게만 이익이 된다"고 직접 지목했다[15]. 이는 AI 안전 규제 논쟁을 단순한 기술 위험 평가가 아니라 이익 배분 문제로 재규정하는 발언이다. 규제 공백이 길어질수록 선두 기업의 시장 지배력이 공고해진다는 구조적 인센티브가 존재하며, 이는 왜 프런티어 기업들이 자율규제를 선호하고 법적 구속력 있는 국제 규범 도입에 소극적인지를 설명하는 배경이다. CFR이 실시한 350명 전문가 설문에서도 "누구도 다가올 AI 능력을 통제할 준비가 되어 있지 않다"는 데는 의견이 일치했다[2]. 준비 부재에 대한 합의는 있지만, 그 공백을 메울 주체와 방식에 대한 합의는 없다는 뜻이다.

3. 역사적 선례 및 유사 사례 비교

한겨레 사설이 제시한 비교 축은 핵확산금지조약(NPT)이다. 사설은 "무분별한 핵 확산 위기를 막아냈던 핵확산금지조약처럼 주요 강대국을 두루 포괄하는 국제 규범을 도입하는 수밖에 없다"고 주장한다[8]. 그러나 이 비교는 근본적인 비대칭성을 안고 있다. 핵무기는 개발 주체가 국가로 한정되고 물질 확보 자체가 고도의 진입장벽이었던 반면, 프런티어 AI는 민간 기업이 개발 주체이고 계산 자원과 데이터라는 상대적으로 접근 가능한 요소로 구성된다. NPT식 검증 체제가 전제하는 "누가 무엇을 보유하고 있는가"에 대한 물리적 사찰이 AI에는 기술적으로 성립하기 어렵다. 이는 영국 정부가 킬스위치를 거부한 논리와도 연결된다. 핵무기는 물리적으로 봉인·해체가 가능하지만, 분산 배치되고 오픈소스로도 유통되는 AI 모델은 단일 스위치로 끌 수 있는 대상이 아니다.

또 다른 비교축은 기후변화 국제 레짐이다. 파리협정 체제가 구속력 있는 감축 의무 대신 자발적 공약(NDC) 방식을 택한 것은, 주권국가들이 자국 산업 경쟁력을 해치는 구속력 있는 규범에 저항한 결과였다. AI 거버넌스 논의에서도 유사한 패턴이 감지된다. 영국의 킬스위치 거부, 미중의 규제 경쟁 회피는 모두 자국 산업·안보 이익을 국제 규범보다 우선시하는 선택이다. 다만 기후변화와 달리 AI 위험은 발현 시점과 규모에 대한 과학적 합의조차 없다는 점에서, 파리협정 수준의 최소 공약 체제조차 아직 형성되지 못한 초기 단계로 봐야 한다.

브루킹스연구소가 정리한 G7·UN 정상급 논의 연속 개최 양상은 냉전기 군축 협상 초기 국면과 유사한 특징을 보인다[12]. 미중 양국이 각자 진영을 규합해 규범 경쟁을 벌이는 구도가, 데탕트 이전 미소 군축 협상이 상호 불신 속에서 장기간 교착됐던 패턴을 재연할 가능성이 있다. 다만 냉전기 군축은 양자 협상이 중심이었던 반면, AI 규범 논의는 영국 의회, UN 인권최고대표, G7, 개별 기업이 각각 다른 트랙에서 동시다발적으로 문제를 제기하고 있어 협상 주체 자체가 파편화되어 있다는 차이가 있다.

4. 이슈 전개의 핵심 변수

첫 번째 변수는 미중 경쟁 구도의 강도다. 브루킹스연구소는 2026년 여름 연쇄적으로 열린 AI 정상회의들이 오히려 미중 간 격차와 이견을 부각시켰다고 평가한다[12]. 양국이 규범 경쟁보다 기술 우위 확보를 우선하는 한, 영국이나 UN이 주도하는 초지능 금지 논의는 구속력 있는 다자 규범으로 이어지기 어렵다.

두 번째 변수는 영국 내 입법부-행정부 갈등의 향방이다. 알렉스 소벨 의원이 하원에 상정한 법안의 처리 여부, 그리고 내각사무처가 킬스위치 대안으로 어떤 실무적 규제안을 내놓을지가 관건이다[5][13]. 만약 정부가 대안 없이 거부만 반복한다면, 초당적 의회 압박이 재차 강화될 가능성이 있다.

세 번째 변수는 UN 트랙의 제도화 여부다. 튀르크 최고대표의 경고가 인권이사회 차원의 수사에 그칠지, SIPRI가 참여한 군사 AI 비공식 협의처럼 실질적 다자 협의체로 이어질지가 분수령이다[6][15]. UN군축연구소·군축업무국·인권최고대표사무소의 공동 주최 협의가 정례화된다면, 이는 NPT식 국제 규범 도입 논의의 초기 제도적 발판이 될 수 있다.

네 번째 변수는 기업 내부 균열의 확산 여부다. Anthropic발 경고와 연구원 사임이 다른 프런티어 기업으로 번질 경우, 산업계 자율규제 논리의 신뢰도가 급격히 약화될 수 있다. 이 경우 정부 개입을 요구하는 정치적 압력이 영국을 넘어 미국·EU로 확산될 가능성을 배제할 수 없다.

한국 입장에서는 이 네 변수의 조합이 중견국 대응 전략의 창구를 결정한다. 브루킹스연구소가 지적하듯 한국을 포함한 중견국은 미중 사이의 선택을 강요받는 구조적 취약성을 안고 있다[9]. 초지능 위험 담론이 실제 기술 검증보다 정치적 수사로 소비되는 흐름 속에서, 한국은 규범 형성 초기 단계에 참여해 검증 기준 설계 논의에 관여하는 편이, 사후에 강대국이 정한 규범을 수용하는 것보다 유리한 위치를 확보하는 길이다.