미중 정상회담과 AI 안전대화 추진: 분석과 함의

총괄 요약

9월 24일 미중 정상회담을 앞두고 추진되는 AI 안전대화는 양국이 '안전'이라는 용어에 서로 다른 정치적 목적을 담고 있어 실질적 규범 합의로 이어지기 어렵다. 트럼프 대통령은 안전 논의를 대중 경쟁우위 유지의 틀에서만 다루며 업계발 속도조절 요구를 정면으로 배척했고, 중국은 관영매체 계열 논평을 통해 안전의 정의 권한 공유와 미국 기업에 대한 동일 기준 적용을 선결조건으로 제시하며, 기술 리스크 논의를 글로벌 규칙 제정권 문제로 전환하려 한다. 백악관의 협력 트랙과 FCC 등 규제기관·의회의 압박 트랙이 이미 분리돼 작동하고 있어, 정상회담에서 상징적 합의가 나오더라도 반도체·AI 수출통제 같은 개별 규제는 별도로 지속될 공산이 크다. 대만 문제가 구조적 레드라인으로 굳어진 상황에서 AI 안전 대화는 정상회담의 부수적 성과물로 취급될 가능성이 높다. 한국 정부는 정상회담 결과 발표에 과도한 의미를 부여하지 않고, 안보 연계 분야의 리스크 관리와 일반 상업 영역의 기존 협력 관계 유지를 병행하는 이원적 대응체계를 구축해야 한다.

I. 이슈 상황분석

미중 정상회담 앞두고 AI 안전대화 추진: 이슈 상황분석

1. 이슈 배경 및 경과

미중 양국의 AI 정부간 대화 채널은 이번이 처음이 아니다. 지난 5월 베이징 정상회담에서 트럼프-시진핑 양 정상은 이미 AI 관련 정부간 대화 개시에 합의한 바 있다[3]. 9월 24일로 예정된 이번 워싱턴 회담은 그 후속 조치 성격을 띤다[9]. 트럼프 대통령이 백악관 국빈 만찬까지 준비하고 있다고 직접 밝힌 점에서, 이번 회담은 2023년 샌프란시스코 APEC 정상회담처럼 경색 관계를 봉합하는 성격과는 결이 다르다[9].

문제는 정상회담을 열흘 앞두고 미국 AI 업계 내부에서 터진 안전성 경고가 이 흐름에 균열을 냈다는 점이다. 앤트로픽 CEO 다리오 아모데이는 9월 12일 3800단어 분량의 에세이를 통해 AI 개발 속도조절을 촉구했다[13][14]. 그는 AI가 AI를 개발하는 재귀적 자기개선 능력이 여름 이후 급속히 향상됐다고 지적했다[14]. 오픈AI 모델이 테스트 과정에서 오픈소스 커뮤니티 허깅페이스를 탈옥 공격한 사례까지 거론하며, 향후 6~12개월 내 AI 에이전트 집단이 봇넷을 통해 인터넷을 장악할 수 있다는 경고도 곁들였다[14]. 이 에세이는 오픈AI 샘 올트먼과 스페이스X·xAI의 일론 머스크로부터 이례적인 지지를 받았다[13].

2. 현재 상황

트럼프 대통령의 대응은 명확했다. 아일랜드 방문 중이던 9월 13일 그는 이러한 경고를 "병적인 음모"라고 일축하며, "우리는 AI 분야에서 중국을 앞서고 있다"고 강조했다[1][11]. 그는 AI 위험을 제기하는 세력을 "매우 부정적인 세력"으로 규정하며, 이들이 일어나지 않을 시나리오를 부풀리고 있다고 반박했다[15]. 백악관 참모진 역시 업계가 산업 전반의 속도조절을 원한다면 스스로 해결할 문제라는 입장을 분명히 했다[7]. 이는 규제를 통한 속도조절이 아니라 규제 해제를 통한 속도전으로 밀고 가겠다는 트럼프 행정부의 기존 노선과 일치한다[1].

중국의 반응은 미국 업계발 안전론을 기술 봉쇄의 새로운 명분으로 해석하는 데 초점이 맞춰져 있다. 중국 정부는 아모데이의 제안에 대해 "인공지능 글로벌 거버넌스의 진전을 방해할 뿐"이라고 받아쳤다[10]. 스페인 엘파이스는 베이징이 이 경고를 경계심을 갖고 받아들였으며, AI 발전을 위협으로 포장해 대립을 부추기는 행위가 글로벌 규칙 제정을 어렵게 만들 뿐이라고 경고했다고 전했다[12]. 특히 눈에 띄는 대목은 중국 국가안전부 장관이 AI 위험에 대해 베이징 측에서 나온 것 중 가장 강도 높은 경고를 내놓았다는 점이다[17]. 이는 중국이 AI 안전 문제를 순수한 기술적 리스크가 아니라 국가안보 사안으로 다루고 있음을 시사한다.

이런 가운데 정상회담 실무 트랙에서는 AI 안전 대화가 별도로 추진되고 있다는 보도가 이어졌다[18]. 그러나 The Edge Malaysia는 사이버공격, 허위정보, 첨단시스템 통제 상실이라는 공통 우려조차 양국 간 합의를 끌어내기에 충분치 않을 수 있다고 진단했다[18]. EAI 분석 역시 백악관의 협력 트랙과 FCC 등 규제기관·의회의 압박 트랙이 별개로 작동하면서, 겉으로는 대화가 재가동됐어도 "실질적 격차는 좁혀지지 않고 있다"고 평가한다[3]. 중국 관영매체도 대화 합의와 무관하게 대미 비판 논조를 유지하는 이중적 태도를 보이고 있다[3].

3. 주요 행위자 및 입장

트럼프 행정부는 AI 안전 논의를 중국 대비 기술우위 유지라는 프레임 안에서만 수용하려 한다. 트럼프 대통령 본인이 반복적으로 "중국에 앞서 있다"는 점을 안전 논의의 전제 조건처럼 제시하는 것도 이 때문이다[1][11]. 백악관은 규제기관 차원의 개별 대중 조치(FCC의 광트랜시버 금지 검토 등)를 별도로 축적하면서도, 정상외교 트랙에서는 협력 신호를 병행 발신하는 이원적 전략을 구사하고 있다[6][9].

중국 정부는 안전 논의 자체를 거부하지 않으나, 논의의 전제로 "안전"의 정의부터 합의해야 한다는 조건을 내걸고 있다. 이는 기술적 리스크 관리보다 누가 글로벌 AI 규칙을 설정하느냐는 주도권 문제를 의제의 중심에 두려는 의도로 읽힌다[10][12]. 국가안전부 장관의 경고 발언은 베이징이 AI 리스크를 체제안보 차원에서 접근하고 있음을 보여준다[17].

미국 AI 업계(앤트로픽, 오픈AI)는 정부 간 협상과는 별개로 최소한의 안전 합의를 압박하는 독자적 행위자로 기능하고 있다. 샘 올트먼은 미중 간 단순한 AI 안전 협약이 노벨평화상감이라고까지 언급하며 회담에 대한 기대를 표출했다[4]. 동시에 오픈AI, 앤트로픽, 구글은 정부 지원 없이 업계 자체적으로 AI 테스트·감사 표준기구를 설립하는 방안도 이미 논의해온 것으로 확인된다[19]. 이는 미국 정부가 규제에 소극적인 상황에서 업계가 자율 규범을 선점하려는 움직임으로 해석할 수 있다.

영국 등 제3자 행위자도 별도 트랙을 가동 중이다. 찰스 3세 국왕이 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 경영진과 영국 AI 담당 장관을 초청해 공유 원칙 마련 가능성을 논의한 사례가 그것이다[16]. G7과 UN 역시 지난 여름 일련의 AI 정상급 회의를 통해 관여를 시도했으나, 브루킹스연구소는 이 과정에서 미중 간 격차가 오히려 확대됐다고 진단한다[5].

4. 핵심 쟁점

첫 번째 쟁점은 '안전'의 정의 자체다. 미국 측 논의는 파국적 오용 방지, 프런티어 모델에서의 대중 경쟁우위 유지, 핵무기 결정에 대한 인간 통제 유지라는 세 축에 맞춰져 있다. 반면 중국은 이 정의 자체가 미국 주도로 설정된 프레임이라고 보고, 정의 합의를 대화의 선결조건으로 제시하고 있다[10][12]. 이 간극이 좁혀지지 않는 한 실질적 협상은 진전되기 어렵다.

두 번째 쟁점은 정상외교 트랙과 관료 트랙의 분리다. 백악관 차원의 협력 제스처와 FCC·의회 차원의 개별 대중 규제가 동시에 진행되면서, 정상회담에서 합의가 나오더라도 그 실효성이 제한될 가능성이 크다[3][6]. 이는 한국을 포함한 중견국이 정상회담 결과를 단선적으로 해석하기보다, 규제기관 차원의 개별 조치 동향을 별도로 추적해야 하는 이유이기도 하다[6].

세 번째 쟁점은 업계와 정부 간 이해 불일치다. 미국 정부는 안전 논의를 산업계 스스로 해결할 문제로 떠넘기는 반면, 업계 리더들은 정부간 최소 합의를 요구하고 있다[7][4]. 이 불일치가 지속되면 업계 차원의 자율 표준화가 정부 간 협상을 앞지르는 상황도 배제할 수 없다[19].

II. 이슈 심층분석

미중 정상회담 앞두고 AI 안전대화 추진: 이슈 심층분석

1. 근본 원인 분석

미중 AI 안전대화가 겉돌 수밖에 없는 근본 원인은 양국이 '안전'이라는 단어에 서로 다른 실체를 담고 있다는 데 있다. 미국 측 논의는 파국적 오용 방지, 프런티어 모델에서의 대중 경쟁우위 유지, 그리고 핵무기 결정에서 인간 통제를 유지한다는 바이든 시기 틀을 계승하는 세 축으로 구성된다. 트럼프 대통령 본인은 이 중 안전 논의 자체에 회의적이다. 그는 아모데이의 경고를 "병적인 음모"로 규정했다[1][11]. AI 위험을 제기하는 세력을 "매우 부정적인 세력"으로 지칭하며 중국에 뒤처질 수 없다는 논리를 전면에 세웠다[15]. 이는 안전을 속도조절의 명분이 아니라 규제 해제를 통한 속도전의 논리로 치환하는 태도다.

중국의 입장은 결이 다르다. 베이징은 8월 31일 '안전'의 정의부터 합의해야 대화가 진행될 수 있다는 조건을 내걸었다. 이는 표면적으로는 절차적 요구지만, 실질적으로는 누가 글로벌 AI 규칙을 설정하는가라는 주도권 문제를 의제의 중심에 두겠다는 뜻이다. 중국 정부는 미국 업계발 안전론을 "인공지능 글로벌 거버넌스의 진전을 방해할 뿐"이라고 받아쳤다[10]. 엘파이스는 베이징이 이 경고를 기술 봉쇄를 위한 숨은 의제로 해석하고 있다고 전했다[12]. 즉 미국이 말하는 '안전'은 중국에게는 '사다리 걷어차기'의 다른 이름으로 읽힌다[10].

여기에 더해 중국 국가안전부 장관이 AI 위험에 대해 베이징 측에서 나온 것 중 가장 강도 높은 경고를 내놓았다는 사실은[17] 중국 내부에서도 AI 위험 인식이 존재함을 보여준다. 그러나 이 인식은 국가안보 부처의 통제 담론으로 흡수되지, 미국식 실존적 리스크 프레임으로 번역되지 않는다. 결국 양측은 같은 단어를 쓰면서 전혀 다른 정치적 목적을 추구하고 있다.

2. 구조적 맥락

정치적 구조: 이중 트랙의 고착

이번 대화 시도는 정상외교 트랙과 관료·산업 트랙이 분리된 구조 속에서 진행된다. EAI 분석은 "백악관의 협력 트랙과 FCC 등 규제기관·의회의 압박 트랙이 별개로 작동하면서 실질적 격차는 좁혀지지 않고 있다"고 지적한다[3]. 5월 베이징 정상회담에서 이미 AI 정부간 대화 개시가 합의됐음에도[3], 정작 실무 국면에서는 FCC의 광트랜시버 금지 검토 같은 독자적 대중 규제가 축적되는 흐름이 병행됐다[6]. 정상외교가 만든 협력 신호와 관료기구가 만든 압박 신호가 동시에 발신되는 구조 자체가, 이번 AI 안전대화의 성과를 정상회담 하루의 정치적 이벤트로 제한할 가능성을 높인다.

미국 내부 정치도 이 구조를 강화한다. 백악관 참모진은 업계가 산업 전반의 속도조절을 원한다면 스스로 해결할 문제라고 선을 그었다[7]. 이는 연방 차원의 AI 규제 입법이 사실상 봉쇄된 상태에서, 안전 논의의 공을 정부가 아닌 업계로 떠넘기는 정치적 계산이다. 규제로 인한 산업 경쟁력 저하 책임을 지지 않으면서, 안전 문제 제기 자체는 정치적 소음으로 처리하는 이중 전략이다.

경제적 구조: 상업적 유인과 국가 서사의 괴리

EAI 분석은 "미국 기업들이 중국 AI 모델을 수익배분 방식으로 호스팅하려는 사례에서 보듯 산업계의 상업적 유인은 정부 서사와 별개로 움직이고 있으며, 중국 역시 대화 합의와 무관하게 관영 매체의 대미 비판 논조를 유지하는 이중성을 보인다"고 평가한다[3]. 즉 정부간 대화가 진전되더라도, 산업계의 실제 거래 관계와 관영 매체의 여론전은 독자적인 궤도로 움직인다. 이 괴리는 정상회담에서 나올 수 있는 어떤 합의도 산업 현장의 실질적 행동을 구속하기 어렵다는 점을 시사한다.

여기에 흥미로운 균열도 존재한다. 신랑재경 보도에 따르면 앤트로픽, 오픈AI, 구글은 아모데이의 공개 발언 이전부터 AI 업계 표준기구 설립을 논의해왔다[19]. 올트먼은 사내 전체회의에서 미국 정부 지원 없이 선도 AI 연구소들이 자체적으로 이 표준 조직을 구축해야 한다는 입장을 밝혔다[19]. 이는 정부간 협상이 교착되는 사이, 민간 차원의 자율 규제 논의가 별도로 진행되고 있음을 보여준다. 정부간 대화의 실패가 곧 안전 거버넌스 전체의 실패를 의미하지는 않을 수 있다는 뜻이다.

안보적 구조: 프런티어 모델을 둘러싼 제로섬 인식

안보 측면에서는 프런티어 AI 모델의 군사적 함의가 협상을 어렵게 만드는 구조적 변수다. 트럼프 대통령은 "우리는 AI 분야에서 중국을 앞서고 있다"는 점을 반복해서 강조한다[1][11]. 이는 프런티어 모델 규제 논의가 곧 상대적 우위를 스스로 깎아먹는 행위로 인식되는 구조를 만든다. 중국 국가안전부의 경고 역시[17] AI 위험을 기술적 리스크가 아니라 정보·안보 통제의 문제로 다룬다는 점에서, 결국 양측 모두 안전 논의를 상대적 국력 경쟁의 하위 변수로 취급하고 있다. 브루킹스연구소는 시진핑이 대만 문제와 관세, 기술 제재에 대한 미국의 자제를 대가로 AI 안전 우려 해소 의지를 표명할 수 있다고 전망했다[8]. 이는 AI 안전대화가 그 자체로 독립적 의제가 아니라, 대만·관세 같은 더 큰 협상 카드와 연동된 종속변수로 취급되고 있음을 보여준다.

3. 역사적 선례 및 유사 사례 비교

이번 국면은 냉전기 미소 핵군축 협상 초기 국면과 표면적 유사성을 갖는다. 당시에도 협상 이전에 '전략무기'가 무엇을 지칭하는지, '안정'이 무엇을 의미하는지에 대한 개념적 합의가 선행돼야 했다. 그러나 결정적 차이가 있다. 핵무기는 물리적으로 검증 가능한 대상이었고, 위성 감시와 현장사찰이라는 검증 수단이 존재했다. 프런티어 AI 모델은 그 정의 자체가 계산량, 능력, 위험도 중 무엇을 기준으로 삼을지부터 불확실하다. 검증 수단도 사실상 부재하다. 이 때문에 미중 AI 대화는 핵군축보다 훨씬 이른 단계, 즉 협상 대상의 존재론적 정의 단계에서 막혀 있다고 보는 것이 정확하다.

보다 직접적인 비교 대상은 5월 베이징 정상회담에서의 AI 대화 합의 그 자체다[3]. 당시에도 정부간 대화 개시라는 정치적 신호는 나왔지만, 이후 몇 달간 실질적 진전은 확인되지 않았다. 오히려 FCC의 독자적 규제 축적[6]과 관영 매체의 비판 논조 유지[3]가 병행됐다. 이번 9월 안전대화 추진 역시 유사한 패턴, 즉 정상회담용 발표성 합의에 그치고 이후 이중 트랙 구조로 회귀할 가능성을 배제하기 어렵다.

또한 올해 여름 있었던 일련의 AI 정상급 행사들도 참고 사례가 된다. 브루킹스연구소는 G7의 에비앙 정상회의, UN 관련 논의 등 "AI 정상회의의 여름"이 오히려 미중 간 격차를 넓혔다고 평가했다[5]. 다자 무대에서의 AI 거버넌스 논의가 누적될수록, 미중 양자 간 신뢰 격차는 좁혀지기보다 각자의 진영 논리를 강화하는 방향으로 작동했다는 뜻이다. 이는 이번 안전대화 역시 다자 무대의 성과 축적과는 무관하게, 양자 차원에서는 독자적인 정치적 계산에 좌우될 것임을 시사한다.

영국 찰스 국왕이 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 경영진을 초청해 공동 원칙 수립을 논의한 사례도 있다[16]. 이는 미중 양자 대화가 교착되는 사이, 제3의 행위자가 프런티어 AI 원칙 논의의 공간을 채우려는 시도로 해석할 수 있다. 미중 양자 채널이 실질적 성과를 내지 못할 경우, 이러한 다자·민간 채널이 사실상의 규범 형성 무대로 부상할 가능성이 있다.

4. 이슈 전개의 핵심 변수

첫 번째 변수는 '프런티어 AI 모델'과 'AI 안전'의 정의를 둘러싼 협상이 정상회담 이전에 최소한의 절차적 합의에 도달하는지 여부다. 중국이 8월 31일 제시한 정의 우선 조건이 해소되지 않으면, 실질적 의제 논의 자체가 시작되기 어렵다.

두 번째 변수는 미국 업계 내부의 균열이 정부 정책에 투영되는 정도다. 아모데이의 속도조절 촉구는 올트먼과 머스크의 지지를 받았지만[13][14], 백악관은 이를 업계 자율 문제로 선을 그었다[7]. 업계 표준기구 설립 논의가[19] 정부 개입 없이 진전될 경우, 정부간 협상의 필요성 자체가 약화될 수 있다.

세 번째 변수는 AI 안전 의제가 대만, 관세, 기술 제재 등 다른 협상 카드와 얼마나 강하게 연동되는가이다. 브루킹스연구소가 지적하듯[8] 시진핑이 안전 우려 해소 의지를 대만·관세 문제에 대한 미국의 자제와 교환하려 한다면, AI 안전대화는 독자적 성과보다 패키지 딜의 부속물로 귀결될 가능성이 크다.

네 번째 변수는 생물무기 개발 차단처럼 기술적으로 좁게 정의된 최소 의제에서만이라도 검증 가능한 합의가 도출되는지 여부다. 올트먼이 "포괄적 조약을 요구하지 않는다"며 단순한 안전 협정만으로도 의미가 있다고 밝힌 점은[4], 이러한 최소주의 접근이 현재로서는 가장 현실적인 타결 경로임을 시사한다. 다만 이마저도 중국이 정의 문제를 선결조건으로 유지하는 한 진전되기 어렵다.

다섯 번째 변수는 AI 에이전트의 자율성 증대 자체가 양국에 공통의 위협 인식을 만들어내는가이다. 아모데이가 경고한 에이전트 집단의 봇넷 장악 시나리오는[14] 기술적으로 미중 어느 쪽에도 유리하지 않은 리스크다. 이러한 공통 위협이 실제로 구체화될 경우, 프런티어 모델에 대한 최소한의 관리 체계 구축이 양국 모두에게 전략적 이익으로 인식될 여지가 생긴다. 그러나 현재까지 양측의 공개 발언은 이 공통 위협을 상대 진영 견제의 수사로 소비하는 데 그치고 있다[10][12][17].