AI · 산업 · 지정학

사흘 만에 꺼진 스위치
페이블 5 차단과 AI 주권의 질문

한 미국 기업이 사상 가장 강력하다고 자평한 인공지능 모델을 내놓았다. 그리고 사흘 만에, 같은 나라의 정부가 그 스위치를 껐다. 환호와 차단 사이의 72시간을 복기하면, AI 패권 경쟁의 단층선이 그대로 드러난다.

2026년 6월 · 다룬 대상: 앤트로픽 페이블 5·미토스 5 수출통제 사태

1.72시간 안에 벌어진 일

2026년 6월 9일을 전후해 앤트로픽(Anthropic)은 자사 최상위 모델 계열인 페이블 5(Fable 5)와 미토스 5(Mythos 5)를 공개했다. 미토스 5는 검증된 일부 기관에만 열어 두고, 여기에 사이버·생물 분야 안전장치를 더한 페이블 5를 일반 사용자용으로 풀었다. 두 모델은 같은 기반 위에 서 있고, 차이는 위험 영역의 출력을 거르는 안전장치의 유무다.

반응은 뜨거웠다. 페이블 5는 앤트로픽이 내놓은 가장 유능한 모델로 평가받았다. 장기 과제를 다루는 한 지식노동 벤치마크에서 페이블 5는 1,587점으로, 같은 회사의 오퍼스 4.8(Opus 4.8) 1,356점을 크게 앞섰다. 대신 비용은 비쌌다. 같은 벤치마크에서 한 과제당 평균 31달러로, 오퍼스 4.8의 10.4달러를 웃돌았다.

그런데 공개 사흘째인 6월 12일 오후 5시 21분(미 동부시간), 앤트로픽은 한 통의 편지를 받았다. 미국 상무부가 국가안보를 근거로 두 모델에 수출통제를 걸었다는 내용이었다. 핵심은 단순하지 않았다. 외국 국적자의 접근을 전면 금지하되, 그 대상에 미국 밖 사용자뿐 아니라 미국 안에 있는 외국 국적자, 심지어 앤트로픽에서 일하는 외국인 직원까지 포함됐다. 사용자 한 명 한 명의 국적을 실시간으로 가려낼 방법이 없는 앤트로픽은 그날 밤 두 모델을 전 세계 모든 고객에게서 내려 버렸다. 다른 모델은 그대로 두었다.

공개부터 전면 차단, 그리고 중국의 응수까지 — 2026년 6월의 흐름

2.발단은 동맹이자 경쟁자, 아마존

왜 정부가 움직였을까. 여러 보도를 종합하면 발화점은 아마존(Amazon)이었다. 아마존의 연구진이 페이블 5에서 안전장치를 우회하는 기법을 찾아냈고, 6월 11일 백악관 관계자들과의 예정된 통화 자리에서 앤디 재시(Andy Jassy) 아마존 최고경영자가 이 문제를 꺼냈다. 그는 같은 날 스콧 베센트(Scott Bessent) 재무장관에게 직접 그 취약점을 알렸다. 이후 정부는 앤트로픽의 다리오 아모데이(Dario Amodei) 최고경영자에게 90분의 시한을 주며 취약점을 고치거나 모델을 내리라고 통첩했고, 아모데이는 거부했다. 그러자 하워드 러트닉(Howard Lutnick) 상무장관 명의의 수출통제 지시가 날아들었다.

쉽게 풀면 — 탈옥(jailbreak)이란

AI 모델에는 "위험한 답은 하지 말라"는 안전장치가 걸려 있다. 탈옥은 질문을 교묘히 비틀어 그 장치를 우회하는 것이다. 자물쇠를 부수는 게 아니라, 문지기가 거절하지 못하도록 말을 바꿔 묻는 쪽에 가깝다. 문제의 기법은 모델에게 특정 코드 묶음을 읽혀 결함을 찾게 하는 방식이었다.

앤트로픽은 과도한 조치라고 맞섰다. 정부가 제시한 사례는 이미 알려진 사소한 취약점 몇 개를 찾아내는 수준이고, 같은 일은 GPT-5.5를 비롯한 다른 공개 모델로도 충분히 가능하며, 자사 보안팀이 일상적으로 쓰는 기능이라는 것이다. 완벽한 탈옥 차단은 어떤 회사도 불가능하므로, 업계는 탈옥을 더 어렵고 비싸게 만들고 실시간으로 탐지·차단하는 방식으로 대응해 왔다고도 했다. 한 보안 전문가도 정부 대응이 보고서 내용에 비해 과하다고 공개적으로 지적했다.

주목할 점은 이 눈덩이를 굴린 쪽이 다름 아닌 아마존이라는 사실이다. 아마존은 앤트로픽에 누적 130억 달러를 투자한 최대 투자자이고, 앤트로픽은 아마존의 클라우드와 자체 칩으로 모델을 훈련하며 1,000억 달러 규모의 인프라 사용을 약속한 사이다. 통상이라면 문제를 먼저 귀띔해 조용히 고치도록 조율하는 게 자연스럽다. 그러나 아마존은 곧장 정부 핵심 인사에게 알렸다.

왜 이상한가 — 투자자이자 경쟁자

아마존은 앤트로픽의 돈줄이자 인프라 공급자이면서, 동시에 노바(Nova)라는 자체 AI 모델을 만드는 경쟁자다. 한 지붕 아래 동업과 경쟁이 공존하는 셈이다. 겉으로는 기술 동맹이지만, 이해가 갈리는 순간 동맹은 얼마든지 어긋날 수 있다는 사실을 이번 일이 보여 주었다.

차단은 앤트로픽에 민감한 시점에 닥쳤다. 회사는 얼마 전 비공개로 기업공개(IPO)를 신청했고, 약 9,650억 달러의 기업가치와 연 470억 달러 수준의 매출 흐름이 거론되던 참이었다. 간판 모델이 정부에 의해 반복적으로 표적이 되는 모습은 투자 심리에 그늘을 드리운다.

3.규제를 외친 기업가의 역설

아모데이는 두 모델 공개 이후 긴 글을 통해 메시지를 분명히 했다. AI 기술은 기하급수적으로 빨라지는데 법과 제도가 따라가지 못한다는 것이다. 과거 그는 안전장치와 시험 결과를 투명하게 공개하면 충분하다는 쪽이었으나, 이제는 그 정도로는 부족하다며 더 강한 규제를 주장했다. 제3자가 관리하는 안전성 시험을 의무화하고, 위험 판정이 나오면 정부가 배포를 막거나 가동을 중단시킬 수 있어야 한다는 것이다.

모델을 팔아 돈을 버는 기업이 먼저 규제를 요구하는 역설. 그만큼 발전 속도가 두렵다는 신호다.

그 두려움의 핵심에는 'AI가 AI를 만드는' 흐름이 있다. 모델 개발은 처음엔 사람이 직접 코드를 짜는 일이었지만, 점차 대화형 AI의 보조를 받고, 코딩 에이전트를 부리고, 에이전트가 다시 하위 에이전트를 거느리는 단계로 넘어왔다. 마지막 단계는 사람이 빠진 자리에서 AI가 스스로 다음 세대 AI를 설계·훈련하고, 그 결과가 또 다음 세대를 만드는 닫힌 고리다.

인간 주도에서 자율 루프까지 — 모델 개발 방식의 다섯 단계

쉽게 풀면 — 재귀적 자기개선

더 똑똑한 AI가 더 똑똑한 AI를 만들고, 그것이 또 더 나은 후속을 만든다. 한 번 앞서면 그 격차가 스스로 벌어지는 구조다. 아직 마지막 단계에 도달한 것은 아니지만, 구글 딥마인드가 지난해 선보인 알파이볼브(AlphaEvolve)처럼 알고리즘을 스스로 만들고 검증하며 개선하는 도구가 이미 현실에 등장했다. 그래서 업계 일각에서는 이르면 2027년, 늦어도 2030년대 초에 인간 수준의 범용 인공지능(AGI)이 등장할 수 있다고 본다.

공교롭게도 강한 규제를 외친 직후, 앤트로픽 자신이 규제의 표적이 됐다. 일각에서는 그동안 회사가 내세운 '위험 강조' 메시지가 부메랑이 됐다는 해석도 나온다. 앤트로픽은 앞서 미군의 AI 활용 범위를 두고 정부와 충돌해, 국방부로부터 공급망 위험 기업으로 지정된 전력도 있다. 다만 프랑스에서 열린 주요 7개국(G7) 정상회의에서 아모데이를 만난 뒤 미국 대통령이 규제 완화 가능성을 내비치는 등, 해빙의 조짐도 보였다.

4.닫는 미국, 여는 중국

이번 사태의 또 다른 축은 중국이다. 미국이 문을 닫자, 중국 기업들은 정반대로 문을 활짝 열어젖혔다. 차단 다음 날인 6월 13일, 중국의 Z.ai(옛 즈푸AI)는 최신 모델 GLM-5.2를 전면 오픈소스로 공개하며 "프런티어 지능은 모두의 것"이라고 선언했다. 모델 가중치를 누구나 내려받아 자기 서버에서 돌릴 수 있는 관대한 라이선스를 달았고, 일부 커뮤니티 평가에서 GPT-5.5를 앞서는 코딩 성능을 보였다. 문샷 AI(Moonshot AI) 등도 신규 모델을 공개 플랫폼에 잇따라 올렸다.

왜 미국이 예민한가 — 증류(distillation)

증류는 잘 만든 큰 모델의 출력을 교재 삼아 작은 모델을 빠르게 훈련시키는 기법이다. 선생의 풀이를 베껴 학생이 실력을 키우는 셈이다. 올해 초 앤트로픽은 딥시크·문샷 AI·미니맥스가 약관을 어기고 2만 4천여 개의 위장 계정으로 1,600만 회 넘게 자사 모델을 조회하는 대규모 증류를 벌였다고 주장했고, 미국 백악관 과학기술정책실과 다른 기업들도 비슷한 우려를 공개적으로 제기했다.

미국 정부가 택한 답은 '폐쇄'였다. 6월 2일에는 최첨단 모델을 일반에 공개하기 전 최대 30일간 정부가 사전 검토하도록 하는 행정명령에 서명했다. 보안 점검이라지만, AI 허가제의 전조라는 지적도 따랐다. 흥미롭게도 정부가 모델을 사전 심사하고 승인하는 방식의 원조는 중국이다. 통제 방식이 닮아간다는 비판이 나오는 이유다.

문제는 차단의 실효성이다. 모델이 공개된 시점에 이미 증류가 이뤄졌을 가능성이 크고, 개발자들은 좋은 미국 모델을 못 쓰게 되면 기다리는 대신 더 싸고 빠른 대안으로 옮겨간다. 실제로 중국계 모델은 미국산보다 10~20배 저렴하다. 사용량이 이를 증명한다.

한 모델 집계 플랫폼 기준, 상위 모델의 주간 토큰 사용량은 중국계가 미국계를 크게 앞섰다

한 대형 모델 집계 플랫폼에서 2024년 말 2% 미만이던 중국계 모델의 토큰 사용 비중은 2026년 상반기 다수로 역전됐다. 토큰은 AI가 글을 처리하는 최소 단위이자 실제 사용 강도를 보여주는 지표다. 전문가들은 이번 차단이 장기적으로 중국 오픈소스 진영에 오히려 동력을 실어줄 것이라 본다. 반도체 규제가 중국의 자립을 자극했듯, AI 역시 막는다고 막아지는 영역이 아니라는 것이다.

5.플러그를 쥔 자와 뽑히는 자

중국 변수는 한국과도 직접 얽혔다. 한 미국 언론은 미토스에 접근 가능한 명단에 '중국과 연계가 의심되는 한국 통신사'가 포함된 사실이 백악관의 불신을 키웠다고 보도했다. 앤트로픽은 우선 111개 기관 명단을 정부에 제출해 승인받은 뒤 추가 명단을 올렸는데, 그 확대 과정에서 문제가 불거졌다는 것이다. 해당 기업은 신속히 접근이 취소됐고, 후속 보도는 그 회사를 SK텔레콤으로 지목했으나 회사는 중국 연계를 부인했다. KT와 LG유플러스도 미토스 접근 사실이 없다고 밝혔다. 정부가 증거를 공개하지 않아 진위는 가려지지 않은 상태다.

이번 차단은 미국의 핵심 정보 동맹인 '파이브 아이즈' 국가들에도 영향을 미쳤다. 영국에서는 병원·기업·연구자가 쓰던 모델이 하루아침에 꺼졌다는 불만과 함께, 주권이 이제 '대포가 아니라 코드'의 문제가 됐다는 진단이 나왔다. 유럽 정치권에서도 통제하지 못하는 인프라는 남이 플러그를 뽑을 수 있는 인프라라는 경고가 이어졌다.

내가 통제하지 못하는 기술은 언제든 스위치가 꺼질 수 있다.

한국도 자유롭지 않다. 막 합류한 협력체는 열흘 만에 수출통제로 가동이 멈췄다. 자체 모델 확보를 위한 국가 파운데이션 모델 사업이 진행 중이지만, 인프라·데이터·모델 등 각 영역에서 갈 길이 멀다. 소버린 AI를 구호가 아니라 영역별 현실적 목표로 분해해 실천하지 않으면, 더 큰 충격 앞에서 제대로 대응하기 어렵다는 것이 이번 사태가 남긴 분명한 교훈이다.