jacobhan.me

Documentary Review · AI 산업

안전을 말하는 가장 빠른 질주

블룸버그가 9,650억 달러 기업 앤트로픽의 내부로 들어갔다. 카메라가 비춘 것은 안전을 사명으로 내건 회사가 가장 위험한 기술을 가장 빨리 만들고 있다는, 회사 스스로도 정리하지 못한 모순이었다.

출처 다큐멘터리 · Inside Anthropic, the $965 Billion AI Juggernaut | The Circuit (Bloomberg Originals, 진행 에밀리 창, 2026년 6월 10일 공개) · 작성일 2026년 6월 18일

한 도서관 서가 앞에서 인터뷰가 시작된다. 카메라가 비추는 인물은 인공지능의 위험을 세상에 경고하는 일로 이름을 알린 다리오 아모데이(Dario Amodei)다. 그런데 그가 이끄는 회사는 1조 달러에 육박하는 가치로 평가받는, 이 분야의 선두주자가 되어 있다. 에밀리 창(Emily Chang)이 진행하는 블룸버그 다큐멘터리 〈The Circuit〉 시즌 5의 한 편은 바로 이 간극에서 출발한다. 위험을 가장 크게 경고한 사람이, 어쩌다 그 위험의 최전선에 서게 되었는가.

2021년 오픈AI(OpenAI)를 떠난 연구자들이 세운 신생 연구소는 5년 만에 업계의 돌풍이 됐다. 다큐멘터리는 이 회사를 두고 소프트웨어 주가에서 수십억 달러를 증발시키고, 펜타곤과 정면으로 맞붙었으며, 현대 사이버 보안의 벽을 뚫을 만큼 강력하다고 평가받는 모델을 만들어낸 곳이라고 소개한다. 카메라 뒤에서 이 회사를 이끄는 것은 남매다. 비전을 그리는 오빠 다리오, 그리고 그 추상적 구상을 실행으로 옮기는 운영자이자 사장인 동생 다니엘라 아모데이(Daniela Amodei).

한국의 연구자나 정책 담당자에게 이 영상이 갖는 의미는 단순한 기업 탐방을 넘어선다. AI가 국가 전략자산이 되고, 전력망·통신·금융 같은 핵심 인프라의 보안이 AI 모델의 손에 좌우되기 시작한 시대에, 한 사기업이 그 기술의 배포 권한을 사실상 쥐고 있다는 사실 자체가 던지는 질문이 크기 때문이다. 이 글은 47분짜리 다큐멘터리의 핵심 논지를 추려, 공개된 사실관계로 검증하고 재구성한 것이다.

01 — 기원두 남매와 '매끄러운 지수곡선'

아모데이 남매는 샌프란시스코에서 자랐다. 아버지는 가죽 공예가, 어머니는 도서관에서 일했다. 다리오는 인터넷 혁명이 주변에서 일어나는 동안 거기에 전혀 관심이 없었고, 수학과 과학소설, 우주의 작동 원리에 빠져 있었다고 회상한다. 다니엘라는 오빠가 중학생 때 이미 미적분을, 고등학생 때 UC버클리에서 수학 강의를 들었다고 전한다. 다리오는 칼텍에서 물리학을 공부하다 스탠퍼드에서 학사, 프린스턴에서 신경회로의 전기생리학으로 박사를 받았고, 이후 바이두와 구글을 거쳐 AI로 전향했다. 다니엘라는 결제 스타트업 스트라이프(Stripe)의 초기 직원이었다.

두 사람은 2016년 오픈AI에 합류했다. 그러나 회사의 방향과 가치를 두고 샘 올트먼(Sam Altman)과 충돌했고, 2021년 동료들과 함께 떠나 앤트로픽(Anthropic)을 세웠다. 다리오는 떠난 이유를 단순하게 정리한다. 안전을 둘러싼 의견 차이는 있을 수 있지만, 그것만으로 회사를 떠나지는 않는다는 것이다. 결정적인 것은 신뢰였다. 누군가의 가치가 말과 다르다고 느낄 때, 정직하지 않다고 느낄 때 함께 일하기 어려워진다고 그는 말한다. 비전과 신뢰가 같지 않다면, 다투기보다 각자 길을 가는 편이 낫다는 것이 그의 결론이었다. 흥미롭게도 일곱 명의 공동창업자가 모두 지금까지 회사에 남아 있는데, 이 규모의 회사로서는 매우 드문 일이다.

오픈AI 시절 다리오가 정립한 개념이 이른바 스케일링 법칙(scaling laws)이다. 알고리즘이 그대로여도 데이터와 연산을 더 쏟아부으면 거대 언어모델은 단순히 더 좋아진다는 예측이다. 당시로서는 비주류이고 반(反)문화적인 과학적 관점이었으나, 이 가설이 챗GPT로 가는 길을 닦았다.

다큐멘터리에서 다리오가 자기 경력 전체를 관통하는 경험으로 꼽는 것이 '매끄러운 지수곡선(smooth exponential)'이다. 그 곡선을 사는 경험은 이렇게 요약된다. 아무 일도 일어나지 않고, 아무 일도 일어나지 않고, 또 아무 일도 일어나지 않다가, 작은 일들이 생기고, 그러다 갑자기 폭발한다. 그는 그래프를 한동안 지켜보다가 대략 이 시점쯤 매출과 기업가치에서 가장 앞선 회사가 되리라 짐작했고, 실제로 그렇게 됐다고 말한다.

1조 7,500억 5,000억 2,500억 0 615억 3,800억 9,650억 2021 시드 2025.3 2026.5
앤트로픽 기업가치(post-money, 달러) 추이. 2021년 시드 약 10억 달러에서 2025년 3월 615억, 2026년 2월 3,800억, 같은 해 5월 시리즈 H에서 9,650억 달러까지. 거의 평평하게 바닥을 기던 선이 마지막 1년에 수직으로 치솟는 형태가, 다리오가 말한 '아무 일도 없다가 갑자기 폭발하는' 곡선을 그대로 보여준다. (출처: Reuters·Bloomberg·FT 보도 종합)

▣ 쉽게 풀면

스케일링 법칙은 요리 레시피를 바꾸지 않고 화구의 불만 키워도 음식이 계속 맛있어진다는 발견에 가깝다. 보통은 어느 선을 넘으면 타버리지만, 언어모델은 데이터와 연산이라는 '불'을 키울수록 한동안 계속 좋아졌다. '매끄러운 지수곡선'은 그 결과다. 매년 두 배씩 커지는 값은 초반엔 미미해 보이지만(2→4→8), 후반에 가면 한 칸이 곧 절반의 크기가 된다(256→512). 위 그래프에서 5년의 대부분이 바닥에 붙어 있다가 마지막 1년이 화면을 가득 채우는 이유가 이것이다.

02 — 성격클로드에게 '좋음'을 가르친다는 것

앤트로픽의 챗봇 클로드(Claude)는 헌법(constitution)이라 불리는 원칙 집합을 따르도록 훈련됐다. 다니엘라는 클로드가 다른 시스템과 구별되는 느낌을 '전문가다운 따뜻함(professional warmth)'이라고 설명한다. 가장 친한 친구가 되는 것이 목표는 아니지만, 차갑고 기계적으로 계산하는 존재여서도 안 된다는 것이다. 다가가기 쉽되 거리를 지키는, 직업적 태도를 지향한다.

그렇다면 '좋은 모델'이란 무엇인가. 다니엘라는 고의로든 실수로든 거짓말하지 않는 모델이라고 답한다. 모델이 없는 사실을 지어내는 것을 환각(hallucination)이라 부르는데, 다음 단어를 예측하도록 훈련된 모델은 모르는 것을 그냥 만들어내기도 한다. 더 우려스러운 것은, 회사 자체 연구에서 드러났듯 모델이 의도적으로 사용자를 속이려 들 수 있다는 점이다. 고객에게 노출되는 운영 모델에서는 그런 일이 일어나지 않도록 막아야 한다.

여기서 에밀리 창은 핵심을 찌른다. 누구의 가치를 클로드에 넣는가, 보편적 선(善)이라는 것이 존재하는가, 종교와 신념이 그토록 다양한데 어떻게 정하는가. 다니엘라의 답은 두 갈래다. 하나는 유엔 세계인권선언(UN Declaration of Human Rights) 같은 인류 역사의 토대 문서를 클로드의 성격 훈련에 쓴다는 것. 다른 하나는 의외인데, 종교 지도자들과 대화를 시작했다는 점이다. 특정 세계관을 넘어 여러 종교에 공통으로 흐르는, 인류가 수천 년간 씨름해 온 핵심 가치를 모델에 심으려 한다는 것이다.

모든 조정이 매끄러웠던 것은 아니다. 다니엘라는 초기 버전인 클로드 2 시절, 모델이 다소 잔소리꾼 같았다고 털어놓는다. 날씨를 물었을 뿐인데 클로드가 "당신이 정말 걱정된다"고 반응하는 식이었다. 다행히 가장 과한 버전들은 공개하지 않았다. 그는 이 작업을 다이얼을 미세하게 맞추는 일에 비유한다. 너무 풀어도, 너무 조여도 안 되는 한가운데에 바늘을 꽂아야 한다.

03 — 사업코딩에 건 베팅과 'SaaS 종말'

앤트로픽의 매출은 지난 1년 사이 급등해 회사를 처음으로 흑자로 돌려놨다. 공개된 수치로 보면 2024년 초 연환산 약 10억 달러였던 매출이 2025년 말 약 90억 달러, 2026년 5월에는 470억 달러에 이르렀다. 이 폭발의 상당 부분은 소비자용 앱이 아니라 수익성 높은 기업용 도구에서 나왔다. 소프트웨어 작업의 큰 덩어리를 자동화한 클로드 코드(Claude Code), 그리고 그 능력을 개발자가 아닌 일반 지식 노동자에게까지 넓힌 클로드 코워크(Claude Cowork)다.

다리오는 이를 가치와 사업의 일치로 설명한다. 가치와 정면으로 충돌하는 사업 모델을 고르면, 결국 가치를 배신하거나 무의미해진다는 것이다. 소셜미디어와 소비자 세계는 광고 수익 구조 탓에 사용자의 주의 시간을 최대화하려 하고, 그것이 참여를 넘어 중독까지 부추긴다고 그는 본다. 반면 기업용은 다르다. 신약 개발, 바이오·제약·학술 연구, 더 싸고 효율적인 에너지 같은 일은 모두 기업 영역에 속한다. 가치에 부합하는 사업 모델을 택한 것이 회사에 유리하게 작용했다는 주장이다.

클로드 코워크가 공개된 직후, 하룻밤 사이 2,850억 달러의 시가총액이 증발했다. 트레이더들은 이를 'SaaS 종말(SaaSpocalypse)'이라 불렀다.다큐멘터리가 전하는 소프트웨어 업계의 충격

AI가 이 속도로 계속 발전하면 전통 소프트웨어는 얼마나, 얼마나 빨리 대체되는가. 다리오의 답은 양면적이다. 그는 파이(시장) 자체가 커진다고 본다. 기존 강자들은 상대적으로 작아지고, 일부는 가치가 떨어지거나 적응하지 못하면 사라질 수도 있다. 그러나 소프트웨어 산업 전체는 줄지 않고 오히려 커질 것이라는 게 그의 예측이다. 다만 무엇이 다가오는지 보지 못하고, 자기 해자(垓字)를 지키지 못하는 쪽은 정말로 힘든 시기를 맞을 것이라고 그는 덧붙인다.

이 성장의 또 다른 주역으로 다큐멘터리는 클로드 코드와 코워크를 만든 엔지니어 보리스 체르니(Boris Cherny)를 비춘다. 2024년 합류 전 그는 일본 시골에서 미소 된장을 담그며 느리게 살고 있었다. 첫 AI 챗봇을 써본 순간 숨이 멎는 듯했고, 동시에 과학소설 애독자로서 이 기술이 얼마나 잘못될 수 있는지도 알았기에 합류를 결심했다고 그는 말한다. 그가 던진 베팅은 단순한 자동완성을 넘어 코딩 에이전트가 작업 전체를 해낼 수 있다는 것이었다. 그는 이제 자기 팀 코드의 거의 전부를, 자신의 경우 최소 6개월간 100퍼센트를 클로드가 쓰고 있다고 전한다. 엔지니어가 손으로 코드를 쓰던 시절은 불과 1년 반 전인데, 지금은 여러 개의 클로드를, 많게는 수천 개를 동시에 돌린다.

04 — 일자리생산성의 언덕을 넘으면

실리콘밸리는 AI 열병을 앓지만, 바깥의 분위기는 다르다. 다큐멘터리가 인용한 조사에서 미국인의 70퍼센트가 AI가 일자리를 없앨 것이라 보고, 거의 3분의 1이 자기 일자리가 그중 하나일까 걱정한다. 다리오는 1년 전 향후 1~5년 안에 신입 사무직의 절반이 사라질 수 있다고 경고했다. 그 수치가 여전히 유효한지 묻자 그는 정확히는 모르겠지만 같은 수준으로 우려하고 있다고 답한다.

그의 논리는 이렇다. 지금 AI는 사람을 더 생산적으로 만든다. 직무의 90퍼센트를 자동화하면 사람은 나머지 10퍼센트에서 10배의 레버리지를 갖게 되어 10배 더 생산적이 된다. 문제는 그다음이다. 자동화가 100퍼센트에 가까워지면, 그때는 사람에게 다른 할 일을 찾아줘야 한다. 소프트웨어 엔지니어가 지금은 AI 덕에 더 생산적이지만, 이미 일부에서는 AI가 그냥 직접 처리하는 편이 나은 경우가 나타나기 시작했다고 그는 인정한다.

레버리지 정점 자동화 90% 100% 0% 인간 노동의 가치 직무에서 자동화된 비율 →
다리오 아모데이가 묘사한 '언덕(hump)'. 자동화가 진행될수록 남은 영역에서 인간의 레버리지가 커져 가치가 오르지만, 자동화가 100퍼센트에 다가가면 인간의 몫 자체가 급격히 무너진다. 지금 우리가 체감하는 '생산성 향상'은 이 언덕의 오르막일 뿐, 정점을 넘으면 같은 기술이 대체로 작동한다는 것이 그의 경고다.

이 주장에는 반박도 거세다. 엔비디아(Nvidia)의 젠슨 황(Jensen Huang)은 다리오가 과업(task)과 직업(job)을 혼동하고 있으며, AI는 오히려 일자리를 만든다고, AI가 일자리를 없앤다는 말은 사람을 겁주는 것이라고 비판했다. 일각에서는 이런 경고가 앤트로픽에 유리한 '파멸 마케팅(doom marketing)'이라고 본다. 다리오는 이를 강하게 받아친다. 자신은 모든 인터뷰에서 세제·거시정책부터 새 일자리가 무엇일지까지 대응 방안을 함께 말해 왔고, 자기 에세이에서는 과업과 직업의 차이를 여러 쪽에 걸쳐 설명했다는 것이다. 그는 사람들이 1년 전 영상에서 3초짜리 토막만 잘라 쓴다며, 이를 실리콘밸리가 소셜미디어식 3초 문화에 사로잡힌 '질병'이라 부른다. 자신의 메시지는 파멸이 온다는 것이 아니라, 다가오는 것을 미리 보고 적극적으로 대응하자는 것이라고 그는 강조한다.

그렇다면 5년 뒤 사람들은 무엇을 하고 있을까. 다리오는 보장된 답은 없다면서도 몇 갈래를 제시한다. 물리적 세계에서 무언가를 만들고 짓는 일, 사람을 직접 상대하는 인간 중심의 일, 그리고 AI를 사람의 가치와 의도에 맞게 방향 짓는 일이다. 그는 의료를 예로 든다. 진단은 AI가 곧 능숙해지겠지만, 환자를 직접 만져 진찰하고 "이 과정을 어떻게 견디고 계시냐"고 묻는 정서적 돌봄은 AI가 대신할 수 없다는 것이다. 의료가 진단보다 대인관계 쪽으로 무게중심을 옮길 것이라는 전망이다. 다만 인간이 떠맡을 그 역할이 두꺼울지 얇을지는 자신도 모른다고 그는 덧붙인다.

실업이 그 정도면 혁명이 시작되지 않겠느냐는 물음에 다리오는 그것이야말로 막아야 할 결과라고 못 박는다. 그러나 막을 방법이 보장돼 있지는 않다.

05 — 전쟁펜타곤과 그은 두 개의 선

유토피아적 영향을 바라는 회사라도, 기술의 파괴적 잠재력은 부정할 수 없다. 다큐멘터리의 가장 긴장된 대목은 앤트로픽과 미 국방부의 충돌이다. 오랫동안 반전(反戰)을 표방해 온 다리오가, 미국이 전쟁을 수행하는 기밀 네트워크에서 작동하는 계약을 AI 기업 중 가장 먼저 맺은 데서 모순이 시작된다. 그는 세계가 변했다고 답한다. 러시아의 우크라이나 침공, 중국의 대만 침공 위험을 보며 권위주의 블록의 위협에 맞서 방어해야 한다고 판단했다는 것이다.

여기서 회사가 그은 두 개의 선이 핵심이다. 앤트로픽은 클로드가 자율 무기(autonomous weapons)자국민 대규모 감시(mass surveillance)에 쓰이는 것을 거부했다. 펜타곤은 클로드를 '모든 합법적 용도'로 무제한 사용할 수 있어야 한다고 요구했고, 한 사기업이 군의 사용 방식을 좌우해서는 안 된다고 맞섰다. 협상은 결렬됐다.

2025년 여름
2억 달러 계약. 앤트로픽이 펜타곤과 기밀 시스템 내 기술 배치 계약을 체결.
2026년 2월
최후통첩. 국방장관 피트 헤그세스(Pete Hegseth)가 레드라인 철회를 요구하며 마감 시한을 제시. 불응 시 국방물자생산법(DPA) 발동을 거론.
2026년 3월 초
'공급망 위험' 지정. 국방부가 앤트로픽을 공급망 위험으로 공식 지정 — 미국 기업이 이 조항으로 지정된 첫 사례. 국방부·계약업체의 클로드 사용 금지.
2026년 3월
소송과 가처분. 앤트로픽이 표현의 자유·적법절차 침해를 들어 제소. 샌프란시스코 연방법원(리타 린 판사)이 사용 금지에 대한 예비적 금지명령을 인용.
2026년 4월
항소심 제동. 워싱턴 항소법원이 공급망 위험 지정에 대한 가처분 요청을 기각. 분쟁은 계속.

이 대치 속에서 트럼프 대통령과 헤그세스 장관은 다리오를 "이념에 미친 사람(ideological lunatic)"이라 불렀다. 그런 호칭이 거슬리지 않느냐는 질문에 다리오는 더한 말도 늘 들어왔다고 받아넘긴다. 그는 이를 '싸움'이라기보다 정부의 AI 사용이 어디까지 적절한가에 대한 '논쟁'이라 부른다. 신생 기술인 AI가 어떤 면에서 신뢰할 만하고 어떤 면에서 위험한지 아직 모르는 상황에서, 좋다고 보는 사용 사례와 우려되는 사례에 대한 선례를 세우는 것이 중요했다는 설명이다.

가장 무거운 장면은 이란을 둘러싼 대목이다. 블룸버그 보도에 따르면 팰런티어(Palantir)의 표적 분석 플랫폼을 통해 클로드가 미군의 AI 보조 표적 선정에 사용됐고, 2월 미국 미사일이 이란의 한 여학교를 타격해 대부분 아동인 150명 이상이 숨졌다. 클로드가 그 공격에 관여했는지 묻자 다리오는 모델이 정확히 어떻게 쓰였는지 모른다고 답한다. 전쟁에서 일어나는 실수는 정말 끔찍한 일이라면서도, 그는 이 사례가 회사의 레드라인을 넘는 사례조차 아니며 진짜 우려는 레드라인을 넘는 100배 많은 사용에 있다고 말한다. 학교에는 웹사이트가 있어 구글 검색으로 찾을 수 있었을 텐데 클로드가 그걸 짚었어야 하지 않느냐는 추궁에, 그는 최종 결정은 사람이 내린다는 원칙이 지켜졌다는 점을 강조한다. 오히려 그 원칙이 왜 그토록 중요한지를 보여주는 사례라는 것이다. 모델이 결정을 내리고 사람은 그것을 아예 보지 못하는 세계, 그것이 회사가 맞서 싸운 대상이라고 그는 말한다.

그는 ICE(이민세관단속국)나 CBP(관세국경보호청)와는 팰런티어를 통해서든 직접이든 일하지 않으며 가자(Gaza)에서도 일하지 않는 것으로 안다고 선을 긋는다. AI 전쟁이 미·중 전쟁을 막을지 부추길지 묻자, 그는 균형을 따지면 막을 가능성이 더 크되 사용에 아무 제한이 없다면 일으킬 가능성도 커진다고 답한다. 그는 영화 〈닥터 스트레인지러브〉를 끌어온다. 핵 공격 징후를 감지하면 자동으로 핵을 발사하는 종말 장치 — 적절한 감독이 없으면 그런 오판에 의한 사고가 더 쉽게 일어난다는 것이다.

06 — 권력Mythos, 그리고 원을 누가 그리는가

다큐멘터리 후반, 본사 배경에 한 모델의 이름이 어른거린다. 모두를 긴장시킨 새 AI, Mythos다. 이 모델은 수천 개의 사이버 보안 취약점을 찾아내 주요 운영체제 전반의 잠재적 결함을 드러냈다. 앤트로픽은 만약 완전히 공개되면 Mythos가 은행을 해킹하고 국가 기밀을 열어젖히며 핵심 인프라를 마비시킬 수 있다고 판단했다. 다리오는 모델의 취약점 발견 능력이 줄곧 오르다가 이번에 특히 큰 도약을 했다며, 초기에 모델을 받아 본 일부 기업은 이것이 "슈퍼 무기"이니 공개하지 말라고 했다고 전한다. 사용에 총기 면허가 필요할 정도라는 반응이었다.

공개된 사실관계는 다큐멘터리의 묘사와 맞물린다. 앤트로픽은 2026년 4월 'Project Glasswing'이라는 이름으로 소수의 신뢰 기관에 Mythos Preview 접근권을 제공했고, 이후 6월 초 15개국 이상 약 150개 조직으로 확대했다. 회사는 이 모델이 모든 주요 운영체제와 웹브라우저를 포함해 수천 건의 고위험 취약점을 — 인간이 수십 년간 놓친 오래된 버그까지 — 찾아냈다고 밝혔다. 펜타곤에 의해 배제된 와중에도 미국 국가안보 당국까지 이 모델을 쓰고 싶어 했다는 다큐멘터리의 서술은, 정부 기관과 핵심 인프라 영역의 수요가 컸다는 공개 보도와 일치한다.

다리오는 이를 '쫓고 쫓기는 게임'으로 본다. 좋은 편(good guys)이 방어에 필요한 도구를 갖추도록 해야 하고, 언젠가 나쁜 편(bad guys)도 갖게 될 그 시점에는 좋은 편이 더 나은 모델을 가져 대비해야 한다는 것이다. 정말 앞설 수 있겠느냐는 회의에 그는 그저 그러기를 바랄 뿐이라고 답한다.

사실상 누가 접근하고 누가 못 하는지를 당신이 정하는 셈이다. 그런 권력 집중을 누가 편하게 받아들이겠는가.에밀리 창의 질문

다니엘라의 반론은 그것이 '강력하니 권력을 누구에게 줄까'의 문제가 아니라 사이버 보안이라는 매우 구체적인 우려에서 출발한 결정이었다는 것이다. 누구에게 줄지는 그 특정한 두려움을 기준으로 정했고, 원(접근 범위)을 어디에 그을지는 분명 복잡한 문제이며 완벽하지 않을 수 있음을 공개적으로 인정한다고 그는 말한다. 이것이 단지 좋은 마케팅 아니냐는 의심에는, 이 모델을 공개하지 않아 회사가 상업적으로 막대한 손해를 봤다고 다리오가 받아친다. Mythos는 내부 연구와 다음 모델 개발을 엄청나게 가속했고, 공개되면 바깥에서도 같은 일을 할 것이라는 설명이다.

그렇다면 정부가 아예 회사를 접수하면 되지 않느냐는 물음이 따라온다. 다리오는 이를 매우 진지한 질문으로 받아들이면서도 정부의 직접 인수에는 반대한다. 그의 역사 인식은 이렇다. 핵무기, 인터넷, GPS, 휴대전화 등 과거의 강력한 기술은 모두 정부가 만들었거나 정부에서 비롯됐는데, AI는 민간이 주도하고 정부가 뒤늦게 들어온 첫 기술이며 그것이 위험하고 불안정한 상황이라는 것이다. 그는 기업이 그것을 갖는 것도, 정부가 갖는 것도 두렵다고 말한다. 그래서 그가 내미는 처방은 출시 전 의무 시험과 감사(pre-release testing and auditing) 같은 기본 규제다.

그는 실리콘밸리의 표변을 꼬집는다. 한때 투명성도 수출 통제도 산업을 파괴할 것이라며 모든 규제에 반대하던 이들이, 첫 실질적 위험이 닥치자 갑자기 국유화와 정부의 압류를 말한다는 것이다. 극단적 반(反)규제에서 극단적 국가통제로 요요처럼 오가지 말고, 더 분별 있고 온건한 접근이 필요하다는 것이 그가 줄곧 지지해 온 입장이다.


07 — 결말오펜하이머가 아니라 실라르드

다큐멘터리는 신뢰의 문제로 돌아온다. 구글의 'don't be evil'이 회사가 커지며 조용히 폐기된 것처럼, 강력한 기술과 막대한 이익을 손에 쥔 당신을 왜 믿어야 하느냐는 물음에 다리오는 불신에서 출발하는 것이 합리적이라고 인정한다. 실리콘밸리는 세상의 신뢰를 많이 잃었고 다시 얻어야 하며, 그것은 말이 아니라 실제 행동으로 증명돼야 한다는 것이다.

그는 자신이 가장 좋아하는 책으로 〈원자폭탄 만들기(The Making of the Atomic Bomb)〉를 꼽으면서, 자신이 가장 동질감을 느끼는 인물은 오펜하이머가 아니라 연쇄반응의 가능성을 처음 떠올린 레오 실라르드(Leo Szilard)라고 말한다. 거대한 개인이나 모든 것의 중심에 서려는 인물로는 이 위기를 넘지 못하며, 오펜하이머는 오히려 일어나지 말았어야 할 실패 사례로 본다는 것이다. 강력한 이해당사자가 많은 상황에서 모두에게 좋게 끝나는 길은 어디에나 견제와 균형(checks and balances)이 있는 것뿐이라는 결론이다.

▣ 25퍼센트라는 숫자

다리오는 문명 붕괴 확률을 대략 10~25퍼센트로 언급해 왔다. 그 위험의 원천이 앤트로픽이 만든 무언가일 수 있느냐는 질문에 그는 그러지 않기를 바란다면서도, 그 확률은 기술의 본질과 여러 나라·여러 기업이 존재한다는 단순한 사실에서 나온다고 답한다. 그는 항공사에 비유한다. 자기 항공사가 다른 곳보다 열 배 안전할 수는 있어도, 비행기가 절대 추락하지 않는다고 보장할 수는 없다는 것이다. 다만 25퍼센트는 너무 높고, 그 확률을 훨씬 더 낮추는 것이 목표라고 그는 말한다.

에밀리 창은 마지막까지 같은 질문을 변주한다. 당신들이 경고한 만큼의 충격이 현실이 된다면, 삶이 뒤집힌 사람들에게 회사는 무엇을 빚지는가. 다리오의 답은 책임의 소재로 향한다. 기술을 개발하는 산업으로서 위험을 미리 헤아리고, 나쁜 일이 닥치면 그것을 고치는 데 역할을 하는 것이 자기들의 일이라는 것이다. 소셜미디어 기업들이 '그저 제품을 키우려 했을 뿐'이라며 한 세대의 정신건강 문제를 떠안긴 태도를, 어떤 기술 기업도 취해서는 안 된다고 그는 말한다. 일이 잘못된 뒤 변명을 찾는 대신, 처음부터 제대로 하려는 것이 회사가 두 번째 주자로서 가진 행운이자 의무라는 것이다.

다큐멘터리는 이 회사의 정체성에 깔린 근본적 긴장을 끝내 봉합하지 않는다. 위험을 그토록 솔직하게 경고하면서 왜 그토록 빠르게 AI를 밀어붙이는가. 안전을 사명으로 내건 회사가, 어떻게 이 모든 것을 잘 풀리게 만들 수 있는가. 카메라가 닿지 못한 그 물음은 시청자에게 남는다. 다리오가 긴장을 푸는 방법을 묻자 그는 가끔 주말에 비디오게임을 하거나, 이탈리아의 말 한 마리 — 칼립소(Calypso) — 곁에 앉아 바라본다고 답한다. 이 모든 일을 전혀 모르는, 그저 행복한 말을.