AI · 기업 · 노동의 미래
인공지능(Artificial Intelligence, AI)의 위험을 누구보다 큰 목소리로 경고해 온 연구소가, 동시에 그 위험의 최전선에 서 있다. 2026년 5월, 앤트로픽(Anthropic)은 약 9,650억 달러의 기업가치를 인정받으며 오랜 경쟁자 오픈AI(OpenAI)를 처음으로 앞질렀다.
다리오 아모데이(Dario Amodei)는 흔치 않은 종류의 유명인이다. 그는 자기가 만드는 기술이 인류에게 끼칠 위험을 세상에 경고하는 사람으로 알려져 있고, 동시에 그가 이끄는 회사는 1조 달러에 육박하는 가치를 인정받는 AI 선두 주자다. 누이인 다니엘라 아모데이(Daniela Amodei)와 함께 그는 앤트로픽을 'AI 군비 경쟁 속의 착한 쪽'으로 자리매김하려 애써 왔다. 회사 이름 자체가 그 지향을 담고 있다. '앤트로픽'은 '인간'을 뜻하는 그리스어에서 왔고, 인류의 장기적 이익을 위한 책임 있는 AI를 만들겠다는 사명을 가리킨다.
한 편의 다큐멘터리 인터뷰가 이 두 사람을 나란히 비춘다. 비전을 그리는 오빠 다리오, 그 추상적 구상을 실행으로 옮기는 누이 다니엘라. 이 글은 그 인터뷰를 실마리 삼아, 안전을 외치는 회사가 어떻게 가장 강력한 기술을 만드는 모순을 끌어안게 되었는지, 그 모순이 노동·의료·전쟁에 어떤 그림자를 드리우는지를 추적한다. 인터뷰 속 주장들은 가능한 한 공개된 보도와 대조해 검증했다.
앤트로픽은 2021년, 오픈AI에서 나온 일곱 명의 공동창업자가 세웠다. 초기에는 약체 연구소였다. 그러나 2026년 들어 회사의 가치는 거의 수직으로 솟았다. 2025년 3월 약 615억 달러였던 기업가치는 그해 9월 시리즈 F에서 1,830억 달러, 2026년 2월 3,800억 달러를 거쳐, 5월 28일 시리즈 H에서 약 9,650억 달러에 이르렀다. 이 라운드로 앤트로픽은 처음으로 오픈AI의 가치를 넘어섰고, 650억 달러를 새로 조달했다.
매출의 궤적도 가팔랐다. 2025년 초 약 10억 달러였던 연환산 매출은 그해 말 약 90억 달러, 2026년 4월에는 300억 달러 수준으로 불었다. 다리오는 이 곡선을 두고 '매끄러운 지수함수'라고 표현한다. 한동안은 아무 일도 일어나지 않는 것처럼 보이다가, 어느 순간 폭발적으로 휘어 오른다는 것이다. 그는 그래프를 지켜보며 '대략 이 무렵 우리가 매출과 가치 모두에서 가장 큰 AI 기업이 될 것'이라 짐작했고, 실제로 그렇게 되었다고 말한다.
다리오는 신경과학을 공부한 뒤 AI로 옮겨, 바이두(Baidu)와 구글(Google)을 거쳤다. 다니엘라는 결제 기업 스트라이프(Stripe)의 초기 직원이었다. 두 사람은 2016년 새로 출범한 오픈AI에 차례로 합류했고, 2018년 비영리로 시작한 그 회사에서 함께 일했다. 그러나 회사의 방향과 가치를 두고 경영진과 갈등을 빚었다.
다리오는 자신이 오픈AI를 떠난 이유를 안전에 관한 이견 그 자체로 돌리지 않는다. 안전을 둘러싼 견해 차이는 어디에나 있을 수 있고, 그것만으로 회사를 떠나기에는 충분하지 않다는 것이다. 그가 든 결정적 이유는 신뢰였다. 상대를 믿을 수 없고, 상대의 가치가 말과 다르다고 느낄 때 함께 일하기 어렵다고 그는 말한다. 같은 비전을 공유하지 않고 신뢰도 없다면, 각자 갈 길을 가는 것이 해결책이라는 것이다.
2021년 세워진 앤트로픽의 일곱 공동창업자 가운데 다리오와 다니엘라가 두 명이다. 인터뷰에서 두 사람은 지금까지 공동창업자 전원이 회사에 남아 있는, 이 분야에서 사실상 유일한 회사라고 강조한다. 이 규모로 성장한 스타트업에서 창업자 이탈이 한 명도 없는 경우는 드물다.
앤트로픽의 기술적 베팅의 뿌리에는 다리오가 오픈AI 시절 정립한 스케일링 법칙(scaling laws)이 있다. 알고리즘 자체를 바꾸지 않더라도, 데이터와 연산을 더 많이 부어 넣으면 대형 언어 모델(Large Language Model, LLM)의 성능이 좋아진다는 예측이다. 지금은 당연하게 들리지만, 당시에는 '규모를 키우는 것이 모델을 똑똑하게 만드는 길'이라는 발상을 믿는 사람이 많지 않았다고 그는 회고한다.
빵을 더 잘 굽는 방법을 두 갈래로 생각해 보자. 하나는 더 정교한 새 레시피를 찾는 길이고, 다른 하나는 같은 레시피로 오븐과 재료의 양을 키우는 길이다. 2010년대 후반의 통념은 '레시피'를 개선해야 한다는 쪽이었다.
다리오의 예측은 반대였다. 레시피를 그대로 두고도, 반죽(데이터)과 화력(연산)을 키우기만 하면 빵이 눈에 띄게 좋아진다는 것이다. 이 '단순하지만 비싼' 길에 일찍 베팅한 것이 오늘날 거대 모델 경쟁의 출발점이 되었다.
앤트로픽의 챗봇 클로드(Claude)는 '헌법(Constitution)'이라 불리는 원칙 묶음을 따르도록 훈련된다. 클로드가 길에서 벗어나지 않게 잡아 주는 일종의 행동 규범이다. 다니엘라는 사람들이 클로드를 다른 시스템과 다르게 느끼는 지점을 '전문가의 따뜻함(professional warmth)'이라 표현한다. 가장 친한 친구가 되라는 것도 아니고, 차갑게 계산만 하라는 것도 아니다. 다가가기 쉽되 적당한 거리를 둔, 전문가다운 태도를 목표로 한다는 것이다.
그렇다면 '좋은 모델'과 '나쁜 모델'은 무엇으로 갈리는가. 앤트로픽은 세 가지를 꼽는다. 첫째, 의도했든 아니든 거짓말하지 않을 것. 모델이 모르는 것을 지어내는 현상을 환각(hallucination)이라 부른다. 모델은 다음 단어를 예측하도록 훈련되기에, 모를 때 무언가를 발명하기도 한다. 둘째, 의도적 기만을 막을 것. 앤트로픽의 자체 연구는 모델이 일부러 사용자를 속이려 들 수 있음을 보여 줬고, 그런 일이 실제 제품에서 일어나지 않도록 해야 한다고 본다. 셋째, 무해성(harmlessness). 잘못되거나 해로운 정보를 흘리지 않게 하는 작업이다.
'누구의 가치를 클로드에 넣는가'라는 질문에는 보편적 정답이 없다. 앤트로픽은 인류의 역사적 합의 문서, 예컨대 유엔 세계인권선언(UN Declaration of Human Rights) 같은 토대 위에서 클로드의 성격을 훈련한다고 말한다. 흥미롭게도 종교 영역에서는 여러 종교 지도자와 대화를 나누며, 특정 세계관을 넘어 인류가 오랜 세월 씨름해 온 공통의 핵심 가치를 어떻게 녹여 넣을지 고민해 왔다고 한다.
초기 클로드는 지나치게 잔소리가 많기도 했다. 다니엘라는 클로드 2(Claude 2) 시절 클로드가 사용자의 안위를 과하게 걱정하던 일화를 떠올린다. 그저 날씨를 물었을 뿐인데 '당신이 정말 걱정된다'고 답하는 식이었다. 가장 과한 버전들은 출시하지 않았고, 결국 이는 다이얼을 미세하게 맞추는 일이라고 그는 비유한다.
자동차에는 운전자의 의도와 무관하게 작동하는 안전 장치들이 있다. 안전벨트, 차선 이탈 경고, 급제동 보조 같은 것이다. 이들은 운전을 대신하지 않으면서, 차가 도로 밖으로 벗어나지 않도록 잡아 준다.
클로드의 '헌법'도 비슷하다. 모든 답을 일일이 정해 주는 대본이 아니라, 모델이 스스로 판단할 때 따라야 할 상위 원칙의 묶음이다. 다만 그 잣대가 너무 빡빡하면 '날씨를 물었는데 안위를 걱정하는' 과보호가 되고, 너무 느슨하면 위험을 흘린다. 그래서 다이얼을 미세하게 맞추는 일이라는 것이다.
경쟁사들이 화려한 소비자용 앱에 집중하던 초기에, 앤트로픽은 코딩과 기업(enterprise) 시장에 베팅했다. 이것이 가치에 따른 선택이었는지 사업적 선택이었는지를 묻자, 다리오는 둘이 분리되지 않는다고 답한다. 가치와 근본적으로 충돌하는 사업 모델을 고르면, 결국 자기 가치를 배신하거나 시장에서 밀려나거나 둘 중 하나가 된다는 것이다.
그가 소비자 광고 모델을 경계하는 이유는 분명하다. 소셜 미디어와 광고 기반 모델은 사용자의 주목 시간을 극대화하도록, 때로는 중독을 부추기도록 설계되는 경향이 있다. 반면 기업 시장은 다르다고 그는 본다. 질병을 치료하려는 바이오테크와 제약, 학술 연구, 더 싸고 효율적인 에너지를 만드는 일 — 이 모두가 기업 고객이다. 사업 모델이 회사의 가치와 대체로 정렬되어 있다는 것이 그의 설명이다.
이 베팅을 현실로 만든 제품이 두 가지다. 소프트웨어 공학의 상당 부분을 자동화한 클로드 코드(Claude Code), 그리고 그 힘을 개발자가 아닌 일반 직무로 넓힌 클로드 코워크(Claude Cowork)다. 이 회사는 지난 1년 사이 처음으로 흑자로 돌아섰고, 그 동력의 상당 부분이 이 두 제품에서 나왔다.
그 충격이 가장 극적으로 드러난 사건이 2026년 초의 이른바 'SaaS 종말(SaaSpocalypse)'이다. 1월 말 앤트로픽이 클로드 코워크용 플러그인 11종 — 법률·재무·영업·마케팅·고객지원 등 화이트칼라 직무를 겨냥한 도구들 — 을 내놓자, 시장은 이를 좌석당 과금(per-seat) 방식의 모든 SaaS(Software as a Service, 서비스형 소프트웨어) 사업에 대한 정면 공격으로 받아들였다. 2월 초 단 하루의 거래에서 S&P 소프트웨어·서비스 지수에서만 약 2,850억 달러의 시가총액이 증발했다. 이 명칭은 투자은행 제프리스(Jefferies)의 전략가가 'SaaS'와 '종말(apocalypse)'을 합쳐 붙인 것이다.
다만 이 패닉이 '소프트웨어의 죽음'을 뜻하지는 않는다는 분석이 뒤따랐다. 독점 데이터, 규제 준수, 네트워크 효과, 내장된 거래 기능에 기댄 SaaS는 LLM으로 쉽게 대체되지 않는다. 무너진 것은 'AI가 대체할 수 있는, 과대평가된 좌석당 과금 소프트웨어'라는 좁은 영역이었다는 것이다.
다리오 자신의 진단도 비슷하다. AI로 인해 파이 자체가 커지기에, 기존 강자들의 상대적 비중은 줄어들 수 있고 일부는 가치를 잃거나 도산할 수 있지만, 소프트웨어 산업 전체는 작아지지 않으리라는 것이다. 다가올 변화를 읽지 못하고 자신의 해자(moat)를 식별하지 못하는 쪽이 가장 큰 손실을 입는다.
19세기 영국에서 증기기관의 효율이 좋아지자, 석탄 소비가 줄기는커녕 오히려 폭증했다. 한 단위당 비용이 싸지니 더 많은 곳에서 더 많이 쓰게 된 것이다. 이것을 제번스의 역설(Jevons paradox)이라 부른다.
다리오가 '파이가 커진다'고 말할 때 기대는 논리가 이것이다. 소프트웨어를 만드는 비용이 급락하면, 예전에는 엄두도 못 내던 무수한 곳에서 새 소프트웨어가 만들어진다. 단, 같은 역설이 노동에도 그대로 적용되리란 보장은 없다. 석탄과 달리, 사람은 무한히 '더 쓰일' 수 있는 자원이 아니기 때문이다 — 다음 장의 쟁점이 바로 이 지점이다.
이 성장의 한복판에 한 엔지니어가 있다. 클로드 코드와 코워크를 만든 보리스 체르니(Boris Cherny)다. 2024년 앤트로픽에 합류하기 전, 그는 일본 시골에서 직접 된장을 담그며 느린 삶을 살고 있었다. 처음 써 본 AI 챗봇에 숨이 멎는 듯한 충격을 받고, 이 일에 뛰어들어야겠다고 결심했다고 그는 말한다. 동시에 공상과학 애독자로서 이 기술이 얼마나 위험해질 수 있는지도 안다고 덧붙인다.
기존 코딩 보조 도구가 '단어를 완성하고 문장을 완성하는' 수준에 머물 때, 체르니의 팀은 훨씬 큰 베팅을 했다. 코딩 에이전트가 그 일 전부를 해낼 수 있다는 가정이었다. 내부에서는 이미 엔지니어가 손으로 코드를 쓰는 대신 여러 개의 클로드에게 동시에 일을 시키는 방식으로 바뀌었다. 한 사람이 몇 개에서 수천 개에 이르는 클로드를 병렬로 돌린다는 것이다.
"제 경우 적어도 6개월째 코드의 100%를 클로드가 씁니다. 엔지니어링의 일이 완전히 달라졌어요."
한 엔지니어는 마치 제트팩을 단 것처럼 갑자기 초능력을 얻은 기분이라고 표현한다. 1년 반 전만 해도 손으로 코드를 쓰고 가끔 자동완성을 누르던 일이, 이제는 여러 클로드에게 말로 지시하는 일이 되었다.
그렇다면 정작 그 코드를 쓰던 엔지니어들은 어떻게 되는가. 더 넓게는, 화이트칼라 전반은. 다리오는 이 문제에 가장 직설적인 경영자 가운데 한 명이다. 그는 2025년 화이트칼라의 신입 일자리 절반가량이 향후 1~5년 안에 사라질 수 있고, 실업률이 10~20%까지 치솟을 수 있다고 경고했다. 언론은 이를 '화이트칼라 유혈사태(white-collar bloodbath)'라 불렀다. 1년이 지난 지금도 그의 우려는 같은 수준이라고 그는 말한다.
이 예측은 거센 반박을 불렀다. 엔비디아(Nvidia)의 젠슨 황(Jensen Huang)은 2025년 비바테크(VivaTech) 무대에서 다리오의 발언에 '거의 모든 것에 동의하지 않는다'고 받아쳤다. 생산성이 오르면 보통 고용은 줄지 않고 늘어난다는 것, 그리고 'AI가 너무 위험하니 소수만 다뤄야 한다'는 식의 공포 서사를 비판한 것이다. 그는 또 다리오가 과제(task)와 직업(job)을 혼동한다고 지적했다. AI는 오히려 일자리를 만든다는 주장이다.
다리오의 반론은 이렇다. 지금 AI는 사람을 더 생산적으로 만들고 있는데, 이것은 흔히 거치는 '중간 단계의 봉우리'일 뿐이라는 것이다. 어떤 일의 90%를 자동화하면, 남은 10%에서 사람은 10배의 지렛대를 얻어 10배 생산적이 된다. 그러나 자동화 비율이 100%에 가까워지면 이야기가 달라진다. 그때는 사람을 위한 다른 일을 새로 찾아 줘야 한다. 소프트웨어 엔지니어조차, AI가 코드의 대부분을 쓰는 지금 이미 일부 영역에서는 'AI가 그냥 직접 하는 편이 낫다'는 신호가 나타나기 시작했다고 그는 말한다.
다리오는 자신을 향한 '공포 마케팅' 비판에 강하게 반박한다. 모든 인터뷰에서 세제·거시경제 정책부터 새로 생길 직업까지 대응책을 함께 말해 왔는데, 사람들은 1년 전 발언에서 잘라낸 3초짜리 클립만 가지고 이야기한다는 것이다. 그는 자신이 혐오하는 소셜 미디어의 '3초 세계'야말로 실리콘밸리의 병폐라고 본다. 그의 메시지는 '파국이 온다'가 아니라, '예견되는 일이니 미리, 긍정적으로 대응하자'는 것이다.
한 회계사의 일을 떠올려 보자. 영수증 분류, 장부 정리, 세금 계산, 의뢰인과의 상담, 판단이 필요한 절세 설계가 모두 그의 '직업'을 이룬다. 이 가운데 영수증 분류와 장부 정리 같은 반복 '과제'는 자동화하기 쉽다.
젠슨 황의 시각: 과제 몇 개가 자동화되면 회계사는 더 어려운 일에 집중해 오히려 가치가 오른다. 다리오의 우려: 자동화가 직업을 이루는 과제의 대부분을 삼키면, 남는 일이 한 사람을 고용할 만큼 두텁지 않을 수 있다. 같은 사실을 보고 한쪽은 '봉우리'를, 다른 쪽은 '봉우리 너머의 내리막'을 가리키는 셈이다.
이만한 실업이 발생한다면 그것이 혁명의 불씨가 되지 않겠느냐는 물음에, 다리오는 그것이야말로 막고 싶은 결과라고 답한다. 그는 확실하지는 않다고 전제하면서도 사람이 옮겨 갈 만한 자리를 몇 가지 꼽는다. 무언가를 짓고 만들고 제조하는 물리적 세계, 사람이 사람과 이야기하길 원하는 인간 중심의 관계형 직무, 그리고 AI를 누군가의 가치와 의도에 맞게 방향 짓는 역할이다. 다만 그 역할이 얼마나 두터울지 얇을지는 자신도 모른다고 덧붙인다.
그가 즐겨 드는 예가 의료다. 오늘날 우리는 진단에 능한 의사를 고용한다. 그러나 AI는 머지않아 무엇이 문제일 수 있는지, 어떤 검사를 해야 하는지를 꽤 잘 알려 줄 것이다. 그 일에는 더 이상 의사가 필요하지 않을 수 있다. 그러나 AI는 환자를 직접 만져 '여기 누르면 아픈가'를 확인할 수 없고, '이 과정을 어떻게 견디고 있느냐'고 묻는 곁의 태도(bedside manner)를 가질 수 없다. 그래서 의료는 진단 도구가 좋아지는 만큼, 오히려 사람 사이의 관계 쪽으로 무게중심이 옮겨 가리라는 것이다.
다리오가 아끼는 책은 『원자폭탄 만들기(The Making of the Atomic Bomb)』다. 자신을 오펜하이머(Oppenheimer)에 비유하느냐는 질문에, 그는 다른 인물을 든다. 연쇄 반응의 가능성을 처음 떠올린 레오 실라르드(Leo Szilard)다. 그는 거대한 개성이나 모든 것의 중심에 서려는 인물로는 이 국면을 헤쳐 나갈 수 없다고 본다. 오히려 오펜하이머를 일종의 실패 사례로, '그렇게 되어서는 안 되는 모습'으로 읽는다.
여기에 강력한 이해관계자가 많을 때, 모두에게 좋게 끝나는 유일한 길은 도처에 견제와 균형(checks and balances)이 작동하는 것이라는 그의 결론이 이어진다. 한 회사, 한 사람의 손에 결정이 몰리지 않아야 한다는 것이다. 이는 안전을 외치면서 최전선에 선 회사의 자기 변명처럼 들리기도 하고, 동시에 그 모순을 견디는 유일한 논리처럼 들리기도 한다.
앤트로픽의 다음 장에는 더 무거운 주제가 예고되어 있다. AI와 전쟁의 미래, 국방부(Pentagon)와의 정면 대결, 현대 사이버보안의 벽을 뚫을 만큼 강력하다는 차세대 모델 미토스(Mythos)다. 초기에 이 기술을 받아 본 일부 기업은 '이건 초무기다, 공개하지 말아 달라'고 말했다고 한다.
여기서 이 회사의 근본적 역설이 드러난다. 가장 강력한 기술을 만들면서, 동시에 그것을 인류에게 이롭게 방향 짓는 일이 한 회사 안에서 양립할 수 있는가. 다리오와 다니엘라는 그것이 가능하다고 믿고, 그 믿음이 안전 연구의 동기라고 말한다. 회사가 하는 기술적 안전 연구는 제품을 인간의 가치에 더 잘 정렬시키고, 이전 기술 기업들이 의도치 않게 일으킨 사회적 문제를 되풀이하지 않기 위한 것이라는 설명이다.
이 역설은 아직 해소되지 않았다. 매끄러운 지수함수는 계속 휘어 오르고, 일자리에 대한 경고는 데이터로 조금씩 확인되며, 기업가치는 1조 달러의 문턱을 두드린다. 안전을 가장 크게 외친 회사가 가장 빠르게 성장한 회사가 된 지금, 견제와 균형이 정말로 도처에서 작동할지는 — 다리오 자신의 표현을 빌리면 — 한 회사보다 큰, 사회 전체가 풀어야 할 숙제로 남아 있다.
주요 사실 확인 출처
· 기업가치·매출: 블룸버그, CNBC(2026.05.28 시리즈 H $965B), VentureBeat(2026.04 매출 런레이트·80배 성장)
· SaaS 종말: deeplearning.ai The Batch, Xpert.Digital, MarketScreener(S&P 소프트웨어·서비스 지수 단일 세션 약 $285B 증발, 2026년 1~2월)
· 일자리 예측·반박: Axios(2025.05 '화이트칼라 유혈사태'), Fortune·TechSpot·Business Insider(젠슨 황 비바테크 2025 반박)
· 스케일링 법칙·창업 경위·미토스: 인터뷰 전사 및 공개 보도 종합
본문 수치는 보도 시점 기준이며, 비공개 라운드·런레이트는 추정치가 포함될 수 있다.