jacobhan.me

AI 산업 분석

토큰맥싱 논쟁 — AI 경쟁의 무대가 '모델'에서 '운영'으로 옮겨가는 이유

2026년 6월 16일 · 약 14분 분량

실리콘밸리에 최근 토큰맥싱(tokenmaxxing)이라는 신조어가 돌고 있다. 직역하면 '토큰을 최대한 태우기'다. 칭찬이 아니다. AI 모델을 만들어 파는 회사들이 고객의 실제 성과보다 토큰 사용량을 늘리는 방향으로 움직이는 것 아니냐는 비판이 담긴 말이다. 이 한마디는 지난 몇 년간 '누가 더 똑똑한 모델을 만드느냐'에 쏠려 있던 AI 경쟁의 질문이 바뀌고 있음을 보여준다.

이 용어를 무대 위로 끌어올린 사람은 한 기업용 소프트웨어 회사의 최고경영자였다. 그의 요지는 단순하다. 기업들은 AI를 정말 많이 쓰고 있는데, 정작 돈이 되는 결과는 잘 보이지 않는다. 그런데 모델 회사들의 사업 구조는 고객이 토큰을 더 많이 쓸수록 매출이 늘어나는 형태다. 그렇다면 지금의 AI는 기업의 진짜 문제를 푸는 쪽으로 가고 있는가, 아니면 점점 더 많은 토큰을 태우게 만드는 쪽으로 가고 있는가.

장면 자체에도 묘한 데가 있었다. 그가 이 비판을 던진 무대 가운데 하나가, 2026년 4월 한 모델 회사가 인수한 테크 토크쇼였다. 비판의 대상이 소유한 방송에서 그 대상을 정면으로 겨냥한 셈이다. 이 글은 그 한 장면을 출발점으로, 토큰이 왜 돈이 되는지부터 시작해 AI 산업의 다음 전선이 어디로 옮겨가고 있는지를 차근히 따라간다. 핵심 질문은 하나로 모인다. "이 AI가 그럴듯한 답을 잘 내놓느냐"가 아니라, "이 AI가 실제 조직의 의사결정과 비용을 바꾸느냐"이다.


1토큰은 무엇이고, 왜 돈이 되는가

고급 AI 모델을 써본 사람이라면 한 번쯤 경험한다. 뭔가 대단한 작업을 한 것 같지도 않은데 사용량이 빠르게 차오르는 느낌. 개인은 "생각보다 빨리 쓰네" 정도로 넘기지만, 기업은 같은 일을 훨씬 큰 규모로 겪는다.

AI 모델은 우리가 넣는 문장과 모델이 내놓는 문장을 작은 조각으로 쪼개 처리한다. 이 조각이 토큰(token)이다. 대략 영어 단어 4분의 3개, 한국어로는 한두 글자 안팎이 한 토큰에 해당한다. 모델 회사의 응용프로그램 인터페이스(API, Application Programming Interface)는 보통 이 토큰 단위로 과금한다. 입력한 만큼 돈이 들고, 모델이 답을 길게 만들수록 또 돈이 든다. 게다가 모델이 만들어내는 출력 토큰은 우리가 집어넣는 입력 토큰보다 통상 몇 배 비싸다. 모델이 길게 떠들수록 청구서도 길어지는 구조다.

토큰이 돈이 되는 이유는 그 안에 실제 연산 비용이 담겨 있기 때문이다. 오늘날 주류인 트랜스포머(Transformer) 계열 모델은 입력된 토큰들이 서로 얼마나 관련 있는지를 따지는 어텐션(attention) 연산을 수행한다. 전통적인 구조에서는 이 계산량이 입력 길이의 제곱에 비례해 늘어난다. 입력이 두 배로 길어지면 계산은 네 배가 되는 식이다. 긴 문서를 통째로 집어넣을수록 연산 비용이 빠르게 불어난다.

답변을 만들어내는 과정도 만만치 않다. 모델은 토큰 하나를 뱉을 때마다 거대한 신경망을 한 번씩 통과해 다음 토큰을 예측한다. 글자 한 조각마다 그래픽처리장치(GPU, Graphics Processing Unit) 연산이 들어가고, 메모리와 프로세서 사이를 오가는 데이터 이동도 일어난다. 결국 토큰 하나는 단순한 글자 조각이 아니라, 연산 비용과 전력 비용을 담은 단위다.

입력 토큰 상대적으로 저렴 모델 연산 어텐션 · 신경망 통과 출력 토큰 보통 몇 배 비쌈 청구서 = (입력량 × 단가) + (출력량 × 더 높은 단가) — 길게 답할수록 커진다
토큰 과금의 기본 구조. 입력보다 출력이 비싸고, 모델이 길게 답할수록 비용이 늘어난다.
비유로 이해하기 — 수도 계량기

토큰 과금은 수돗물이나 전기 요금과 닮았다. 많이 쓰면 많이 내고, 적게 쓰면 적게 낸다. 그 자체로 이상한 구조는 아니다. 클라우드 서버도 사용량만큼 청구되고, 전기도 많이 쓰면 요금이 오른다.

다만 차이가 하나 있다. 수돗물은 '얼마나 썼는가'와 '집안일이 얼마나 끝났는가'가 대체로 비례한다. 그런데 AI 토큰은 많이 태운다고 해서 회사 일이 그만큼 풀렸다는 보장이 없다. 바로 이 틈에서 토큰맥싱 논쟁이 시작된다.

모델 회사들이 무조건 낭비를 부추긴다고 보는 것은 단순하다. 같은 내용을 반복해 넣을 때 비용을 깎아주는 캐싱(caching), 급하지 않은 작업을 묶어 싸게 처리하는 배치(batch) 처리, 더 저렴한 경량 모델, 질문 난이도에 따라 모델을 골라 쓰는 라우팅(routing) 같은 비용 절감 장치를 함께 판다. 기술 쪽에서도 플래시 어텐션(FlashAttention), 키-값 캐시(KV cache), 희소 어텐션(sparse attention), 전문가 혼합(MoE, Mixture of Experts) 같은 최적화가 계속 나와 토큰당 단가 자체를 끌어내리고 있다. 게다가 기업 문제가 복잡할수록 더 많은 문맥과 추론이 필요해 토큰이 자연스럽게 늘어나는 측면도 분명히 있다.


2'많이 쓰는 것'과 '돈을 버는 것'은 다른 이야기

그런데도 비판이 찌른 지점은 따로 있다. 토큰 사용량이 늘어나는 것을 마치 생산성이 올라가는 것처럼 착각하게 되는 상황이다. 회사 안에서 AI는 하루 종일 돌아간다. 보고서 초안을 만들고, 코드를 짜고, 회의록을 요약하고, 사내 문서를 검색한다. 겉으로는 무척 혁신적인 일을 하고 있는 것처럼 보인다.

그런데 재무팀의 질문은 단순하다. 그래서 매출이 늘었나, 비용이 줄었나, 제품 출시가 빨라졌나, 고객 대응이 좋아졌나. AI를 많이 쓰는 것과 AI로 돈을 버는 것은 별개의 문제다. 비판의 핵심은 바로 여기였다.

이건 한 사람의 주장만은 아니다. 시장조사기관 가트너(Gartner)의 조사에서, AI 활용 사례 가운데 투자수익률(ROI, Return on Investment) 기대치를 충족한 비율은 28%에 그쳤다. 모델 회사 쪽도 문제의식을 일부 공유한다. 한 대표적인 모델 회사의 최고경영자 역시 높은 비용이 기업 고객에게 심각한 문제라는 점을 공개적으로 인정한 바 있다. 일부 기업은 한 해 AI 예산을 회계연도 초반에 다 태워버리기도 한다. 즉 'AI에 돈은 쓰는데 성과가 잘 안 보인다'는 진단 자체는, 비판하는 쪽도 비판받는 쪽도 어느 정도 공유하고 있는 셈이다.

28%
ROI 기대치를 충족한 AI 활용 사례 비율 (가트너 조사)
"심각한 문제"
높은 비용에 대한 모델 회사 경영진의 공개 인정
비유로 이해하기 — 클라우드와 ERP의 교훈

이 장면은 과거 클라우드 산업 초창기를 떠올리게 한다. 그때도 비슷한 착각이 있었다. 서버를 직접 사지 않고 외부에서 컴퓨팅 자원을 빌려 쓰면, 그것만으로 회사가 저절로 디지털 전환되는 것처럼 보였다. 하지만 진짜 변화는 컴퓨팅 사용량이 늘어난 데서가 아니라, 회사의 응용프로그램 구조·데이터 흐름·배포 방식·보안 체계가 클라우드에 맞게 바뀔 때 나왔다.

기업자원관리(ERP, Enterprise Resource Planning) 시스템도 마찬가지였다. 데이터베이스를 가졌다고 회사 운영이 자동으로 좋아진 것은 아니다. ERP가 의미를 가졌던 건 주문·재고·회계·생산·구매라는 흩어진 업무를 하나의 흐름으로 묶어줬기 때문이다. AI도 같은 구간에 들어서고 있다. 토큰을 많이 쓰는 것만으로는 부족하다. 그 토큰이 어떤 업무를 바꾸고, 어떤 의사결정을 빠르게 하고, 어떤 비용을 줄였는지가 관건이다.


3모델은 엔진이다. 그러나 엔진만으로는 굴러가지 않는다

여기서 한 가지 구분이 중요해진다. AI 모델은 똑똑한 계산 엔진에 가깝다. 그런데 기업은 엔진만 사서는 움직이지 못한다. 핸들, 브레이크, 계기판, 도로 규칙, 정비 시스템이 모두 갖춰져야 실제로 굴러간다. 일반적인 챗봇은 질문을 받으면 답을 한다. 하지만 기업 업무에서는 답만으로는 부족하다.

예를 들어 "이 고객의 주문이 지연될 것 같습니다"라는 답변만으로는 일이 되지 않는다. 지연의 원인이 부품 부족인지, 대체 공급처가 있는지, 영업팀에 알릴지, 생산 계획을 바꿔야 할지까지 이어져야 한다. 그리고 그 행동을 누가 승인하는지, 어떤 권한이 필요한지, 어떤 기록을 남기는지가 전부 연결돼야 기업에서 쓸 수 있다. 이 '받쳐주는 층'을 흔히 운영 레이어(operating layer)라 부른다.

실행 가능한 의사결정 ↑ 모델 (엔진) 추론 · 생성 · 코딩 — 강력하지만 확률적 운영 레이어 (차체·핸들·브레이크) 데이터 연결 권한 · 감사 업무 흐름 · 액션 사람의 검토 배포 · 운영 · 롤백 흩어진 기업·기관 데이터 (도로) 엔진이 아무리 좋아도, 차체와 도로가 없으면 차는 움직이지 않는다.
모델(엔진)과 운영 레이어(차체)의 관계. 모델 회사들은 위쪽 한 층을, 운영 소프트웨어 회사들은 그 아래 여러 층을 겨냥한다.

지난 몇 년의 AI 경쟁이 '엔진'의 성능을 다투는 싸움이었다면, 이제는 그 엔진을 실제 조직 안에서 굴러가게 만드는 '차체'를 놓고 경쟁 구도가 형성되고 있다. 토큰맥싱 비판을 던진 회사가 바로 이 운영 레이어를 자신들의 차별점이라 주장하는 곳이다.


4운영 레이어를 파는 회사는 무엇을 파는가

이 비판의 주인공 회사는 프런티어 모델 자체를 만드는 곳이라기보다, 기업과 정부가 가진 복잡한 데이터를 실제 의사결정과 업무 실행에 연결하는 소프트웨어 플랫폼 회사에 가깝다. 주력 제품군은 크게 넷으로 나뉜다. 데이터 운영 플랫폼, 정부·국방용 플랫폼, AI 플랫폼, 배포·운영 플랫폼이다. 이를 하나씩 풀어보면 '운영 레이어'라는 개념이 구체적으로 손에 잡힌다.

① 데이터 운영 플랫폼 — '온톨로지'가 핵심

첫 번째는 주로 민간 기업용이다. 제조·에너지·물류·금융처럼 데이터가 많고 운영이 복잡한 조직에서 쓰인다. 여기서 가장 자주 등장하는 개념이 온톨로지(ontology)다. 말은 어렵지만, 쉽게 보면 회사 안의 현실 세계를 소프트웨어 안에 다시 그려 넣은 지도 같은 것이다. 공장·장비·제품·주문·고객·계약·재고·운송 경로를 제각기 흩어진 데이터로 두지 않고, 서로 연결된 '업무 객체'로 만든다. 단순한 데이터 표나 저장소가 아니라, 업무 객체들과 그 관계를 통째로 모델링한 디지털 트윈(digital twin)에 가깝다.

비유로 이해하기 — 항공사의 연결된 지도

한 항공사를 떠올려 보자. 비행기 데이터, 부품 재고, 정비 일정, 승무원 배치가 각기 따로 놀고 있다면, AI가 아무리 똑똑해도 할 수 있는 일은 제한적이다.

그런데 이 데이터들이 연결돼 있다면 이야기가 달라진다. '이 항공기는 어떤 부품을 쓰고, 그 부품은 어느 창고에 있고, 다음 정비는 언제고, 이 편이 지연되면 어떤 승객·노선에 영향을 주는가'까지 한 번에 이어진다. 그러면 AI는 단순히 답을 생성하는 데서 그치지 않고, 운영 상황 전반을 이해한 채 다음 행동을 제안할 수 있다.

이 플랫폼의 차별점은 데이터를 예쁘게 모아두는 데서 끝나지 않는다는 점이다. 재고를 늘린다, 생산 순서를 바꾼다, 정비를 앞당긴다, 위험 거래를 검토한다 — 이런 행동을 누가 승인하고, 어떤 권한이 필요하고, 어떤 기록을 남기는지까지 연결한다. 실제로 2026년 6월 열린 제품 콘퍼런스에서는 한 미국 대형 건설사가 회사 전체를 잇는 AI 운영 체계를 이 플랫폼으로 구축하겠다고 밝혔고, 멕시코 최대 보험사 한 곳은 보험 사기 탐지와 청구 처리에 이를 확대 적용하기로 했다. 추상적 데이터 연결이 아니라 실제 공정과 보험 업무 안으로 들어와 있는 사례들이다.

② 정부·국방용 플랫폼 — 사람이 결정 과정에 남는다

두 번째는 이 회사의 뿌리에 가까운 제품으로, 정부·국방·정보·치안·안보처럼 민감하고 위험이 큰 영역에서 쓰인다. 위성·센서·현장 보고·작전 계획, 때로는 사람의 목숨까지 얽힌다. 이 플랫폼의 특징은 단순한 검색 도구가 아니라, 사람이 판단해야 하는 복잡한 상황을 하나의 작전 화면 안에서 다루도록 설계됐다는 점이다.

여기서 강조되는 것이 사람의 개입(human in the loop), 즉 사람이 의사결정 과정에 남아 있는 구조다. 국방·정보 영역에서 AI가 내놓은 결과를 그대로 실행하는 건 위험할 수 있다. 그래서 데이터의 출처, 접근 권한, 판단 과정, 누가 어떤 결정을 내렸는지가 무엇보다 중요하다. 이런 영역에서 강한 이유는 기술 하나보다, 복잡하고 민감한 조직 안에서 소프트웨어를 작동시켜 본 경험에 있다. 데이터를 연결하는 일도 어렵지만, 그 데이터를 누가 어디까지 볼 수 있는지 통제하는 일은 훨씬 더 어렵다.

③ AI 플랫폼 — 모델을 데이터·업무 흐름 위에 올린다

세 번째가 요즘 가장 주목받는 제품, 즉 AI 플랫폼이다. 이를 그냥 기업용 챗봇으로 이해하면 안 된다. 핵심은 거대언어모델(LLM, Large Language Model)을 기업 데이터와 업무 흐름 위에 올리는 것이다. 어느 모델 회사의 모델을 가져다 써도 되고, 다른 모델을 써도 된다. 중요한 건 모델 자체가 아니라, 그 모델이 앞서 본 온톨로지와 연결된다는 점이다.

여기서 이 회사의 입장이 분명히 드러난다. 특정 모델 회사에 묶이는 것을 경계한다. 실제로 같은 6월 콘퍼런스에서 한 대형 클라우드 사업자와 손잡고 그 회사의 모델을 AI 플랫폼에 직접 연결하고, 데이터 분석 도구와 양방향으로 데이터를 주고받는 통합을 발표했다. 한 부품·전력 기업 사례에서는 이 조합으로 엔지니어링 문서를 운영 자산으로 바꿔 견적 생성을 빠르게 하는 워크플로가 가동되고 있다. 최고경영자의 표현을 빌리면, 어떤 모델이든 가져다 쓸 수 있다, 문제는 그것을 누가 실제 환경에서 운영하고 보안 패치까지 하느냐다.

이 플랫폼이 말하는 '에이전트(agent)'는 채팅창 안에서 말을 잘하는 챗봇이 아니다. ERP, 공급망 시스템, 생산관리·고객관리 시스템과 연결돼, 정해진 권한 안에서 실제 작업을 수행하는 소프트웨어 작업자에 가깝다. 가령 "다음 주 생산 차질 위험을 찾아줘"라는 요청이 오면, AI가 관련 데이터를 살펴 위험 부품을 찾고 대응 시나리오를 제안하면, 담당자가 승인하고 실제 워크플로로 넘기는 구조다. 이 구조에서는 AI가 헛소리를 안 하는 것도 중요하지만, 더 중요한 건 AI가 아무 행동이나 하지 못하도록 통제하는 것이다. 기업에 필요한 건 자유로운 상상력이 아니라 통제된 실행 능력이기 때문이다.

④ 배포·운영 플랫폼 — 화려한 데모 뒤를 받친다

마지막은 상대적으로 덜 화려하게 들리지만 제품군 안에서 중요한 역할을 한다. 이 회사 소프트웨어를 여러 환경에 안정적으로 배포하고 업데이트하는 플랫폼이다. 기업·기관용 소프트웨어는 소비자 앱처럼 "업데이트 끝!"으로 마무리할 수 없다. 어떤 고객은 퍼블릭 클라우드에, 어떤 고객은 자체 데이터센터에, 어떤 고객은 외부망과 분리된 보안 환경에 있다. 이런 곳에 AI와 데이터 플랫폼을 넣으려면, 서비스가 멈추지 않으면서도 보안 패치를 적용하고 규정을 지키며 문제가 생기면 되돌릴(rollback) 수 있어야 한다. 화려한 AI 데모 뒤에서 실제 고객 환경의 소프트웨어를 계속 굴러가게 만드는 기반이다.

① 데이터 운영 플랫폼 민간 기업의 복잡한 데이터를 '업무 객체(온톨로지)'로 연결 ② 정부·국방 플랫폼 고위험 의사결정을 다루며 사람의 개입을 핵심에 둔다 ③ AI 플랫폼 ①·② 위에 LLM과 에이전트를 올린다 (모델은 갈아 끼울 수 있다) ④ 배포·운영 플랫폼 위 모든 소프트웨어를 복잡한 고객 환경에 배포·운영·롤백
네 제품을 겹쳐 보면 한 가지 메시지가 선명해진다. "우리는 모델 하나를 파는 회사가 아니라, 모델이 실제 조직에서 작동하게 만드는 운영 레이어를 판다."

5비판은 제품 철학과 맞닿아 있다 — 그리고 광고이기도 하다

이렇게 보면 토큰맥싱 비판은 단순한 감정 싸움이 아니다. 비판자의 제품 철학과 정확히 연결돼 있다. 모델 회사들의 사업은 기본적으로 모델 사용량이 커질수록 매출이 늘어나는 구조다. 고객이 더 많이, 더 길게 묻고 더 많은 답을 받을수록 토큰 사용량이 는다. 반면 기업 고객에게 토큰 사용량은 곧 비용이다. 그 비용이 실제 성과로 바뀌면 괜찮지만, 업무 프로세스가 그대로라면 사용량만 늘고 회사 운영은 크게 달라지지 않는다. 비판자는 바로 그 틈을 파고든다. "AI를 많이 쓰게 해주는 것"이 아니라 "AI가 회사 안에서 곧장 행동 가능한 결과를 만들게 하는 것"이 중요하다는 프레임이다.

다만 냉정하게 짚을 대목이 있다. 이 비판은 동시에 자기 회사 광고이기도 하다. 모델 회사들이 토큰만 태운다는 말이 설득력을 얻을수록, 그 토큰을 실제 성과로 바꿔준다고 주장하는 회사의 가치가 올라간다. 정수기 파는 사람이 "수돗물은 그냥 마시면 안 됩니다"라고 말하는 것과 비슷하다. 진단 자체는 맞을 수 있지만, 그 진단이 곧 자기 상품의 광고라는 점은 기억해 둘 필요가 있다.

그럼에도 진단이 틀린 것은 아니다. 모델이 아무리 똑똑해도 데이터 연결·권한 관리·업무 프로세스·감사 체계가 받쳐주지 않으면, 기업 안에서는 제한적으로 움직일 수밖에 없다. 거대언어모델은 본질적으로 확률적(probabilistic)이다. "절반보다 조금 나은" 정확도는 투자 판단에는 쓸모가 있어도, 부품 하나가 정확히 맞아야 하거나 사람의 안전이 걸린 임무처럼 실수 비용이 큰 작업에는 그대로 적용하기 어렵다. 비판자가 팔겠다는 것은 바로 그 빈틈을 메우는 층이다.


6그러나 운영 레이어도 만능은 아니다

운영 레이어 방식에도 분명한 약점이 있다.


7경쟁이자 협력 — 얽히고설킨 좁은 동네

가장 흥미로운 지점은 이 싸움이 깔끔한 적대 관계가 아니라는 데 있다. 비판자는 한 인터뷰에서, 한 모델 회사가 공개적으로 이야기하는 프로젝트 상당수가 자기 회사 플랫폼 위에서 돌아간다고 주장했다. 어디까지나 그의 주장이라는 점은 감안해야 한다. 다만 공개적으로 확인되는 사실이 하나 있다. 이 두 회사는 미국 정부·국방 환경에서 한 모델을 안전하게 배포하기 위한 파트너십을 맺어 왔다. 그 모델은 이 파트너십을 통해 기밀 네트워크에 배치된 첫 주요 모델이 됐다.

그림은 이렇게 된다. 운영 레이어 회사는 모델 회사를 비판하면서, 동시에 그 모델들을 자기 플랫폼 위에 올린다. 모델 회사들은 이 회사와 경쟁하면서도, 고객 환경에서는 협력한다. 그리고 그 비판은 하필 한 모델 회사가 인수한 방송에서 나왔다. 서로 비판하고, 서로의 위에서 돈을 벌고, 같은 무대에서 손을 잡았다 놓기를 반복하는 — 좁고 얽히고설킨 동네라는 사실을 이 장면이 잘 보여준다. 관계가 얼마나 유동적인지는, 한때 긴밀히 협력하던 영역에서도 정책 변화에 따라 거래가 단절되거나 재편되는 사례가 나온다는 점에서도 드러난다.

모델 회사 강력한 모델 (엔진) 토큰 단위 과금 운영 레이어 회사 데이터·권한·업무 흐름 (차체) 성과 단위 가치 주장 비판 · 경쟁 협력 (국방·고객 환경에서 모델 탑재) 한쪽이 완전히 맞고 다른 쪽이 완전히 틀린 구도가 아니다 — 서로 다른 층을 맡고 있다.
모델 회사와 운영 레이어 회사의 관계. 비판과 경쟁, 그리고 협력이 동시에 일어난다.

오해하면 안 되는 점이 있다. 이 이야기가 모델 회사들의 시대가 끝났다는 뜻은 아니다. 좋은 모델은 계속 중요하다. 복잡한 추론·코딩·연구 분석에서는 강한 모델의 가치가 분명하다. 운영 레이어가 아무리 좋아도 그 위에 올라가는 모델이 약하면 할 수 있는 일이 줄어든다. 결국 둘은 한쪽만으로는 부족하고 서로를 필요로 한다. 모델은 점점 더 강력한 엔진을 향해 가고, 운영 레이어는 그 엔진을 조직의 실제 업무에 붙이는 일을 맡는다. 서로 다른 층을 담당하는 셈이다.


8다음 전선은 '돈값'의 증명

모델 회사들도 이 비판을 모르지 않는다. 오히려 경량 모델과 추론 최적화로 토큰 단가를 공격적으로 끌어내리며 정면 돌파하고 있다. 추론 비용은 해마다 빠르게 떨어진다. 다만 단가가 내려가도 모델이 좋아질수록 사람들은 더 많이 쓰게 되므로, 전체 청구서는 오히려 더 큰 숫자를 담을 수도 있다. 그래서 관건은 단순히 더 좋은 모델을 내느냐가 아니라, 기업이 그 비용을 예측하고 통제할 수 있게 만드느냐로 옮겨간다. 그렇지 못하면 기업 고객은 자연히 "이게 진짜 돈값을 하고 있는가"를 따지게 된다.

앞으로 모델 회사에서 볼 것

기업 고객에게 어떤 가격 구조와 어떤 비용 관리 도구를 제공하는가.

단가 인하만이 아니라, 비용을 예측·통제 가능하게 만드는 장치를 얼마나 갖추는가.

앞으로 운영 레이어 회사에서 볼 것

데모가 아니라 실제 업무에서 얼마나 많은 결정을 바꾸는가, 도입 기간은 얼마인가.

고객이 계속 비용을 낼 의향이 있는가, 개인정보·책임·보안 문제를 얼마나 잘 통제하는가.

지난 몇 년의 AI 경쟁이 '누가 더 똑똑한 모델을 만드느냐'의 싸움이었다면, 앞으로의 경쟁은 '그 모델을 누가 실제 조직 안에서 잘 굴리느냐'의 싸움이 될 가능성이 크다. 토큰맥싱이 단순한 유행어가 아닌 이유가 여기 있다. 그것은 AI 산업의 무대가 챗봇 창 안에서 기업의 데이터·권한·실제 업무 흐름으로 옮겨가고 있다는 신호다. 모델은 엔진이지만, 기업이 돈을 버는 곳은 실제 도로 위다. 모델은 앞으로도 계속 좋아질 것이다. 그러나 기업 AI의 승부는 결국 그 모델을 얼마나 책임 있게, 그리고 돈이 되는 방식으로 굴리느냐에서 갈린다.