'적의 적은 동지'의 이론적 지위 — 균형이론의 정의와 게임이론의 계산이 내놓는 서로 다른 답

공동의 적이 동맹을 만든다는 말은 게임이론의 결론처럼 인용되곤 한다. 그러나 이 명제의 출처는 사회심리학의 균형이론이며, 그곳에서 그것은 증명된 정리가 아니라 균형이라는 낱말의 정의에 이미 들어 있는 항목이다. 이익 계산으로 같은 명제를 다시 세우면 성립 조건이 좁아지고, 예측되는 판도도 달라진다.

2026년 8월 27일

두 나라 건너의 왕이 벗인 이유

고대 인도의 통치술 문헌 『아르타샤스트라』는 정복을 꾀하는 왕(비지기슈)을 한가운데 놓고 주변 왕국들을 동심원으로 배열한다. 만달라, 곧 '왕들의 원'이라 불리는 이 배치에서 각 왕국의 지위는 위치가 정한다. 힘도 성향도 셈에 넣지 않는다.

tasya samantato maṇḍalībhūtā bhūmyanantarā ariprakṛtiḥ. tathaiva bhūmyekāntarā mitraprakṛtiḥ.

타스야 사만타토 만달리부타 부먀난타라 아리프라크리티히 / 타타이바 부먀에칸타라 미트라프라크리티히

그를 사방에서 둘러싸 원을 이루며 땅이 맞닿아 있는 것이 적(敵)이라는 구성 요소다. 마찬가지로 땅 하나를 사이에 두고 떨어져 있는 것이 벗(友)이라는 구성 요소다.

카우틸랴, 『아르타샤스트라』 6권 2장 14~15절 (R. P. 캉글레 교정본 계열 산스크리트 본문)

번역에서 망설인 낱말은 프라크리티(prakṛti)다. 이 말은 '본성'으로도 '구성 요소'로도 옮길 수 있는데, 여기서는 왕국을 이루는 일곱 요소를 세는 문맥이므로 '구성 요소'를 택했다. 요점은 다른 데 있다. 적과 벗을 나누는 기준은 땅이 맞닿았느냐 하나 건너 있느냐다. 인접한 왕은 영토를 다투므로 적이고, 그 적과 인접한 왕은 자동으로 벗이 된다. 오늘날 "적의 적은 동지"라 줄여 부르는 말의 가장 이른 체계적 형태이고, 처음부터 이 말은 배치의 함수였다.

이 격언은 지금도 자주 인용된다. 문제는 인용되는 방식이다. 어떤 동맹이 왜 성립했는지를 설명하면서 "게임이론적으로 당연하다"고 덧붙이는 문장을 자주 보게 되는데, 그 말은 이 명제가 합리적 행위자의 보수 계산에서 도출된 정리라는 뜻을 함축한다. 실제로 그런 정리가 있는지, 있다면 어떤 조건에서 성립하는지를 따져 볼 만하다.

하이더가 부호 셋의 곱으로 만든 정의

이 명제를 학문의 언어로 옮긴 사람은 사회심리학자 프리츠 하이더였다. 1946년 『저널 오브 사이콜로지』에 실린 여섯 쪽짜리 논문에서 하이더는 사람 p가 대상 o에 대해 갖는 태도를 양(L) 또는 음(~L)으로 표기하고, 이 부호들이 서로 어긋나면 긴장이 생겨 어느 하나가 바뀐다고 보았다. 어긋나지 않은 상태를 그는 '균형(balance)'이라 불렀다.

세 사람이 얽힌 경우에 대해 하이더가 내린 결론은 이렇다. 세 관계가 모두 양이거나, 둘이 음이고 하나가 양이면 균형이다. 뒤쪽 경우에 그가 붙인 예시는 짧고 정확하다. 자기가 싫어하는 것을 없애 준 사람을 좋아하게 된다는 것. 부호로 쓰면 (−)(−)(+)이고, 곱하면 양수다. "적의 적은 동지"는 바로 이 항목이다.

여기서 눈여겨볼 대목은 하이더가 이 결론에 이른 경로다. 그는 태도 관계 L과 단위 관계 U를 같음(=) 관계처럼 다룰 수 있다고 가정하고, 세 항 사이에 같음/다름을 모순 없이 배정하는 경우를 나열했다. 그 형식적 나열에는 셋이 모두 음인 삼각형도 포함된다. 그런데 하이더는 그것을 최종 정의에서 뺐다. 심리적 균형이라 하기에는 너무 미정이라는 이유였다. 즉 (−)(−)(+)가 균형이라는 진술은 형식적 유비에 심리학적 판단을 하나 더해 정의로 확정한 항목이다. 관찰된 규칙이 아니라 미리 정해 둔 규약이다.

규약으로 확정하고 나면 결과가 뒤따른다. 수학자 프랭크 해러리는 1953년 『미시간 매서매티컬 저널』에 실은 부호 그래프 논문에서 다음을 증명했다. 모든 삼각형이 균형인 연결망은 꼭짓점을 두 덩어리로 나눌 수 있고, 덩어리 안의 관계는 전부 양, 덩어리 사이의 관계는 전부 음이 된다. 하이더의 국소 규칙 하나가 세계 전체의 모양을 지정해 버린다. 도윈 카트라이트와 해러리는 1956년 『사이콜로지컬 리뷰』에서 이 착상을 개인의 인지를 넘어 통신망·권력 구조·사회 측정 자료 전반으로 확장할 수 있다고 제안했고, 그 뒤로 이 틀은 '구조적 균형'이라는 이름으로 굳었다.

남은 자리는 셋이 모두 적인 삼각형이다. 하이더가 미정이라며 뺀 이 경우를 사회학자 제임스 데이비스가 1967년 『휴먼 릴레이션스』에서 되살렸다. 실제 집단에서 서로 적대하는 세 파벌이 드물지 않다는 것이 이유였다. 이 하나를 허용하면 결론이 달라진다. 데이비스가 증명한 조건은 음의 관계를 하나만 품은 순환이 없어야 한다는 것이고, 이때 연결망은 두 진영 대신 여러 개의 상호 적대적 군집으로 나뉜다. 같은 격언을 지키면서도 세계가 양극이 되느냐 다극이 되느냐가, 삼중 적대 하나를 넣느냐 빼느냐로 정해진다. 격언이 확정하는 것은 생각보다 적다.

실험이 지운 세 가지가 곧 게임이론의 재료다

심리 층위에서 이 명제는 실증된다. 엘리엇 아론슨과 버넌 코프는 1968년 『저널 오브 퍼스낼리티 앤드 소셜 사이콜로지』에 실험 하나를 보고했다. 텍사스대학교 심리학 개론 수강생 80명(남녀 각 40명)을 창의성 연구라 속여 부른 뒤, 실험자가 참가자를 냉랭하게 대하거나 부드럽게 대하도록 하고, 이어서 그 실험자가 상급자에게 혹독하게 질책당하거나 극찬받는 대화를 참가자가 문틈으로 듣게 했다. 두 조건을 교차한 2×2 설계다. 종속 변인으로는 태도 척도 대신 행동을 썼다. 실험이 끝난 뒤 학과 비서가 그 상급자를 대신해 전화를 몇 통 걸어 줄 수 있겠느냐고 물었고, 자원한 통화 수를 셌다.

결과는 뚜렷했다. 자신에게 혹독했던 실험자를 질책한 상급자, 즉 적의 적을 위해서는 평균 12.1통을 자원했고, 같은 실험자를 칭찬한 상급자, 즉 적의 친구를 위해서는 6.2통에 그쳤다. 반대쪽도 대칭이었다. 자신에게 부드러웠던 실험자를 칭찬한 상급자에게는 13.5통, 질책한 상급자에게는 6.3통. 상호작용은 유의했고(p<.005), 상급자의 행동 자체나 실험자의 행동 자체에 따른 주효과는 없었다. 결과를 만든 것은 조합이었다.

이 통제 목록이 논의의 방향을 정한다. 막아 놓은 세 가지는 태도의 유사성, 상대가 나를 편들었다는 인식, 함께 도모해서 얻을 실익이다. 이익 계산이 동맹을 설명할 때 쓰는 재료가 바로 그 셋이다. 셋을 다 치웠는데도 효과가 남았다면 남은 것은 전략적 계산일 수 없다. 이 실험이 뒷받침한 명제는 공동의 적이 있으면 협력하는 편이 이롭다는 쪽이 아니다. 내 적이 당하는 꼴을 보는 것 자체가 기분 좋고 그 기분이 제3자에 대한 호감으로 옮아간다는 쪽에 가깝다. 격언을 뒷받침하는 가장 깨끗한 증거가 하필 전략적 이유를 모두 제거한 조건에서 얻어졌다는 점은, 그 격언이 어느 층위에 속하는지를 말해 준다.

이익으로 다시 세우면 동맹을 만드는 힘이 바뀐다

그렇다면 이익 계산 쪽에서 같은 결론에 도달할 수 있는가. 티모 힐러가 2017년 『시어리티컬 이코노믹스』에 실은 모형이 이 물음을 정면으로 다룬다. 스스로 밝히기로 부호 연결망 형성을 다룬 최초의 게임이론 모형이다. 설정은 단순하다. 각 참가자는 나머지 모두에게 우호(+)와 적대(−) 중 하나를 내민다. 양쪽이 다 우호를 내밀면 동맹이 되고, 동맹은 힘을 보탠다. 한쪽이라도 적대를 내밀면 적대 관계가 성립하며, 이때 힘이 센 쪽이 약한 쪽에게서 무언가를 뜯어낸다. 뜯어내는 양은 내 힘이 클수록 커지고 상대의 힘이 클수록 작아진다. 적대를 거는 데는 비용이 들고, 우호 관계 자체에서 직접 얻는 것은 없다.

결과는 균형이론과 겹친다. 순수 전략 내시균형, 곧 아무도 혼자 전략을 바꿔서는 이득을 볼 수 없는 상태는 모두 약한 의미의 구조적 균형을 만족한다. 전원이 우호이거나, 참가자들이 여러 파벌로 나뉘어 파벌 안은 우호, 파벌 사이는 적대가 된다. 격언이 게임이론의 기초를 얻은 대목이다.

그런데 균형을 만들어 내는 힘이 무엇인지를 보면 이야기가 달라진다. 모형에서 강자들이 서로 편을 맞추는 이유는 미워하는 대상을 공유해서가 아니다. 뜯어낼 수 있는 양이 상대의 힘에 반비례하기 때문에, 누구를 뜯을지 서로 맞춰 놓으면 그 대상이 더 약해지고 각자의 몫이 커진다. 공동의 적이 동맹을 만드는 것이 아니라, 공동의 먹잇감이 동맹을 만든다. 힐러 자신도 이 모형을 학교 폭력에 빗대어 설명한다. 그리고 이 해석은 검증 가능한 형태로 되돌아온다. 뜯어내는 양을 상대의 힘과 무관한 상수로 바꾸면 조정 유인이 사라지고, 구조적 균형을 만족하지 않는 내시균형이 실제로 나타난다.

더 걸리는 대목은 어느 균형이 살아남느냐다. 내시균형은 여럿이고 서로 파레토 서열을 매길 수도 없다. 어느 균형이 다른 균형보다 모두에게 낫다고 말할 방법이 없다. 여기에 집단 이탈까지 허용하는 강내시균형, 곧 어떤 참가자 무리도 함께 전략을 바꿔 전원의 이득을 늘릴 수 없는 상태를 적용하면 답이 하나로 좁혀지는데, 그 답이 두 진영의 대치가 아니다. n−1명이 뭉쳐 한 명을 뜯는 배치가 유일한 강내시균형이다. 여러 파벌이 공존하려면 파벌 규모가 최소 두 배씩 커져야 한다는 조건도 붙는다. 세상을 두 진영으로 나누는 그림은 이 계산에서 특별히 안정적인 자리가 아니다. 총합이 가장 큰 배치는 전원이 우호인 상태이고, 적대는 순수한 비용이다.

이해가 실제로 겹치지 않을 때는 어떻게 되는가. 데이비드 리츠케와 브라이언 로버슨은 2013년 『소셜 초이스 앤드 웰페어』에서 세 참가자를 놓되, 둘이 제3자와 서로 겹치지 않는 전선에서 따로따로 싸우도록 설계했다. 공동의 적은 있지만 공동의 이익은 없는 구도다. 확률형 승패 함수를 쓰면 이 상황에서도 두 참가자가 싸우기 전에 자원을 옮겨 주며 동맹할 유인이 생기는 구간이 존재한다. 다만 저자들이 붙인 표현은 신중하다. 그런 구간이 있다는 것이지 언제나 그렇다는 것이 아니며, 결과는 부분적인 강건성이다. 성립하되 파라미터 창 안에서만 성립한다.

이긴 다음까지 시야를 넓히면 부호 하나로 관계를 적는 방식 자체가 흔들린다. 창샤 커, 카이 콘라트, 플로리안 모라트가 2013년 『게임스 앤드 이코노믹 비헤이비어』에 보고한 실험은 동맹이 외부의 적을 이긴 뒤 전리품을 두고 서로 다투는 구조를 실험실에 올렸다. 세 가지가 관찰됐다. 반복 상호작용도 대화도 없는데 동맹 안의 무임승차는 이론이 예측한 것보다 훨씬 적었다. 그러나 그 연대는 외부의 적이 사라지는 순간 함께 사라졌고, 옛 전우끼리는 처음 만난 사이보다 더 격렬하게 싸웠다. 그리고 참가자들은 그 내분을 미리 내다보았으며, 그 예상이 공동 전선에 쏟는 힘을 줄였다. 관계의 부호가 시간에 따라 뒤집히는 것을 넘어, 뒤집힐 것이라는 예상이 뒤집히기 전의 부호를 약화시킨다.

두 진영으로 나뉜 세계는 자료에 없다

이론이 어느 쪽이든, 국제 관계는 이 격언이 가장 자주 불려 나오는 무대다. 제브 마오즈와 공저자들은 2007년 『저널 오브 폴리틱스』에서 1816년부터 2001년까지 186년치 국가 간 관계망을 부호 연결망으로 재구성해 검증했다. 현실주의의 예측은 분명하다. 같은 적을 가진 나라들은 서로 동맹해야 하고, 서로 싸워서는 안 된다. 자료가 보여 준 것은 반대였다. 같은 적과 같은 동맹국을 공유하는 나라들일수록 동맹이면서 동시에 적인 상태에 놓일 확률이 유의하게 높았다. 저자들이 관계적 불균형이라 부른 이 상태를 늘리는 요인은 전략적 경쟁, 기회주의, 국력의 대등함, 국경의 인접이었고, 줄이는 요인은 양쪽이 모두 민주국가인지, 경제적으로 얼마나 얽혀 있는지, 국제기구에 함께 가입해 있는지였다. 불균형은 예외적 잡음이 아니라 특정 조건에서 규칙적으로 생산되는 상태였다.

매슈 잭슨과 스티븐 나이가 2015년 『미국국립과학원회보』에 보고한 사실은 더 직접적이다. 1823년부터 2003년 사이, 적어도 한쪽 편에 3개국 이상이 참여한 전쟁은 95건이었다. 그중 완전히 동맹으로 묶인 집단끼리 맞붙은 전쟁은 0건이었다. 구조적 균형이 예측하는 그림은 서로 안쪽이 전부 우호로 채워진 두 덩어리의 대치인데, 다자 전쟁의 실제 편성은 한 번도 그 모양이 아니었다. 두 연구자가 모형에서 얻은 결론도 같은 방향이다. 무역이 없다면 평화롭고 안정적인 동맹망은 아예 존재하지 않으며, 관계망을 붙들어 둔 것은 서로를 공격할 유인을 줄이는 교역이었다.

이론 내부에도 같은 결의 문제가 있다. 티보르 안탈, 파벨 크라피프스키, 시드니 레드너가 2005년 『피지컬 리뷰 E』에서, 세스 마블, 스티븐 스트로가츠, 존 클라인버그가 2009년 『피지컬 리뷰 레터스』에서 각각 보고한 결과다. 불균형 삼각형의 개수를 물리학의 에너지처럼 정의하면, 완전 균형은 그 에너지의 최솟값이 된다. 그런데 이 지형에는 여기저기 옴폭 팬 곳이 있었다. 각자 관계를 하나씩 바꿔서는 아무도 나아지지 않는데 전체는 여전히 불균형인 상태가 존재하며, 물리학 쪽에서는 이를 잼(jammed) 상태라 부른다. 마블 등은 그런 상태가 에너지 스펙트럼의 중간 높이까지 올라갈 수 있음을 증명했다. 균형으로 가는 압력이 있어도 도착하지 못하는 자리가 구조적으로 마련되어 있다. 이 자리를 게임이론의 언어로 옮기면 아무 문제 없는 내시균형이 된다. 아무도 혼자서는 바꿀 이유가 없으니 그렇다.

온라인 자료는 균형이론에 유리한 증거로 자주 인용되니 따로 살펴볼 만하다. 주세페 파케티, 조반니 이아코노, 클라우디오 알타피니는 2011년 『미국국립과학원회보』에서 이징 스핀글라스의 바닥상태를 찾는 알고리즘으로 이피니언스, 슬래시닷, 위키피디아 관리자 선거 자료의 전역 균형도를 계산했고, 세 연결망 모두 무작위 귀무모형보다 훨씬 덜 좌절되어 있었다. 앨릭 커클리, 조지 캔트웰, 마크 뉴먼도 2019년 『피지컬 리뷰 E』에서 균형 척도를 새로 정의해 검증한 결과 실제 연결망이 적절한 귀무모형 대비 유의하게 균형적이라고 보고했다. 균형 자체는 실재한다. 문제는 그것이 무엇의 결과냐다. 파케티 등이 제시한 설명은 삼자 관계의 심리 기제 대신 노드별 부호 분포의 편중을 지목한다. 관계 대부분이 음인 소수의 개인은 진짜 좌절 대신 겉보기 무질서를 만들어 낸다. 삼각형 통계가 높다는 사실과 그 통계를 삼각형 기제가 만들었다는 주장은 같지 않다.

이 대목에서 낱말 하나가 두 뜻으로 쓰이고 있다는 점을 짚어야 한다. 사회심리학의 '균형'은 부호의 정합성이고, 국제정치의 '세력균형'은 힘의 분포다. 앞의 것은 곱셈 부호가 맞느냐를 묻고, 뒤의 것은 한쪽이 너무 커지지 않았느냐를 묻는다. 격언이 심리학 문헌과 국제정치 문헌 사이를 오갈 때 두 뜻이 미끄러지며, 심리 층위에서 확인된 규칙성이 전략 층위의 결론인 것처럼 읽히게 된다. 부호를 ±1로만 적는 표기법에도 같은 종류의 손실이 있다. 미지근한 반목과 사활을 건 적대가 똑같이 −1이고, 곱셈은 그 차이를 지운다. 카우틸랴가 인접 여부로 적과 벗을 나눈 것도 같은 단순화였고, 그 단순화 덕분에 만달라는 도표로 그려질 수 있었다.

연구자들이 서 있는 자리도 결과의 모양에 작용한다. 하이더는 게슈탈트 전통의 사회심리학자로서 한 사람의 머릿속 정합성을 설명하려 했으므로 보수함수를 다룰 이유가 없었고, 그래서 균형을 정의로 확정하는 편이 자연스러웠다. 힐러는 경제학자로서 학교 폭력 연구를 겨냥해 모형을 세웠기에 축이 '공동의 적'에서 '함께 뜯을 약자'로 옮겨 갔다. 마오즈와 공저자들은 국제정치학자로서 현실주의의 예측을 반증 대상으로 놓았으므로 불균형의 발생 조건을 찾는 데 지면을 썼다. 같은 격언을 다루면서도 무엇을 상수로 두고 무엇을 변수로 두느냐가 분야마다 다르고, 결론의 차이는 상당 부분 거기서 나온다.

결론 — 격언은 정의에서 나왔고, 계산은 조건을 붙인다

"적의 적은 동지"는 합리적 계산의 결론이 아니라 균형이라는 개념을 정의할 때 그 안에 넣어 둔 항목이다. 하이더는 형식적 유비로 후보를 나열한 뒤 삼중 적대를 심리적 판단으로 잘라 냈고, 남은 (−)(−)(+)를 균형으로 확정했다. 해러리의 정리가 거기서 세계의 두 진영 분할을 끌어냈지만, 데이비스가 잘려 나간 삼각형 하나를 되돌려 놓자 결론은 다극으로 바뀌었다. 격언이 무엇을 예측하는지는 정의를 어디서 끊느냐에 달려 있었다.

이익 계산으로 옮기면 성립하기는 한다. 다만 조건이 붙는다. 힐러의 모형에서 모든 내시균형이 균형 구조를 만족하는 것은 사실이지만 그 힘은 적대의 공유가 아니라 착취 대상의 조정이었고, 조정 유인을 없애면 불균형 균형이 나타났으며, 집단 이탈까지 허용했을 때 남는 유일한 답은 두 진영이 아니라 전원 대 한 명이었다. 리츠케와 로버슨에게서 공동의 적만으로 성립하는 동맹은 파라미터 창 안의 현상이었고, 커와 콘라트와 모라트의 실험에서 그 동맹은 승리와 동시에 해체되면서 남보다 격렬한 싸움으로 이어졌다. 자료 쪽 사정도 다르지 않다. 186년치 국가 관계망에서 같은 적을 공유한 나라들은 오히려 동맹이자 적인 상태에 더 자주 놓였고, 3개국 이상이 한쪽에 선 전쟁 95건 가운데 완전 동맹 집단끼리 맞붙은 사례는 없었다.

그러면서도 심리 층위의 규칙성은 견고하다. 아론슨과 코프가 태도의 유사성도, 상대의 호의도, 함께 얻을 실익도 모두 막아 놓은 조건에서 참가자들은 적의 적을 위해 두 배 가까운 전화를 걸었다. 무엇을 본체로 보느냐에 따라 답이 달라지는 지점이 여기다. 사람의 마음이 셈하는 방식을 묻는 것이라면 격언은 실험으로 뒷받침된 규칙성이고, 이해가 걸린 행위자들이 실제로 어떻게 편을 짜느냐를 묻는 것이라면 격언은 좁은 조건에서만 참인 진술이다. 두 물음을 섞어 쓸 때 이 말은 실제보다 훨씬 강한 근거를 가진 것처럼 들린다.

남는 물음은 두 층위를 잇는 다리 쪽에 있다. 균형이론과 게임이론은 서로 배척하지 않으며, 불균형 삼각형의 개수를 에너지로 놓고 관계 선택을 게임으로 세우면 한쪽의 국소 최소점이 다른 쪽의 내시균형에 대응한다. 그런데 그 대응이 성립하는 순간 어긋남도 함께 드러난다. 잼 상태처럼 아무도 바꿀 유인이 없는데 균형이 아닌 자리가 생기고, 반대로 서로 적대하는 두 편 모두와 통하는 중개자처럼 불균형한 위치에서 이익을 얻는 자리도 생긴다. 정합성의 압력이 언제 다른 유인을 이기고 언제 밀리는지, 그 경계를 조건으로 적어 내는 일이 아직 남아 있다. 격언은 그 경계의 안쪽을 가리키는 이름일 뿐이다.