인공지능 · 기술 해설
'재귀적 자기개선(RSI)'은 무엇이고, 2026년의 숫자들은 왜 사람들을 불안하게 만드는가. 그리고 그 불안이 과장인지 아닌지를 가르는 한 가지 조건.
지난 60년 동안 인공지능을 만든 것은 언제나 사람이었다. 사람이 모델 구조를 설계하고, 데이터를 모으고, 학습을 돌리고, 결과를 평가했다. 그런데 2026년에 들어서면서, AI를 만드는 일의 상당 부분을 AI 자신이 하기 시작했다. 코드를 짜고, 실험을 돌리고, 다음에 무엇을 시도할지 제안한다.
이 흐름을 끝까지 밀고 가면 도착하는 지점에 이름이 붙어 있다. 재귀적 자기개선, 영어로 Recursive Self-Improvement, 줄여서 RSI다. AI가 자기보다 더 뛰어난 AI를 스스로 설계하고 만들어내는 단계를 말한다. 공상과학의 단골 소재였던 이 개념이, 지금은 세계에서 가장 큰 AI 회사들의 공식 보고서 제목으로 올라오고 있다.
핵심은 '재귀'라는 한 단어에 있다. 재귀란 결과가 다시 원인이 되어 같은 과정을 반복하는 구조다. 재귀적 자기개선에서는, AI가 자신의 성능을 한 단계 끌어올리면 그 똑똑해진 AI가 다음 개선을 더 쉽고 빠르게 해낸다. 그 개선이 또 다음 개선을 앞당긴다. 개선하는 능력 자체가 개선되는 것이다.
이 아이디어는 새롭지 않다. 1965년, 영국의 수학자 어빙 존 굿(I. J. Good)은 이렇게 적었다. "초지능 기계는 자신보다 더 나은 기계를 설계할 수 있을 것이다. 그러면 의심할 여지 없이 '지능 폭발'이 일어나고, 인간의 지능은 한참 뒤에 남겨질 것이다." 이 '지능 폭발(intelligence explosion)' 가설이 RSI의 출발점이다.
언덕 위에서 작은 눈덩이를 굴린다고 해보자. 굴러갈수록 표면적이 커지고, 커진 표면이 눈을 더 많이 붙인다. 그래서 처음엔 천천히, 나중엔 걷잡을 수 없이 커진다. 재귀적 자기개선은 '더 똑똑해진 AI가 자기를 더 빨리 똑똑하게 만드는' 지능의 복리(複利)다. 은행 이자가 원금에 붙고, 그 이자에 또 이자가 붙듯이.
전문가들은 AI 개발의 변화를 세 단계로 나눈다. 지금 우리는 2단계의 한복판에 있고, 일부 작업은 이미 3단계의 문턱에 닿아 있다.
1단계는 사람이 모든 과정을 손수 한다. 2단계는 AI가 코딩·실험을 거든다(현재). 3단계는 AI가 다음 세대 AI를 스스로 설계·제작한다 — 이 마지막 단계가 재귀적 자기개선이다.
중요한 차이는 1단계와 3단계 사이에 있다. 2단계에서 AI는 사람의 '도구'다. 3단계에서 AI는 사람의 '대체자'가 된다 — 적어도 AI를 만드는 그 일에서만큼은. 그리고 도구가 대체자로 바뀌는 속도가, 지금 모두가 주목하는 지점이다.
2026년 6월, AI 안전 연구로 유명한 기업 앤트로픽(Anthropic)이 "AI가 스스로를 만들 때(When AI builds itself)"라는 보고서를 내놨다. 자기 회사 내부에서 실제로 측정한 숫자들을 공개했는데, 그 수치가 인상적이다.
AI가 사람 감독 없이 혼자 끝까지 해내는 작업의 '길이'가 대략 4개월마다 두 배로 늘어난다. 4분짜리 심부름에서 12시간짜리 프로젝트로 — 2년 만의 변화다.
여기서 한 가지는 분명히 해두자. 앤트로픽 스스로도 "우리는 아직 그 단계에 도달하지 않았고, 재귀적 자기개선이 필연인 것도 아니다"라고 못 박았다. 지금의 AI는 사람의 지시와 검토 아래에서 코드를 거들 뿐, 혼자 자기 후계 모델을 설계해 출시하지는 못한다. 다만 측정 가능한 모든 능력 곡선이 "아직 꺾이지 않았다"는 것이 그들의 경고다.
재귀적 자기개선이 특별히 위험하다고 여겨지는 이유는, '빠르다'가 아니라 '점점 더 빨라진다'에 있다.
보통 공장은 사람이 설계도를 그려야 더 좋은 기계를 만든다. 그런데 어느 공장이 자기 설계도를 스스로 고쳐 더 빠른 자신을 만들고, 그 빨라진 공장이 설계도를 또 고친다고 해보자. 처음 몇 번은 사람이 검수할 수 있다. 하지만 공장이 하루에 설계도를 수천 번 고치기 시작하면, 검수 도장을 찍는 사람이 오히려 라인을 멈추는 셈이 된다. 그래서 사람들은 도장을 생략하기 시작한다 — 바로 그 지점이 위험하다.
그래서 앤트로픽이 보고서에서 내놓은 제안은 다소 뜻밖이다. AI를 가장 앞서 만드는 회사 중 하나가, "필요하면 전선의 AI 개발을 함께 늦추거나 잠시 멈출 수 있는 장치를 미리 만들어두자"고 한 것이다. 사회 제도와 안전 연구가 기술 속도를 따라잡을 시간을 벌기 위해서라는 명분이다.
단, 핵심 조건이 있다. 혼자 멈추는 건 의미가 없다. 한 회사만 손을 떼면 선두만 바뀔 뿐, 경쟁은 그대로 굴러간다. 그래서 제안의 실제 내용은 이렇다.
여기서 솔직한 의문이 남는다. 과연 가능할까. AI는 막대한 돈이 걸린 경쟁이다. 더 나은 모델을 더 빨리 내놓아 시장을 차지하려는 것은 기업의 생리에 가깝다. "개발을 멈추자"는 호소는 GPT-3 시절부터 여러 번 나왔지만, 번번이 통하지 않았다. 그래서 '검증 가능한 글로벌 일시정지'라는 발상은 방향은 옳아도 실현은 결코 쉽지 않다. 이 제안의 무게는 "지금 당장 멈추자"가 아니라, "멈출 수 있는 선택지를 지금 만들어두지 않으면, 정작 필요할 때 멈출 방법이 없다"는 경고에 있다.
균형을 위해, 회의적인 전문가들의 반론도 짚어야 한다. 자기개선의 고리가 생각만큼 매끄럽게 돌지 않을 것이라는 견해다.
"핵심 조각들이 다 '그럭저럭' 작동할 뿐, 훌륭하진 않다."— 제프 클룬(Jeff Clune), AI 연구자
또 다른 전문가들은 '손실 있는 자기개선(lossy self-improvement)'을 지적한다. 시스템이 복잡해질수록 마찰이 늘어, 개선의 회전판(flywheel)이 오히려 느려진다는 것이다. 현재의 AI가 "최고의 인간 과학자에는 아직 못 미친다"는 평가도 여전하다. 실제로 오늘날의 모든 시스템에서 사람은 아직 고리 안에 남아 있다. 한 연구자는 진짜 경계선을 이렇게 표현했다 — "코드의 99%를 AI가 쓰게 되는 순간." 우리는 80%를 넘어섰지만, 그 마지막 구간이 가장 어려울 수도 있다.
요약하면 두 가지 시나리오가 맞선다. 한쪽은 '곡선이 꺾이지 않는다'(가속이 계속된다)는 경고, 다른 쪽은 '복잡성의 마찰이 곡선을 꺾는다'(저절로 둔화된다)는 전망. 지금의 데이터는 어느 쪽도 확정하지 못한다.
정리하자. 재귀적 자기개선은 'AI가 자기보다 나은 AI를 스스로 만드는' 단계이고, 그 위험의 본질은 속도가 아니라 가속이다. 2026년 현재, AI는 그 일을 '거드는' 2단계에 깊숙이 들어와 있다 — 코드의 80% 이상을 쓰고, 혼자 해내는 작업의 길이가 4개월마다 두 배로 늘어난다. 하지만 자기 후계자를 통째로 설계하는 3단계에는 아직 닿지 않았고, 사람은 여전히 고리 안에 있다.
그래서 지금 진짜로 지켜봐야 할 신호는 단 하나로 압축된다. 그 가파른 곡선이 언젠가 꺾이는가, 아니면 끝까지 곧게 서는가. 꺾이면 회의론자가 옳았던 것이고, 곧게 서면 우리에게는 '멈출 수 있는 장치'가 미리 있었는지가 중요해진다. 어느 쪽이든, 답이 나오기 전에 준비를 끝내자는 것이 이 논쟁의 핵심이다.
AI가 자기를 더 똑똑하게 만드는 '지능의 복리'가 시작됐다 — 아직 이자는 사람이 관리하지만, 복리가 무서운 건 늘 마지막 구간이다.
주요 참고: 앤트로픽(Anthropic) 보고서 「When AI builds itself」(2026.6.4) · IEEE Spectrum 「Recursive Self-Improvement Edges Closer In AI Labs」 · I. J. Good 「Speculations Concerning the First Ultraintelligent Machine」(1965).