강연 읽기 · AI와 사고

생각의 외주화 — 우리는 자기 생각의 중간 관리자가 되었다

받은 편지함을 열고, 요약을 누르고, 초안을 받고, 데이터를 맡기고, 슬라이드를 뽑고, 프로토타입을 시킨다. 하루의 모든 지적 작업을 AI가 대신한다. 화자는 묻는다 — 그래서 우리는 더 잘 생각하게 되었는가, 아니면 생각을 외주 줘 버렸는가. 그리고 다른 길, "생각을 위한 도구"를 제안한다.

2026년 6월 14일

01외주화된 이성 — 21세기 지식 노동자의 하루

강연은 한 장면에서 출발한다. 화자가 사무실에 도착해 받은 편지함을 연다. 메일이 가득하다. "요약해 줘." 답장이 막힌다. "AI한테 답장을 쓰게 하자." 보고서를 써야 한다. 빈 페이지가 막막하다. "자료 몇 개 넣고 AI 초안을 받자." 데이터를 분석해야 한다. "AI가 대신 해 줄 수 있겠지." 발표 자료를 만들고, 프로토타입까지 "바이브 코딩"으로 찍어 낸다. 그렇게 하루가 끝난다. 다 괜찮아 보인다.

이것은 미래의 풍경이 아니다. 화자는 이를 "조금 과장되긴 했지만 완전히 그럴듯한, 오늘날 지식 노동의 모습"이라고 부른다. 그러면서 한 시대에 이름을 붙인다 — 외주화된 이성의 시대(the age of outsourced reason). 지식 노동자는 더 이상 자기 일의 재료와 직접 씨름하지 않는다.

"우리는 지적 관광객이 되었다. 우리 자신의 일 속에서, 우리는 아이디어를 잠깐 들렀다 갈 뿐, 그 안에 머물지 않는다."

특히 화자가 꼬집는 한 장면이 있다. 글쓰기의 막힘은 원래 '빈 페이지를 마주하는 것'이었다. 그런데 이제는 'AI가 채워 놓은 페이지를 마주하고, 내가 거기에 동의하는지 고민하는 것'으로 바뀌었다. 그는 이를 이렇게 요약한다. "나는 로봇의 의견을 검수하는 전문 검증자가 되어 버렸다." 일과 우리의 관계가 통째로 AI를 거쳐 매개되고 있다는 것이다.

02네 가지 흔적 — 아이디어, 비판, 기억, 그리고 메타인지

화자는 AI를 이런 식으로 쓰는 것이 인간의 사고에 어떤 자국을 남기는지를 네 가지로 짚는다. 모두 그가 언급한 연구와 조사에 근거한다.

강연이 정리한 네 가지 효과. 세 가지 사고 능력은 약해지고(아래쪽), 동시에 인지 부담은 커진다(위쪽). 막대 길이는 화자가 말한 방향과 강도를 도식화한 개념 지표다.

창의성. 개인 차원에서는 AI가 새 아이디어로 가는 빠른 통로처럼 보인다. 그러나 화자는 여러 연구가 집단 차원에서는 반대 결과를 보였다고 말한다. AI의 도움을 받은 지식 노동자 집단은 수작업으로 일한 집단보다 더 좁은 범위의 아이디어를 냈다는 것이다. 그의 표현은 신랄하다. "우리는 벌집 정신(hive mind)을 만들었는데, 그 벌집이 정말 따분해서 똑같은 다섯 개의 아이디어만 계속 내놓는다."

비판적 사고. 지식 노동자를 대상으로 한 조사에서, 사람들은 AI와 일할 때 수작업으로 일할 때보다 비판적 사고에 노력을 덜 들였다고 답했다. 그리고 이 경향은 AI를 더 신뢰하고 자기 자신을 덜 신뢰할 때 더 강해졌다.

기억. AI가 대신 글을 써 주면 사람들은 자기가 쓴 내용을 덜 기억한다. AI가 만든 요약을 읽으면, 원문을 직접 읽었을 때보다 덜 기억하는 것은 놀랄 일도 아니다.

메타인지. 자기 사고 과정을 들여다보는 능력이다. AI와 일하려면 과제의 목표를 정하고, 일을 잘게 쪼개고, 생성형 AI가 그 일에 맞는지 따지고, 결과를 평가하는 상당한 메타인지가 필요하다. 재료와 직접 씨름할 때는 이런 일이 자연스레 녹아 있었지만, 그 씨름이 AI로 매개되면 도리어 까다로워진다. 화자의 정리는 이렇다. "우리는 우리 자신의 생각을 관리하는 중간 관리자가 되었다."

네 가지를 합치면 점수표가 나온다. 아이디어는 더 적고, 그것을 덜 비판적으로 생각하고, 더 잘 기억하지 못하고, 그러면서 그 일을 하기는 더 힘들어졌다. 그는 비유로 마무리한다. "마치 운동을 없애는 치료제를 발명해 놓고, 왜 늘 숨이 차는지 의아해하는 격이다."

03보조자를 넘어 — 따르지 말고 맞서는 AI

그렇다고 이렇게 될 수밖에 없는 것은 아니라고 화자는 말한다. 그가 내세우는 명제는 분명하다. "AI는 보조자를 넘어 '생각을 위한 도구'가 되어야 한다. AI는 따르지(obey) 말고 맞서야(challenge) 한다."

그는 지금이 결정적인 갈림길이라고 본다. 일의 세계가 생성형 AI로 바뀌려는 이 순간, 그 변화를 인간적 가치 쪽으로 끌고 가야 한다는 것이다. 그가 그리는 '생각을 위한 도구'는 일을 대신 해 주는 데서 멈추지 않는다.

일을 끝내 주는 것을 넘어, 그 일을 더 잘 이해하게 돕는다. 더 빨리 끝내는 것을 넘어, 더 잘 끝내게 돕는다. 옳은 답으로 데려가는 것을 넘어, 옳은 질문을 던지게 돕는다. 아는 과정을 자동화하는 것을 넘어, 모르는 것을 탐험하게 돕는다. 그가 인용하는 시구처럼, 두 갈래 길에서 "사람이 덜 다닌 길"을 택해야 한다는 것이다.

04클라라의 작업대 — 챗봇 없는 프로토타입

말로만 끝내지 않기 위해, 화자는 자기 팀이 만든 살아 있는 연구용 프로토타입을 보여 준다. 제품이 아니라, AI와 일하는 여러 방식이 인간의 사고를 어떻게 끌어올릴 수 있는지 연구하기 위한 탐색이라고 그는 못 박는다.

가상의 인물 클라라(Clara)가 등장한다. 음료를 파는 회사에서 일하는 그는, 지속 가능한 포장에 대한 소비자 선호를 다룬 업계 보고서를 바탕으로 회사가 어떻게 대응해야 할지 제안서를 써야 한다. 그래서 보고서를 제대로 파고들어야 한다.

그는 회의록, 자기 회사의 내부 보고서, 그리고 업계 보고서를 작업 공간에 불러온다. 화면에는 구역별 요약이 뜬다. 그런데 화자는 이것을 단순한 요약이라 부르지 않는다. "우리는 이것을 렌즈(lens)라고 생각한다." 지금 하는 일에 가장 관련 있는 부분을 강조해서 보여 주는, 맞춤형 축약본이라는 것이다. 클라라는 '소비자 렌즈'를 골라 한 구역을 깊이 읽고, 메모를 달고, 문장을 직접 골라 표시한다.

읽는 동안 AI가 논평과 비판을 띄운다. 화자는 이를 도발(provocation)이라 부른다. 어떤 도발은 기회를 짚어 주고, 클라라는 그것을 표시하고 주석을 단다. 핵심은 이 과정이 '완전히 손으로 읽기'와 '완전히 AI에게 읽기를 맡기기'의 중간이라는 점이다. "클라라는 여전히 직접 읽는다. 다만 의도적으로, 전략적으로 읽는다."

05도발과 재료 접촉 — 좋은 도구의 세 가지 원칙

클라라는 오른쪽 창에 자기 주장의 개요를 직접 손으로 쌓아 간다. 이 개요는 원본 문서에 단단히 연결되어 있어서, 그것만으로도 제안서 초안이 자동으로 생성된다. 화자가 강조하는 지점이 여기다. 이 글은 AI가 생성했지만, 클라라가 단지 문서를 던져 놓고 "보고서 써 줘"라고 한 것과는 관계가 전혀 다르다는 것이다.

"이 글은 인지적으로는 힘이 들지만 조작상으로는 수월한 사고 과정에 깊이 뿌리내리고 있다. 그것은 클라라의 결정, 클라라의 판단, 클라라의 전문성을 반영한다."

도발은 늘 받아들이라고 있는 게 아니다. 클라라가 어떤 도발을 보고 "유용하지만 굳이 반영할 필요는 없다"고 판단해 넘긴다. 화자는 그것조차 성공이라고 말한다. "당신이 그 피드백을 받아들이지 않겠다는 확신에 찬 결정을 내릴 만큼 자기 일을 깊이 이해했다면, 피드백은 의도대로 작동한 것이다." 도발은 답을 자동 완성하는 대신, 대안을 내놓고 오류를 짚고 반론을 던져 클라라가 자기 주장을 더 단단하게 벼리도록 돕는다.

이 화면에서 끝내 보이지 않는 것이 하나 있다. 채팅창이다. 클라라는 무언가와 대화하지 않고도 일한다. 컴퓨터는 사람을 흉내 내는 가짜 인간이 아니라, 컴퓨터로서 조용히 그를 돕는다. 화자가 든 좋은 도구의 원칙은 셋이다 — 재료와의 직접 접촉을 지키고(material engagement), 생산적인 저항을 제공하며(productive resistance), 메타인지를 떠받친다(scaffolds metacognition). 그리고 효율은 이 도구의 목적이 아니라고 못 박는다. "목적은 더 나은 사고다. 다만 가끔은 둘 다 얻을 수 있다."

06오래된 질문 — 기계가 대신 생각해 준다면

강연은 가치의 문제로 닫힌다. 만약 AI가 인간보다 생각을 더 잘하는 지점에 이른다면, 우리는 왜 그렇게까지 인간의 사고를 지키고 키우려 애써야 하는가. 화자는 두 가지를 든다. 첫째, 우리가 미처 의식하지 못한, 끝까지 인간만의 강점으로 남을 사고방식이 있을지 모른다. 둘째, 더 중요하게는, 잘 생각하는 능력 자체가 인간의 주체성과 존엄, 번영에 필수적이라는 입장이다.

그는 이것이 아주 오래된 질문의 메아리라고 말한다. 사람들은 한때 물었다. 글이, 책이, 인터넷이 우리 대신 기억해 준다면, 우리가 기억하지 못한다는 게 문제가 될까? 지도가 우리 대신 길을 찾아 준다면, 우리가 길을 못 찾는다는 게 문제가 될까?

"이제 우리는 묻는다. 기계가 우리 대신 생각해 준다면, 우리가 생각하지 못한다는 게 문제가 될까? 기계가 우리 대신 말하고, 대신 슬퍼하고, 대신 기도하고, 대신 사랑해 준다면, 우리가 그러지 못한다는 게 문제가 될까?"

화자는 13년 전 인간과 AI의 상호작용을 연구하기 시작했을 때, 살아생전에 이런 질문을 던지게 되리라고는 상상도 못 했다고 말한다. "하지만 우리는 그러고 있고, 그래야만 한다." 그리고 마지막 한 문장을 남기며 강연을 끝낸다. "당신은 어느 쪽을 갖고 싶은가 — 당신 대신 생각해 주는 도구인가, 아니면 당신을 생각하게 만드는 도구인가?"