독자 여러분께.

혹시 지난 주 클로드 Fable 5에 접속하려다 막히신 분 계신가요.

별다른 예고가 없었습니다. 6월 13일, 미국 정부가 앤트로픽에 Mythos 5와 Fable 5에 대한 전 세계 외국인의 접근을 차단하라는 명령을 내렸고, 앤트로픽은 하는 수 없이 두 모델의 서비스 제공을 중단했습니다.¹

그리고 이날 접속이 안 됐던 분이라면, 아마 순간적으로 느끼셨을지 모르겠습니다. 매일 쓰던 도구가, 실은 온전히 내 것은 아니었다는 것을 - 심지어 비용을 지불했더라도 말입니다.

오늘의 글은 바로 이 느낌에서 출발하였습니다.

반응은 빠르게 나왔습니다. 정부는 ‘한국형 미토스’ 개발 검토에 들어갔고,² 프랑스 총리는 자국 AI 스타트업 미스트랄 기반 모델 도입을 발표했습니다. 프랑스 AI 스타트업 데이터쿠의 대표는 “합리적인 기업이라면 다른 나라 모델 하나에만 의존하는 건 더 이상 불가능하다”고 말했습니다.³ AI 주권, 전 세계적으로 이 말이 다시금 회자되고 있습니다.

틀린 말도, 틀린 대응도 아닐 것입니다. 그러나 저는 오늘 다른 질문을 던져보고 싶습니다.

한 가지, 비슷한 논쟁이 역사에 있었습니다.

1981년, 케네스 월츠(Kenneth Waltz)는 The Spread of Nuclear Weapons: More May Be Better이라는 제목의 논문 한 편을 발표했습니다. 당시 대부분의 지도자와 학자들이 핵 확산을 막아야 한다고 주장할 때, 그는 정반대를 말했습니다. 핵무기가 더 많은 나라에 퍼질수록 세계는 오히려 더 안전해질 수 있다고 말이죠.⁴

그의 논리는 억지력(deterrence)에 있었습니다. 상대방도 핵을 가지고 있다는 사실을 아는 핵 보유국은, 먼저 핵무기를 사용하면 자신도 사라질 수 있다는 것을 압니다. 그 공포가 균형을 만들고 균형이 전쟁을 막는다는 것이죠. 지금 AI 주권 논의의 구조는 이것과 닮아 있습니다 — 각국이 자국의 AI를 가져야 안전하다, 의존을 끊어야 한다.

그런데 핵과 AI는 닮은 만큼 또 다릅니다.

핵은 쓰는 순간의 폭발로 억지력 갖습니다. 균형은 그 공포 위에 서고요. 그런데 그런 핵의 보유가 핵에 대한 국민의 인지적 의존으로 바로 이어지지는 않는데요, AI는 다릅니다. AI는 폭발하지 않지만, 더 폭발적으로 사람을 바꿔놓기 때문입니다.

매일 AI와 함께 일하다 보면 — 분명 더 빠르게 일하게 됩니다. 그런데 어느 순간, AI 없이는 일하기 어려운 자신을 발견하게 될 수도 있습니다. 철학자 마이클 폴라니(Michael Polanyi)는 인간의 앎 중에는 말로 다 설명되지 않는 것이 있다고 했습니다. 오랜 시간 몸과 감각으로 체득된 판단력, 직관, 경험 — 그것은 가르칠 수 있지만 다 설명될 수는 없고, 전달될 수 있지만 다 명시될 수는 없습니다.⁵ AI가 그 영역을 대신하기 시작할 때, 우리가 잃는 것은 어떤 편의가 아니라, 우리 자신의 일부일 것입니다.

그렇다면 AI 주권이란 무엇일까요.

통상적인 답은 소유입니다. 우리 것을 가져야 한다. 한국형 미토스, 유럽형 AI. 앞서 말씀드린 것처럼 답이 틀린 건 아닐 것입니다. 도리어 저는 질문이 충분하지 않다고 생각합니다.

핵 주권의 질문은 “우리도 가질 수 있는가”였습니다. AI 주권의 질문은 달라야 합니다. 우리가 가지더라고 그것이 우리 것인가. 그리고 우리는 그것 없이도 우리 자신일 수 있는가.

첫 번째 질문은 소유에 관한 것입니다. 두 번째와 세 번째 질문은 인간의 주권에 관한 것입니다. 어떤 사회가 단순히 AI를 보유하는 것이 그 안의 사람들이 스스로 생각할 수 있도록 돕는다는 건 아닙니다. 자국 AI를 갖는 것이 그 대상을 바꿀 수는 있겠으나, 사람의 의존이 그대로라면 주권은 여전히 플러그에 묶여 있는 것이 아닐까요.

6월 13일 접속이 끊겼을 때 드러난 것은 두 가지였습니다. 우리가 얼마나 깊이 의존하고 있었는지 — 혹은 얼마나 깊이 의존할 수 있는지. 그리고 그것이 끊겼을 때 우리가 얼마나 무력해질 수 있는지. 저는 그 무력함을 줄이는 일이, 서버를 바꾸는 것만으로는 되지 않을 거라고 생각합니다.

주권은 서버에 없습니다. 그리고 서버를 바꾼다고 생기지도 않습니다. 저는 그것이 스스로 생각하기를 멈추지 않는 사람 안에 있다고 봅니다. 그 생각을 이어가는 것이, 지금 우리가 할 수 있는 가장 중요한 일일지도 모릅니다.

폴라니는 기술이 우리에게 무엇을 하는가를 기록하는 독립 매체입니다.

오늘 한글로 적은 두 번째 편지를 보내드립니다.