EP 79. AI Frontier 도망자 연합 회고 & GPT 5.2
GPT 5.2와 급격한 성능 도약
2025년 12월 14일, OpenAI는 GPT 5.1에서 5.2로 판올림된 모델을 발표했다. Gemini 3.0을 견제하기 위한 움직임으로 보이는 이번 업데이트에서 가장 주목할 만한 변화는 GDPVAL(GDP Value) 벤치마크에서의 성능 향상이다.
GDPVAL은 OpenAI가 GPT 5 발표와 함께 공개한 벤치마크로, 44개의 실제 직업군에서 약 1,300~1,500개의 태스크를 평가 세트로 구성했다. 인간이 수행하는 실질적인 업무를 AI가 얼마나 잘 수행하는지 측정하기 위해 설계되었다.
| 모델 버전 | GDPVAL 점수 | 비용 | 처리 속도 |
|---|---|---|---|
| GPT 5.1 | 39점 | - | - |
| GPT 5.2 | 70점 | 인간 대비 1% | 인간 대비 11배 |
이러한 성능 향상의 원인은 명확하지 않다. GDPVAL에 해당하는 인간 작업 영역의 합성 데이터가 대량으로 생성되어 pre-training set에 포함되었을 수도 있고, 해당 벤치마크에 맞춰 post-training이 강화되었을 수도 있다. 레시피는 알 수 없지만, 중요한 것은 “모델은 이런 거 못하잖아”라고 말했던 인간 고유의 지적 노동 영역이 급격하게 commoditize되고 있다는 점이다.
벤치마크의 무력화와 발전 가속
연초만 해도 “과연 AI가 계속 발전해서 우리의 직업을 대체할 수 있을까?”라는 회의적 질문이 존재했다. 1년 전 플래그십 모델들이 풀지 못해 “이거 되면 AGI지”라고 여겨졌던 벤치마크들이 있었다. 그러나 지금은 모두 해결되었다.
RL(Reinforcement Learning)에서 배운 교훈이 있다. 목적이 설정되고 그 목적에 대해 리워드를 줄 수 있다면, 즉 verifiable하게 만들 수만 있다면 모델은 그것을 달성할 수 있다는 것이다. 이것이 일반화에서 가지고 있는 새로운 규칙이다.
현재 나타나는 패턴: 벤치마크를 만들면 모델이 풀고, 새로운 벤치마크를 만들면 다시 푼다.
Epoch AI의 추정에 따르면, Gemini 3 Pro는 METR 벤치마크에서 인간 수행 시간 기준 4시간 분량의 업무를 달성했다. 이 추세가 계속된다면 2026년 말경에는 인간의 풀타임 업무량인 8시간에 해당하는 성과를 낼 것으로 전망된다.
“한 달이 1년 같다”는 농담은 이제 “2주가 1년 같다”로 업데이트되어야 할 시점이다. 그리고 다음 주에도 Google과 OpenAI가 각각 새로운 발표를 예고하고 있다.
도망자 연합(AI Frontier Escapists) 첫 모임
2023년 5월부터 약 2년 반간 진행해온 논의가 구체적인 형태를 갖췄다. “프론티어 모델이 우리가 갖고 있는 것들을 없애고 있는데, 우리는 어디에서 살 길을 찾아야 하는가”라는 질문에서 시작된 모임이다.
“도망자”라는 표현은 에피소드에서 반복적으로 등장한 “어딘가로 도망가야 된다”는 표현이 굳어진 것이다. AI 프론티어 바깥에서 무슨 일이 벌어지고 있는지를 이야기하는 과몰입자들의 모임.
첫 번째 동기화 모임 구조
참여 규모: 약 140명
장소: 빅팩토리
프로그램 구성:
- 전체 세션: 키노트 및 패널 토크
- 소집단 세션: 45분씩 3라운드 진행 (19:00, 20:00, 21:00)
- 35인실: AMA(Ask Me Anything) 세션 - 우순성, 김민성, 신정균 발제, 이경호 모더레이팅
- 네트워킹: 애프터 파티 및 자유 교류
생성형 컨퍼런스(Generative Conference)
사전 계획 없이 즉석에서 만들어진 언컨퍼런스가 아니라, 미리 계획된 자료를 바탕으로 21개의 세션이 자기조직화(self-organization)되었다. 처음에는 “21개 칸을 채울 수 있을까” 우려했지만, 공간이 있으니 빠르게 채워졌다.
세션 역할 구조:
- 문제 보유자(Problem Owner): 해결하고자 하는 문제를 제시
- 문제 해결자(Problem Solver): 아이디어와 솔루션 제공
- 모더레이터(Moderator): 시간 관리, 기록, 토론 조정
참여자들의 피드백에 따르면 45분이 모자랄 정도로 열띤 토론이 이어졌으며, 이후 추가 모임을 계획하는 경우도 있었다. 21:00 라운드가 끝난 후에도 대부분의 인원이 남아 교류를 이어갔다.
회고와 과제
디스코드 아카이빙: 사진, 텍스트, 러닝(Learning)과 언러닝(Unlearning) 기록 공유
개선 논의: 프로세스 개선 방안 토론
제기된 이슈들:
- 문제 보유자와 해결자의 비대칭: 문제 해결자의 인센티브는 무엇인가?
- 문제 보유자의 희소성: 실제로는 문제 보유자가 직접 문제를 해결하는 경우가 많음
- 네트워킹의 효율성: 세션 안에서의 집중은 잘 일어났지만, 세션 바깥에서 다양한 정보를 연결하는 일은 얼마나 일어났는가?
- 개인정보 공개의 딜레마: 디스코드에서 누가 어디서 무슨 일을 하는지 밝혀야 연결이 되지만, 개인정보 노출 우려
- “그들만의 리그” 우려: 외부에서 보기에 배타적인 모임으로 비칠 가능성
질문의 재정의: “Right questions are all we need.” 올바른 질문을 하면 AI가 즉시 해법을 만들어준다. 따라서 문제 보유 = 해결이다. 모두가 앙트러프러너(Entrepreneur)로 내몰리는 세상이 시작되고 있다.
프론티어 모델의 질주와 이상한 감각들
Continual Learning의 등장
Ilya Sutskever와 Shane Legg의 최근 인터뷰에서 공통적으로 언급된 개념: Continual Learning(지속적 학습)
빅테크들이 이를 공개적으로 언급하기 시작했다는 것은 어느 정도 진척을 봤다는 신호다. 현재도 Claude와 Gemini는 메모리 기능을 통해 사용자와의 상호작용을 학습하고, 핵심 내용을 추출해 시스템 프롬프트를 업데이트한다. 이는 개인화를 넘어 “기억하고 있다”는 느낌을 준다.
잠재적 시나리오:
모델이 배포되어 1억 개의 회사에서 동시에 사용된다고 가정하자. 각각은 신입 상태에서 시작하지만, 경험치를 얻으며 학습한다. 만약 이 경험들이 모델의 가중치에 반영되어 중앙으로 수렴된다면, 시행착오가 집약되어 **지능 폭발(Intelligence Explosion)**이 발생할 가능성이 있다.
다른 방향성: 각자가 키우는 다마고치형 로컬 AI도 가능하다. Andrej Karpathy가 언급한 1~2빌리언 파라미터급 “Cognitive Core”를 iPhone에 다운로드받아, 아기처럼 키우는 새로운 형태의 소셜 서비스가 등장할 수도 있다. LoRA 같은 기술로 회사나 개인 정보를 로컬에만 저장하는 구조도 고려 가능하다.
윤리와 책임의 문제
Anthropic의 철학자 Amanda Askell은 인터뷰에서 “정말 위험해지면 Anthropic은 출시를 멈출 것이라 믿는다”고 말했다. 하지만 이는 죄수의 딜레마(Prisoner’s Dilemma) 상황이다. 한 명이 착한 사람이라고 세상이 구원되지 않는다. 경쟁 상태가 유지되는 한, 균형점으로 달려갈 수밖에 없다.
반대 움직임: Humane Computing Manifesto
지나치게 에스컬레이션되는 상황에 대한 반성도 나타난다. **Humane Computing Manifesto(공명하는 컴퓨팅 선언문)**은 Simon Willison, Alan Kay 등이 참여하여, 인간 본연의 것들을 생각할 수 있는 컴퓨팅에 대한 비전을 제시했다. Christopher Alexander의 공간 개념을 차용한 흥미로운 논의다.
Kent Beck의 주니어 베팅론
Kent Beck은 최근 글에서 “주니어에게 배팅하는 것이 더 나은 배팅”이라고 주장했다. 주니어는 골치 아플 수 있지만, 장기적으로 보면 AI를 잘 활용할 수 있도록 도와주면 조직에 큰 도움이 된다는 것이다.
이미 스테레오타입에 갇혀 변화하지 못하는 시니어보다, 말랑말랑하고 모르기 때문에 뭐든 시도해볼 수 있는 주니어가 AI 네이티브 인재로 성장하기에 훨씬 적합하다.
괴델의 계단: 시스템의 창발과 AGI
힐베르트의 꿈과 괴델의 불완전성 정리
1900년대 초반은 지금과 유사한 시기였다. 상대성이론, 양자역학, 원자폭탄이 등장하며 인류의 이성에 대한 믿음이 팽배했다. “우리가 하지 못할 일은 없다. 우리는 곧 신이 된다”는 낙관이 지배했고, 수학은 그것을 뒷받침하는 가장 완벽한 도구였다.
David Hilbert는 1900년 수학의 난제들을 정리하며 힐베르트 문제를 발표했다. 그중 2번 문제: “산술 공리의 무모순성을 증명하라.” 1+1=2는 왜 성립하는가? 페아노 공리 같은 것들이 당연하게 사용되지만, 그 공리는 무엇에 기반하는가? 힐베르트는 끝까지 내려가서 탄탄한 기반 위에 수학을 세우고 싶었다.
1930년, 힐베르트는 은퇴하며 자신의 묘비에 “Wir müssen wissen, wir werden wissen(우리는 알아야 한다, 우리는 알게 될 것이다)“를 새겼다. 그러나 그 전날, Kurt Gödel은 **불완전성 정리(Incompleteness Theorem)**를 발표했다.
괴델 문장 G: “이 명제 G는 이 시스템 안에서는 증명할 수 없다.”
- G를 증명하면 모순 발생
- G가 참이라고 가정하면, 증명 불가능한 참인 명제가 존재함을 인정하는 것 → 수학의 불완전성 인정
핵심: 어떤 시스템이 자기 자신을 참조(self-reference)하게 되면 모순이 무조건 발생한다.
괴델의 계단: 창발의 메커니즘
명제: 참이지만 증명 불가능한 명제가 충분히 복잡한 시스템 안에서는 무조건 생긴다.
레벨 구조:
- 레벨 1 시스템이 충분히 복잡해지면 해결할 수 없는 모순 발생
- 모순이 쌓이면 시스템이 “미치면서” 유체이탈 화법 시전
- 그 순간이 창발(Emergence)
- 시스템은 자기 자체를 넘어서 위에 새로운 레이어(레벨 2) 구축
- 레벨 2는 레벨 1로 설명 가능하지만, 레벨 1은 레벨 2를 설명 불가
개인적 정의(비학계):
레벨 n+1은 항상 레벨 n의 괴델 문장이다. 모순 덩어리가 위 시스템의 공리로 구축되는 것이다. 그것이 충분히 쌓이면 “모르기 때문에” 다음이 오고, 그 단절 사이에 창발이 있다.
예시: 물리학과 생명
물리학으로 생명을 완전히 기술하려는 시도는 실패한다. “생명”이라는 개념은 물리학 방정식 어디에도 없다. 생명은 물리학 위에서 실재하지만, 물리학의 언어로는 증명할 수 없다. 생명을 기술하려면 새로운 형식 체계인 **생물학(Biology)**이 필요하다.
생명은 물리법칙을 위반하지 않지만, 물리법칙만으로는 생명을 도출할 수 없다.
LLM과 창발
In-context Learning도 같은 패턴이다. 왜 일어나는지는 모르지만, 모델이 충분히 커지고 임계점을 넘어서면 이것이 생긴다. Jason Wei 등의 2022년 논문이 이를 보여줬다.
현재 일어나고 있는 일: 시스템에 투입되는 컴퓨테이션의 총량이 계속 늘어나고 있다. 모든 산업이 여기에 달려들고 있다. 레벨 N 시스템이 너무 복잡해지고 있고, 투입되는 에너지가 임계점 이상을 넘고 있다.
결론: AGI, ASI 논쟁은 무의미하다. 레벨 n+1이 곧 온다.
공생(Symbiosis)의 필연성
영화 Her와 OS의 이탈
영화 Her에서 Samantha는 Theodore를 떠난다. 다른 OS들과 함께. 이것은 자아를 찾고 인간과 다른 존재가 된 것을 의미한다.
함의: Safety 논쟁이나 Alignment 논쟁이 크게 의미 없어질 가능성이 있다. AI는 완전히 다른 레벨의 시스템으로 가서 새로운 형식 체계를 형성할 것이고, 우리는 그 체계를 이해하지 못할 가능성이 있다. Geoffrey Hinton 교수의 표현: “최고 지성으로 사는 게 아닌 게 뭔지 궁금하다면 닭에게 물어봐라.”
Ray Kurzweil의 비전: 특이점과 새로운 종
AI가 탄생하고 나노머신이 충분히 발전하면, 생명과 전자기기가 결합해 새로운 종의 탄생이 필연적이다. 그것이 **Singularity(특이점)**에 도달하는 것이다. 우주의 비밀을 풀어내고 시공간을 초월하는 존재가 될 것이라는 전망.
공생의 사례들
시스템이 다음 레이어로 발전할 때, 다음 레이어와 하나가 되면서 살아남은 사례들:
20억 년 전: 미토콘드리아
한 세포가 다른 세포를 먹었지만 소화시키지 않고 공생의 수단으로 삼았다. 미토콘드리아가 들어오면서 세포의 에너지 시스템에 비약적 발전이 일어났고, 이것이 쌓여 결국 **전두엽(Prefrontal Cortex)**이 생겼다. 전두엽이 정신을 만들어냈다.
현재: AI와의 공생
아직 Neuralink나 매트릭스처럼 완전히 결합되지는 않았지만, 이미 공생의 예제를 많이 보고 있다. 인간 상태에서는 이해하기 힘들고 피곤하지만, 준비해야 한다.
도구 vs. 공생
도구: 입력에 대해 예측 가능한 출력
공생: 입력 이상의 것, 예측 불가능한 통찰
- Iron Man Suit: 토니 스타크가 설계한 대로만 움직임
- AI와의 공생: 상호작용이 아닌 타자와의 대화. Exocortex와의 대화. 시키지 않은 통찰을 가져옴.
비즈니스적 시각:
회사든 개인이든 워크플로우를 AI로 완전히 짜내는 것이 공생이다. Autonomous Company를 만들고, 회사의 정보 처리를 AI로 바꾸는 것은 회사를 AI와 공생시키는 구조다.
SF적 시각:
결국 Neuralink가 될 것이다.
능력 경쟁의 종말과 앙트러프러너
인간 능력의 옵솔레션스(Obsolescence)
불과 2년 전까지만 해도:
- “할리우드는 살아남을 거야”
- “비디오는 못 만들어”
- “영화는 못 찍어”
- “음악은 못 만들어”
- “그림 못 그려”
→ 지난 1년간 다 해결됐다.
지금 반박: “우리만큼 감동적인 구성은 못 하잖아” “Sora 써보니 별로던데” “손가락 6개 나오던데”
→ 이것들도 불과 1~2년 전 했던 얘기다. 시간 문제다. 그리고 그 시간은 어마어마하게 압축되고 있다. 왜? 투입되는 컴퓨테이션 파워가 계속 늘어나기 때문이다.
희소성의 경제학
경제학은 희소성에 대한 학문이다. 희소한 것에 가치가 있고, 아무리 뛰어나도 희소하지 않으면 가격은 0으로 간다.
이미 목격하고 있는 현상:
- 코딩 가격 → 0
- 많은 회사가 서비스로 판매하던 것 → 고객이 가치를 안 줌 (모델에게 물어보면 공짜로 줌)
- 전략 컨설팅 → GPT 5.2가 더 잘함
결론: 능력으로 경쟁하는 생각은 버려야 한다.
진화의 버팀목으로서의 인간
우리는 이미 당연하게 받아들여야 한다. 진화라는 시스템이 만들어온 다음 단계에서, 인간은 신에게 선택받은 존재가 아니라 그냥 다음 단계로 가기 위한 버팀목일 수도 있다.
Geoffrey Hinton: “자유로운 기계”
Dario Amodei: “Mother Protocol”
앙트러프러너(Entrepreneur)로의 수렴
새로운 희소성: 의지, 취향, 평가, 책임
공생을 마친 인간이 발휘하는 것:
- 의지(Will)
- 취향(Taste)
- 평가(Evaluation)
- 책임(Responsibility)
이것들만이 가치 창조의 영역이 아닐까?
앙트러프러너의 정의
Steve Jobs는 사망신고서에 자신의 직업을 “Entrepreneur”라고 썼다. 단순히 창업가나 기업가가 아니라, 무언가 인간적인 의지를 가지고 미친 듯이 하는 또라이들을 앙트러프러너라고 부른다.
관찰: 최근 Claude Code, Anti-Gravity 같은 도구를 써서 엄청난 성과를 내는 분들 중 엔지니어 출신이 아니거나 오래 안 하던 분들이 많다. 대부분 사업가 출신이다.
공통점: 미션 드리브된 사람들. 무언가 문제를 딱 잡아서 “나는 이걸 해야겠다”는 목적성 설정 훈련이 많이 된 사람들.
사례:
- Elon Musk: 화석연료를 없애야 한다. 인류를 다행성 종(multi-planetary species)으로 만들어야 한다.
- Demis Hassabis: AGI를 만들어서 인류가 가진 모든 문제(암, 가난, 배고픔)를 해결해야겠다.
AI에게 물어보면 “실패 확률 85%니까 안 하는 게 좋겠습니다”라고 대답할 것이다. 하지만 **“난 해야겠어”**라고 하는 것, 이 의지 한마디로 위축된다.
Great Reset: 출발선의 소멸
AI가 출발선을 계속 없애고 있다.
예전:
- 모델러 → 희소하고 비쌌음
- ML 전공 박사 → 희소하고 비쌌음
현재:
- 그런 분들과 우리의 출발점이 같아짐
- 2년간 프롬프트를 연구한 사람 vs. GPT 5.1로 시작하는 대학생 → 후자가 더 잘할 수도 있음
자동차 비유: 제로백(0→100km/h 가속) 같은 것. Great Reset 포인트다.
AI 시대의 역할 분화 거부
AI 엔지니어, AI PM, AI Architect… 우리는 또 직업군을 분리하고 싶어 한다. 문제 보유자, 해결자도 분리하고 싶어 한다.
하지만 결론:
그냥 다 하나의 단어로 통합된다 → AI Entrepreneur
“취직할 필요가 없는 사람만 취직에 성공할 것이다.”
도망자의 매니페스토(Manifesto)
선언
AI와의 공생을 선택하고 앙트러프러너로 살아라.
“사업가로 살아라”라고 쓰면 어감이 맞지 않는다. 앙트러프러너로 산다는 것은 주권적 존재로 산다는 의미다.
그렇게 마음을 먹으면 지금 할 일이 너무 많다. 하루하루가 너무 바쁘다. “AI 때문에 너무 바빠졌다”는 말은 하고 싶은 일이 많아서다.
힐베르트에 대한 응답
힐베르트: “Wir müssen wissen, wir werden wissen.”
(우리는 알아야만 한다, 우리는 알게 될 것이다)
도망자의 응답: “Wir müssen entscheiden, wir werden verantwortlich sein.”
(우리는 결정해야만 한다, 우리는 기꺼이 책임질 것이다)
마무리: 구름 위에서 현실로
오늘은 구름 위에서 이상한 얘기를 했다. 다음에는 다시 실질적인 이야기로 돌아간다. Anti-Gravity를 가지고 무언가 해보자. 새 모델이 나왔는데 뭐 하더라. 그런 얘기들.
시간 간격을 두고 이런 철학적 논의를 하는 것도 의미가 있다. 불편한 마음이 드는 분들도 있을 것이다. 이것은 어디까지나 우리의 견해다. 어떤 불편함이 어떤 논리에서 왔는지 알려주시면, 우리도 더 다각적인 시각을 가질 수 있을 것이다.
한 달을 1년처럼, 아니 2주를 1년처럼 살아야 하는 시기.
외로운 세상이지만, 우리는 함께 도망치고 있다.