40:30 - 창작 글쓰기 루프 실험 결과물 - 귤 에세이와 헌법·인수조건 구조 화면
그러나 같은 메커니즘으로 농담을 쓰게 하자 완전히 실패했다. 시트콤 장면, 심야 버스를 화두로 한 코미디 모두 “하나도 안 웃겼다.” 스탠드업 코미디, 시트콤, 만자이(漫才) 방법론을 리서치하고 평가 기준을 세워도 결과물의 질은 낮았다. 정선은 이것이 Karpathy의 관찰을 직접 확인한 것이라고 말한다. 루프가 닫히지 않는 영역이 실재한다.
왜 산문은 되고 농담은 안 될까? 정선의 잠정 결론은 이렇다. 현재 레짐에서는 사전 훈련(pre-training)과 강화학습을 결합해도 “웃음”이라는 검증 불가능한 평가를 루프에 코드화하기가 어렵다. 투자 인센티브가 없을 수도 있고, 훈련 환경 자체가 불안정할 수도 있다. 실제로 OpenAI가 작년 GPT-4.5를 출시했다가 금방 방향을 수정한 것도, 창의적 글쓰기에 강한 그 모델이 비즈니스 영역이 아니라는 판단 때문이었을 가능성이 있다고 진행자는 추측한다. 어쨌든 현재 모델로는 같은 하네스를 써도 농담은 잘 작동하지 않는다.
이 실험에서 얻은 또 다른 통찰은 취향의 본질에 관한 것이다. “취향은 좋아하는 것만이 아니라, 싫어하는 것이 굉장히 강력한 신호”라는 발견이다. 프롬프트에서 “나는 어떤 이유로 이것을 채택하지 않는다”는 거절 기준을 명시했을 때 글의 품질이 눈에 띄게 향상된다. 루프를 훈련하는 것은 긍정적 신호만이 아니라 부정적 신호의 설계도 포함된다. 이는 코미디언들이 회의를 통해 “이건 안 웃겨”를 반복하며 개그를 깎아내는 과정과 구조적으로 동일하지만, 그 결과물의 품질에서는 아직 결정적인 차이가 남아 있다.
7. 인간의 도피처: AI가 삼킬 수 없는 영역
코딩에서 사이언스로
실리콘밸리의 똑똑한 사람들이 지금 어디로 향하고 있는가를 진행자들은 예의주시하고 있다. 코딩 영역이 AI에 의해 빠르게 상품화되는 것처럼, 그 다음 파도는 과학(science) 분야라는 것이 공통된 관찰이다. 재료공학에서 신소재를 탐색하는 스타트업들, AlphaFold와 AlphaGenomics 덕분에 빠르게 소프트웨어화되고 있는 생명공학이 그 예다. 이른바 “웻랩(wet lab)”, 비커에 물을 붓고 실험하는 방식이 필요 없는 소프트웨어 환경으로의 전환이 가속화되고 있다. Karpathy 자신도 Eureka Labs 이외에 분자생물학(Molecular Biology)을 오래전부터 깊이 공부해 왔으며, 그의 친한 친구가 창업한 생명과학 스타트업과도 교류하고 있다.
33:14 - Anthropic 과학 블로그 지표 화면 - 총 Claude 세션 수, 입력 토큰 약 2750만 등 수치
진입 문턱은 높다. 최소한 박사 과정에 준하는 도메인 지식을 필요로 하기 때문이다. 그러나 진행자는 이 문턱 자체도 AI로 인해 낮아지고 있다고 본다. 예전에는 신약 개발을 위해 생명공학 박사 수준의 지식이 반드시 필요했지만, 이제는 잘 정리된 책 한 권을 읽고 철학적 깨달음을 얻는 것만으로도 그 영역의 최전선에 접근할 수 있게 됐다. 의지만 있으면 예전에는 최고급 전문가만 할 수 있었던 일을 이제는 할 수 있는 시대가 된 것이다. 코딩에서 일어났던 그 변화가 사이언스에서도 일어나지 말란 법은 없다.
바이스 버사: 상호 침범의 시대
진행자들은 이 현상을 “상호 침범(vice versa)“으로 표현한다. 물리학자가 JAX를 써서 시뮬레이터를 만들고, 엔지니어가 생명공학 프론티어에서 연구하는 시대가 왔다. Rust를 전문적으로 배운 엔지니어들이 있는 반면, 엔지니어가 아니었던 사람이 Rust로 백엔드를 다시 짜는 일도 일어나고 있다. 경계는 허물어지고 있다. 그러나 이 모든 것이 타이밍 이슈로 귀결된다는 것도 진행자들은 인정한다. 지금 무언가를 먼저 해놓아도, 뒤따라오는 사람들이 더 좋은 도구(더 발전한 모델)를 가지고 캐치업하기가 점점 쉬워진다. 두 달 먼저 시작했다는 우위가 녹아내리는 속도가 가팔라지고 있다.
결국 지속적 경쟁 우위는 브랜드와 축적에서 온다. 고가의 명품 가방처럼 누구나 만들 수 있어도, 오랫동안 같은 방향으로 반복해온 사람의 브랜드로 사람들이 몰리는 구조다. 재능이 평등해지더라도 오래 반복한 사람이 만든 것을 사람들은 선택한다. 시간 가치, 즉 먼저 한 것의 상대적 이득이 사라지기 전에 얼마나 가치를 창출했느냐, 그리고 브랜드로 전환했느냐가 AI 시대 개인과 기업의 핵심 전략이 된다.
8. 암묵지의 리버스 엔지니어링: 루프를 닫기 위한 마지막 관문
정선은 에피소드 마무리에 “암묵지에 관한 리버스 엔지니어링 가설”을 제시한다. 어떤 인물이 해낸 결과물이 있을 때, 그 결과물에 도달하기를 기대하는 최소한의 하네스와 인수조건, 그리고 이를 스스로 끌어올리는 부트스트래핑 루프가 작동하는 리포지터리를 만드는 것이 핵심이라는 것이다. 이 리포지터리 안에서 루프가 인수조건을 통과해 결과물에 준하는 것을 만들었다면, 그 수준의 다른 결과물로 커버리지를 넓히며 루프를 반복한다.
56:07 - 체덱스(Chedecks) 하네스 구조 및 자기 개선 루프 설계 설명 화면
그러나 이 가설은 날카로운 자기 모순적 질문을 낳는다. 만약 자신의 암묵지를 착습(착상·습득)하는 데 성공했고 복제 가능해졌다면, 그때 자신의 가치는 무엇이 되는가? 내가 복제할 수 있으면 다른 사람도 복제할 수 있는 것 아닌가? 이 질문에 대한 잠정 답은 세 가지다. 첫째, 복제 스킬 자체의 우위, 즉 얼마나 빨리 얼마나 정교하게 복제하느냐의 차이가 여전히 남는다. 둘째, 시간 가치, 즉 먼저 한 것의 상대적 이득이 소멸하기 전 얼마나 가치를 창출했느냐의 문제다. 셋째, 브랜드, 즉 오랫동안 같은 방향으로 반복해온 신뢰와 선호다. 루프가 닫혀도 시간을 앞선 사람의 가치는 타이밍의 시차만큼 살아있다.
Anthropic의 하네스 블로그가 마지막에 남기는 말도 이 방향을 가리킨다. “모델이 좋아질수록 흥미로운 하네스 조합의 공간이 줄어드는 것이 아니다. 오히려 그 공간은 이동한다. AI 엔지니어에게 흥미로운 일은 그 다음 새로운 조합을 계속 찾아내는 것이다.” 진행자 승준은 이것이 자신이 이야기해온 것의 정리된 에디션이라고 말하며, 이 인식은 이제 업계 전반이 공유하는 것이 되었다고 덧붙인다.
마무리: 루프가 닫히는 곳과 닫히지 않는 곳
에피소드를 관통하는 메시지는 Karpathy의 마지막 말로 수렴한다. “에이전트가 못하는 것이 이제 당신의 일이다. 에이전트가 할 수 있는 것은 아마 당신보다 더 잘하거나 곧 그렇게 될 것이다. 그러므로 실제로 시간을 어디에 쓸지 전략적이어야 한다.” 이것은 개방형 질문이자 시대의 요청이다.
루프를 닫을 수 있는 곳에서 에이전트는 수렴한다. 루프를 닫을 수 없는 곳, 즉 평가 기준 자체가 암묵적이고 측정 불가능한 영역에 인간이 남는다. 농담이 그 예고, 수학자의 직관이 그 예이며, 삑사리를 잡아내는 도메인 전문가의 안목이 그 예다. 그러나 이 불가 영역도 시간이 지나면 루프가 닫힐 수 있다는 것을 부정할 수 없다. 소거법을 계속 적용하면 남는 것은 점점 줄어들지도 모른다.
그래서 진행자들이 내리는 결론은 정적인 “이것만큼은 안 된다”가 아니라 동적인 “지금 이 순간 루프가 닫히지 않는 가장 가치 있는 영역을 찾아내라”는 것이다. 주제를 명확하게 세팅하는 능력, 현재의 맥락을 읽고 시간을 어디에 써야 할지를 판단하는 능력이 AI 시대의 가장 중요한 인간적 역량으로 떠오른다. 루프는 목표가 주어질 때 닫힌다. 그 목표를 누가 어떻게 설정하느냐가 남은 질문이다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | EP 92. 루프를 닫아라 |
| 채널 | 노정석 |
| 리포트 작성 | 2026-03-30 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.