EP 88. 비결은 없다
📺 원본 영상: EP 88. 비결은 없다 🎙️ 채널: 노정석 📅 정리 일자: 2026-03-05 ⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 그래프, 슬라이드 등)는 포함되지 않을 수 있으며, 일부 STT 오인식 구간은 문맥 기반으로 교정하거나 별도 표기하였습니다.
개요
2026년 3월 1일, 노정석 채널의 호스트는 AI 연구자 성현을 다시 초대해 지난 두 달간 AI 분야에서 벌어진 일들을 짚어보고 앞으로의 방향을 가늠해 보는 자리를 마련했다. 두 사람의 대담은 단순한 최신 뉴스 정리가 아니라, RL(Reinforcement Learning, 강화학습)이 사실상 정답으로 굳어진 이 시점에서 진짜 승부처는 무엇인가라는 질문을 중심으로 전개된다. 에피소드의 제목이 ‘비결은 없다’인 이유는 명확하다. 프론티어 AI 기업들이 경쟁 우위를 갖는 것이 어떤 숨겨진 마법 같은 레시피 때문이 아니라, 기본기를 얼마나 잘 실행하느냐의 문제로 수렴되고 있기 때문이다.
‘비결은 없다’ — RL 이후 AI 개발의 풍경
성현은 이번 세션의 주제를 설정하면서, 특정 기술 하나를 집어 “이것이 미래를 바꿀 혁신”이라고 선언하기가 점점 어려워졌다는 점을 솔직하게 인정하는 것에서 출발한다. DeepSeek V4가 출시되더라도, 혹은 Zhipu AI(ZAI)의 GLM5 같은 뛰어난 연구 논문이 나오더라도, 그 기술들이 아무리 흥미롭더라도 “이러한 혁신이 있었기 때문에 앞으로 AI는 이렇게 발전할 것이다”는 식의 패러다임 전환 서사를 만들기 어렵다는 것이다. 이유는 간단하다. 현재 AI 모델 개발에서 가장 중요한 방법론은 이미 RL로 수렴했기 때문이다.
이 시점에서 성현은 ‘비밀 레시피(secret recipe)’ 개념을 꺼낸다. 과거에는 프론티어 기업들이 다른 회사들은 알 수 없는 어떤 핵심 기술을 독점하고 있기 때문에 앞서 있다는 믿음이 있었다. 그러나 GPT-3.5 시절부터 지금까지 AI 발전의 궤적을 돌아보면, 대부분의 혁신들은 지속적으로 모델을 개선하다 보면 자연스럽게 발견할 수 있는 것들이었다는 것이 성현의 판단이다. MoE(Mixture of Experts) 아키텍처도, RLVR(Reinforcement Learning with Verifiable Rewards)도 결국 점진적 발전의 산물이었다. 그나마 진짜 비밀 레시피에 가장 근접했던 것이 RLVR였는데, 그마저도 이제는 오픈 소스 연구와 중국 기업들의 역공학을 통해 더 이상 비밀이 아니게 되었다.
성현이 결론적으로 강조하는 것은, 지금 모델들의 성능 차이를 만드는 것은 누군가만 알고 있는 알고리즘의 차이가 아니라 더 좋은 데이터를 만들고, 안정적인 인프라를 갖추고, 충분한 연산을 투입하는 기본의 차이라는 점이다. 이는 역설적으로 후발주자들이 따라잡을 수 있는 환경이 열렸음을 의미하는 동시에, 이 기본을 오래 실행해 온 프론티어 기업들이 여전히 시간적 우위를 갖고 있음을 의미한다.
GLM5가 시사하는 혁신의 방향
Zhipu AI(ZAI)에서 발표한 GLM5 연구 리포트는 성현이 “프론티어급 보고서”로 평가하는 문서다. 이 리포트의 내용을 거칠게 요약하면 세 가지 축으로 정리된다.
첫 번째는 RL 자체를 더 효율적으로 수행하는 것이다. 여기에는 Sparse Attention(희소 어텐션)이나 Async RL(비동기 강화학습)과 같은 컴퓨팅 효율화 기법, 그리고 컨텍스트 길이를 더 효율적으로 활용하는 방법들이 포함된다. 두 번째는 RL의 학습 목적함수(objective)를 정교하게 수정해 학습을 더 안정적으로 만드는 것이다. 세 번째는 RL을 적용할 수 있는 환경의 다양성을 확대하는 것, 즉 환경 스케일링(environment scaling)이다.
성현이 이 내용에서 발견하는 패턴은 하나로 귀결된다. GLM5에서 다루는 수많은 혁신들이 거의 전부 RL과 관련되어 있으며, “RL을 더 효율적으로, 더 안정적으로, 더 다양하게 실행하는 것”이 지금 AI 연구의 핵심 방향이라는 것이다. 이는 Shunyu Yao가 제시한 “The Second Half(두 번째 반전)“의 프레임과 정확하게 맞아떨어진다.
💡 [영상 참조] 성현은 이 지점에서 DeepSeek 관련 기술들(STT 오인식 구간 포함, 원문에서는 “N그램”과 “MHC”로 기록되었으나 각각 NSA(Native Sparse Attention), MLA(Multi-head Latent Attention)의 오인식으로 추정됨)을 언급하며 설명합니다. 상세 내용은 원본 영상을 확인하세요.
Shunyu Yao의 ‘The Second Half’ — 지금 우리는 어디에 있는가
성현이 현재 AI 발전 단계를 이해하는 핵심 프레임은 Shunyu Yao의 에세이 “The Second Half(두 번째 반전)“에서 가져온다. Yao의 논지는 이렇다. AI 연구의 “첫 번째 반전(The First Half)“은 벤치마크를 만들고, 그 벤치마크를 푸는 방법을 개발하고, 그 방법이 통하면 더 어려운 벤치마크를 만드는 사이클로 운영되었다. 그런데 “두 번째 반전”에 접어들면서 패러다임이 바뀌었다. 방법에 대한 답을 찾았으니, 이제는 그 답(RL)을 가지고 여러 문제에 적용하기만 하면 된다는 것이다.
이 발언이 처음 나왔을 때 다소 오만하게 들렸다고 성현은 회고한다. 그러나 2025년부터 현재까지 실제로 벌어진 일들을 돌아보면 이 표현이 놀랍도록 정확했다. AI 연구의 거의 모든 노력이 RL로 집중되었고, RL을 더 잘 실행하는 것과 RL을 더 넓은 영역으로 확장하는 것이 사실상 전부였다. 방법론에서 근본적인 패러다임 전환은 없었고, 기존의 RL이라는 방법론 안에서 갈고 닦는 과정이 지금 AI 산업의 현실이다.
이런 맥락에서 성현은 “기술적 혁신”이라는 단어를 쓸 때의 무게가 이전과 달라졌음을 인정한다. 방법의 혁신에 대해 흥미롭게 말할 수 있는 것이 줄어들었다. “계속 RL이니까요”라는 성현의 말이 이 상황을 가장 단적으로 표현한다. 이는 비관론이 아니라 현실 진단이다. RL이 자리를 잡았다는 것은 곧 누가 이 방법론을 더 잘 실행하느냐의 경쟁이 시작됐다는 의미이기도 하기 때문이다.
환경 스케일링 — 미래 AI 발전의 진짜 병목
성현이 “미래 예측에서 그나마 가늠하기 쉬운 문제”라고 지목하는 것이 환경 스케일링(environment scaling)이다. RL의 맥락에서 “환경(environment)“이란 에이전트가 그 안에서 행동(action)을 취하고, 환경의 변화를 관찰하며, 최종적으로 보상(reward)을 받는 공간을 의미한다.
현재 LLM 에이전트에게 주어지는 대표적인 환경은 소프트웨어 엔지니어링 과제다. “이 버그를 고쳐라”는 과제가 주어지면, 에이전트는 소스코드와 도구를 이용해 상호작용하고 결과에 따른 보상을 받는다. 그런데 AI의 능력이 발전함에 따라 과제의 복잡도도 함께 올라가야 한다. 단순한 함수 하나를 작성하는 것에서 시작해, 완전한 프로그램으로, 나아가 하나의 서비스 전체를 구축하는 것으로 과제의 스케일이 커진다. 이에 따라 RL을 학습시킬 환경 자체도 더 복잡하고 다양하게 만들어야 한다.
이것이 성현이 말하는 “환경 스케일링 문제”다. Shunyu Yao의 표현을 빌리면, 방법(RL)에 대한 답은 찾았지만 그 방법을 적용할 환경을 계속 만들어 나가는 것이 지금의 기술적 병목이다. RL이라는 방법 자체가 주어졌다고 해도, 그것을 적용할 복잡한 환경을 어떻게 확장해 나가느냐에 따라 AI의 발전 궤적이 완전히 달라진다.
세 가지 발전 시나리오
💡 [영상 참조] 성현은 이 지점에서 세 가지 발전 시나리오를 나타내는 곡선 그래프를 화면에 표시하며 설명합니다. 색상(파란색, 녹색, 선형)으로 각 시나리오를 구분하고 있습니다. 상세 내용은 원본 영상을 확인하세요.
성현은 환경 스케일링 문제가 어떻게 풀리느냐에 따라 AI 발전이 세 가지 궤적 중 하나를 따를 것이라고 분석한다.
**첫 번째 시나리오(지수적 성장)**는 기술적 돌파구가 환경 스케일링 문제를 단번에 해결하는 경우다. 성현이 가장 가능성 있는 후보로 지목하는 것은 지속학습(Continual Learning)이다. 지속학습이 해결된다면 모델이 스스로를 부트스트래핑(bootstrapping)할 수 있게 된다. 즉, 모델이 스스로 환경을 발견하고 문제를 풀면서 자신을 발전시키는 선순환이 시작된다. 기술이 기술의 문제를 풀어버리는 이 시나리오는 AI 발전의 급격한 가속으로 이어질 것이다.
**두 번째 시나리오(점근적 정체)**는 비관적 경우다. 풀어야 하는 과제의 복잡도가 계속 증가하는데, 그 복잡도에 비례해 환경을 만드는 비용과 시간도 동일하게 또는 그 이상으로 증가하는 상황이다. 기술적 혁신이 거의 없고 수작업으로만 환경을 확장해야 하는 경우, 어느 시점에서 복잡성이 감당 불가능한 수준에 달해 발전이 사실상 정체된다.
**세 번째 시나리오(선형적 점진)**는 가장 현실에 가까운 경우다. 과제의 복잡성이 높아지면 발전 속도가 다소 느려지지만, 그즈음에 소규모 기술 혁신(합성 데이터, 새로운 환경 설계 기법 등)이 등장해 복잡성을 다시 낮추고, 그 다음 단계의 과제로 나아가는 사이클이 반복된다. 원거리에서 보면 직선처럼 보이는 이 궤적은 실제로는 가속과 감속이 반복되는 계단형에 가깝다.
성현은 개인적으로 첫 번째(지수적) 시나리오의 가능성이 적지 않다고 본다. 지속학습 문제가 AI 커뮤니티 전체의 주목을 받기 시작했고, 많은 연구자들이 이 문제에 집중하고 있기 때문이다. 다만 현실적으로 가장 가능성이 높은 것은 세 번째 선형 시나리오라는 것도 인정한다. 그리고 선형적 발전이라 하더라도, 사용자가 체감하는 변화의 폭은 그것보다 훨씬 클 수 있다는 점을 덧붙인다.
모델이 곧 제품이다 — 포스트 트레이닝과 캐릭터
성현과 호스트가 공통으로 강조하는 명제는 “모델이 곧 제품이다”라는 것이다. 이 명제가 지금 왜 더욱 자명하게 느껴지는지를 이해하려면 프리 트레이닝(pre-training)과 포스트 트레이닝(post-training)의 역할 구분을 봐야 한다.
성현은 프리 트레이닝 측면에서는 Gemini가 여전히 가장 강력하다고 추정한다. 방대한 사전학습 데이터와 Google의 인프라가 만들어낸 기반 지식의 품질이 타의 추종을 불허한다는 것이다. 그러나 사람들이 Claude를 선호하거나 Codex(OpenAI)를 선호하거나, 또는 Gemini를 선호하는 이유는 프리 트레이닝의 차이에서 오는 것이 아니다. 그 차이는 포스트 트레이닝에서 발생한다.
Claude의 예를 들면, 많은 사용자들이 Claude의 ‘캐릭터’를 좋아한다. 직관적이고, 인간의 사고 방식과 잘 공명하며, 대화를 통해 진정성 있게 소통한다는 느낌을 준다. 성현은 이 캐릭터가 단순한 기술적 혁신의 산물이 아니라고 분석한다. Anthropic의 Amanda Askell 같은 연구자들이 Constitutional AI를 설계하고, Claude라는 제품이 어떤 성향과 캐릭터를 가져야 하는지를 오랜 시간 고민하며 정련한 결과물이라는 것이다. 즉, 포스트 트레이닝은 단순히 모델을 더 똑똑하게 만드는 과정이 아니라, 제품으로서의 정체성을 부여하는 과정이기도 하다.
이 관점은 AI 조직들이 갖는 연구 지향적 성향과 제품 지향적 감각의 긴장을 지적하는 것으로도 이어진다. 새로운 알고리즘 혁신에 관심을 갖는 것은 자연스럽지만, 제품을 만든다는 것은 수많은 반복과 시행착오, 사용 사례 축적을 통해 조금씩 갈고 닦는 과정이 필요하다. 성현은 이 두 감각의 균형, 특히 제품 감각의 중요성이 지금 시점에서 그 어느 때보다 높아졌다고 강조한다.
하네스와 모델의 변증법적 진화
대담에서 특히 흥미로운 논의는 모델과 하네스(harness — 모델을 감싸는 프레임워크/래퍼) 사이의 관계를 변증법적으로 바라보는 시각이다. 성현은 두 가지 방향에서 이 관계를 분석한다.
2년 전만 해도, 에이전트 제품을 만들려는 시도는 모델이 에이전트 역할을 할 수 있도록 틀을 정교하게 설계하는 방식에 의존했다. 모델을 정해진 외골격에 끼워 넣는 형태였고, 모델 자체의 에이전트 능력이 부족했기 때문에 하네스가 복잡해질수록 제품의 안정성이 떨어졌다. 그러나 시간이 지나면서 공통된 패턴이 발견됐다. 복잡한 하네스를 몇 달에 걸쳐 개발한 제품보다, 3~6개월을 기다려 새 모델이 출시되면 단순한 하네스로 더 강력한 제품을 만들 수 있었다는 것이다.
이 패턴이 지금도 계속된다는 것이 성현의 주장이다. 더 나아가, 모델 개발사들이 에이전틱 모델을 만들면서 특화된 하네스도 함께 갖추게 되었다는 점이 중요하다. Claude Code가 그 예다. Anthropic이 Claude Code라는 하네스를 만들었다면, 그 하네스 자체가 RL 환경의 일부가 된다. 모델은 이미 이 하네스를 통해 학습되어 출시된 것이다. 즉, 모델과 하네스의 결합이 곧 제품이고, 그 결합은 모델 학습이 완료된 시점에 이미 존재한다.
결과적으로 이 과정은 정반합(正反合) 형태로 계속 진행된다. 모델이 좋아지면 하네스의 가능성이 확장되고, 그 하네스가 더 나은 결과를 만들어내면 다음 세대 모델이 그것을 내재화하며 더 나은 출발선에 서게 된다. 호스트가 표현한 것처럼, 끊임없는 변화가 단절적 혁명이 아닌 연속적 진화의 형태로 쌓여 가는 것이다.
컨텍스트 관리와 지속학습의 지평
대담은 컨텍스트 길이와 관리 문제로도 깊이 들어간다. 트랜스포머 모델의 컨텍스트 창이 1M 토큰 근방에서 오랜 기간 정체되어 있는 가운데, 업계는 다양한 방식으로 이 한계를 우회해 왔다. Sparse Attention 같은 기술 기반 접근과 함께, 점점 더 부각되는 것은 모델 자체가 컨텍스트를 스스로 관리하도록 만드는 방식이다.
성현이 설명하는 구체적인 메커니즘은 다음과 같다. 모델이 긴 작업을 수행하다가 컨텍스트 한계에 근접했다고 판단하면, 지금까지의 작업 상황을 요약해 다음 에이전트 인스턴스에 넘기는 의사결정을 스스로 내린다. 이 다음 모델 호출 자체가 일종의 도구 사용이 되며, 이런 형태의 체인(chain)이 연쇄됨으로써 사실상 무한한 길이의 작업을 처리할 수 있게 된다. Anthropic의 Claude에서 구현된 Compaction(컴팩션 — 컨텍스트 자동 압축) 기능도 이와 유사한 원리로 동작한다.
성현이 강조하는 핵심은, 이러한 컨텍스트 관리 메커니즘이 RL을 통해 학습될 수 있다는 점이다. 이전에는 하네스가 언제 컨텍스트를 압축할지, 어떻게 요약할지, 다음으로 어떻게 넘길지를 모두 수작업으로 설계했다면, 이제는 이 과정 전체가 학습 가능한 행동(learnable behavior)이 된다. 모델이 스스로 컨텍스트를 관리하는 능력을 갖추면, 이를 위해 설계되었던 복잡한 하네스 구조들의 역할이 근본적으로 재정의된다.
그러나 성현은 이것이 지속학습(Continual Learning)과는 구별되어야 한다고 강조한다. 컨텍스트 관리는 추론 시점(inference time)에서 작동하는 메커니즘이지만, 지속학습은 모델의 가중치 자체가 실시간으로 갱신되는 것을 의미한다. Dario Amodei(다리오 아모데이)가 최근 인터뷰에서 “지속학습 없이도 문제를 풀 수 있다”는 뉘앙스를 비쳤지만, 성현은 여전히 컨텍스트 관리만으로는 한계가 있으며 진정한 지속학습이 필요하다는 입장이다. 다만 모든 프론티어 기업들이 실제로는 지속학습을 연구하고 있으며, 이 문제가 해결된다면 앞서 언급한 지수적 성장 시나리오로 이어질 가능성이 있다고 본다.
기술을 기다리는 전략
성현이 제시하는 또 하나의 중요한 관점은 “기술을 기다리는 전략”이다. 이것은 단순한 수동적 관망이 아니라, AI 기술의 발전 속도를 이해하고 그것을 전략적으로 활용하는 태도다.
Claude Code를 만든 Boris의 말이 이 전략을 가장 잘 요약한다. “지금 모델로 안 되는 문제가 있다면, 6개월 후의 모델이 될 거라고 가정하고 6개월 후의 모델을 상대로 제품을 만든다.” 프론티어 기업에 있기 때문에 가능한 전략이기도 하지만, 이 안에는 중요한 통찰이 있다. 지금 시점의 기술 한계를 절대적인 것으로 간주하고 복잡한 우회로를 만드는 것보다, 곧 그 한계가 해소될 것을 전제로 사고하는 것이 더 유효한 전략일 수 있다는 것이다.
성현은 여기서 이미지 생성 AI 초기 시절의 예를 든다. 손가락을 제대로 그리지 못하던 초기 모델을 보고 “이걸 어떻게 쓰겠냐”고 했던 사람들은, 그 한계가 시간이 지나면 해결될 문제였다는 것을 간과했다. 사람들은 지금 시점에서 가능한 것과 가능하지 않은 것을 기준으로, 앞으로도 그것이 계속될 것이라고 믿는 경향이 있다. 그러나 많은 현재의 한계들은 시간이 지나면 해결될 문제들이다. 중요한 것은 그 한계가 해소되었을 때 어떤 일이 벌어질까를 기준으로 사고하는 것이다.
이 관점은 AI를 배워야 하는지 말아야 하는지, 어떤 직업이 살아남을지에 관한 논의들이 실은 미래의 AI 모델이 어떤 수준에 있을 것인가에 대한 가정을 깔고 있다는 점을 상기시킨다. 프롬프트를 정교하게 짜야 AI를 잘 쓸 수 있다는 전제는, 앞으로도 AI가 지금과 비슷한 수준에 머물 것이라는 가정 위에서만 성립한다.
진보의 안개 속에서의 균형 감각
대담의 흐름을 관통하는 또 하나의 주제는 ‘진보의 안개(Fog of Progress)‘다. 성현이 이전 세션에서도 언급한 Princeton 대학 교수가 제시한 이 개념은, AI 발전의 미래가 가까운 근접 지점은 어느 정도 보이지만 멀리 갈수록 지수적으로 불확실해진다는 것을 의미한다.
흥미로운 것은, 이 안개 속에서 어느 위치에 서 있는가가 관찰자마다 다르다는 점이다. 프론티어 기업들은 안개의 더 앞쪽에 있어 더 많은 것을 볼 수 있고, 일반 사용자들은 상대적으로 뒤에서 따라가며 더 적게 본다. 이 상대성이 각자의 예측과 전략을 다르게 만든다.
호스트는 극단적인 낙관론과 비관론 사이에서 균형 감각을 유지하는 것이 지금 시대에 가장 중요한 인간의 능력이 아닐까 제안한다. 한 가지 예측에 과도하게 베팅하는 사람들이 기회를 놓치거나, 한 번은 맞추더라도 그 다음에는 틀리는 경우를 반복적으로 목격해 왔다는 것이다. 불확실성이 너무 높은 영역에서 어느 하나의 확신이 모든 행동을 지배하게 되면, 그 확신이 틀렸을 때의 비용이 너무 크다.
성현이 개인적으로 도달한 태도는, AI 발전을 막연히 두려워하거나 조바심 내기보다는 “즐기는 것”이다. 앞으로 등장할 더 강력한 모델들이 지금 어렵거나 불가능한 것들을 더 쉽고 강력하게 해낼 수 있게 해줄 것이라는 기대 속에서, 현재 자신이 잘할 수 있는 것에 집중하는 전략이다. 이것이 성현이 AI 모델 연구 자체를 즐기는 방향으로 방향을 잡게 된 이유이기도 하다.
마무리 — 2026년의 관전 포인트
두 달만에 만난 두 사람이 공통적으로 확인한 것은, 모델이 지난 두 달 동안 급진적으로 두 배 세 배 좋아진 것은 아니지만 이미 현재의 모델들이 충분히 쓸만한 수준에 도달했다는 사실이다. 그리고 그 위에서 제품들이 많이 만들어지고 있다. AI의 파급력은 어느덧 한 기업의 제품 발표 하나가 다른 여러 기업의 주가를 출렁이게 만들고, 모델 제공 조건이 국가적 정책 논쟁이 될 정도로 커졌다.
2026년의 가장 중요한 키워드는 결국 RL에서의 돌파구다. RLVR 이후 포스트 트레이닝에서 누가 어떤 브레이크스루를 만드느냐, 그리고 환경 스케일링 문제를 어떻게 풀어나가느냐가 앞으로의 모델 발전 궤적을 결정할 것이다. 지속학습이 해결되어 지수적 성장으로 이어질 것인지, 아니면 점진적 선형 발전이 이어지면서도 사용자가 체감하는 변화의 폭은 큰 상태를 유지할 것인지. DeepSeek V4가 어떤 깜짝 선물을 가져올지, NVIDIA GTC를 비롯한 3~5월의 이벤트들이 어떤 신호를 보낼지도 주목할 지점이다.
성현은 이번 세션을 마치며 영국으로 이직해 런던에 자리를 잡게 되었음을 밝혔다. AI 연구의 최전선에서 일하며 모델을 만들고 개선하는 작업 자체가 즐겁다는 그의 말은, “비결은 없다”는 에피소드의 제목과 맞닿아 있다. 화려한 비밀 레시피가 아닌, 기본에 충실하게 모델을 갈고 닦는 것. 그것이 지금 AI 개발의 실질적인 전선이고, 동시에 성현 개인이 선택한 방향이기도 하다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | EP 88. 비결은 없다 |
| 채널 | 노정석 |
| 리포트 작성 | 2026-03-05 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. STT 오인식으로 인해 일부 고유명사(특히 DeepSeek 아키텍처 관련 용어, “오픈클로” 등)는 문맥 기반으로 추정 교정하거나 불확실 표기를 남겼습니다. 정확한 내용은 원본 영상을 참조해 주세요.