EP 104. GPT-5.6 공개부터 ICML 현장까지
📺 원본 영상: EP 104. GPT-5.6 공개부터 ICML 현장까지
🎙️ 채널: AI Frontier Korea (노정석)
📅 정리 일자: 2026-07-18
⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료, 차트, 코드, 슬라이드 등은 포함되지 않을 수 있습니다.
개요
이번 에피소드는 2026년 7월 11일 녹화 시점을 기준으로, GPT-5.6 공개 직후의 시장 반응과 ICML 현장에서 관찰된 AI 산업의 구조 변화를 함께 다룬다. 강연자들은 단순히 새 모델의 성능을 평가하는 데 그치지 않고, 테스트 타임 컴퓨트(Test-time Compute), 자기 개선(Self-improvement), 인퍼런스 인프라, 데이터셋 비즈니스, AI for Science, 온프레미스 모델 전략까지 연결해 현재 AI 산업이 어디로 압축적으로 이동하고 있는지를 해석한다.
핵심 메시지는 명확하다. 모델 성능 경쟁은 여전히 빠르게 진행되고 있지만, 실제 산업의 무게중심은 모델 하나를 잘 쓰는 문제에서 데이터센터, 칩, 인퍼런스, 데이터, 하니스(Harness), 평가 체계, 애플리케이션 워크플로우를 모두 이해해야 하는 종합 시스템 경쟁으로 이동하고 있다. ICML이라는 학회 현장은 이 변화가 학계 내부의 논문 경쟁만이 아니라 산업 전체의 자본, 채용, 인프라, 지정학으로 확장되고 있음을 보여주는 장면으로 해석된다.
GPT-5.6 공개가 보여준 모델 경쟁의 새로운 국면
영상 초반부에서 강연자들은 GPT-5.6 공개를 한 주의 가장 큰 사건으로 다룬다. 공개 직전에는 xAI의 Grok 4.5, Moonshot/Kimi 계열 모델 등 주변 모델 발표가 이어졌고, Google Gemini 3.5 Pro는 여름 출시가 거론되었지만 녹화 시점인 2026년 7월 11일에는 아직 나오지 않은 상태로 언급된다. 이 흐름은 프론티어 모델 발표가 더 이상 단일 기업의 이벤트가 아니라, 경쟁사와 주변 플레이어들이 타이밍을 맞춰 존재감을 드러내는 산업 이벤트가 되었음을 보여준다.
강연자에 따르면 GPT-5.6은 일부 네임드 사용자들에게 길게는 두 달 전부터 제공된 것으로 보이며, 공개 직후 올라온 반응의 공통점은 “GPT-5급의 거대한 모델 향기는 아니지만 매우 좋다”는 쪽에 가까웠다. 특히 코딩 성능에서 향상이 있었다는 반응이 많았고, “새로운 데일리 드라이버”라는 표현도 반복적으로 등장했다고 한다. 다만 실제 사용 측면에서는 비용 차감이 빠르게 느껴졌다는 의견도 나왔는데, 이는 모델 성능의 향상만큼이나 사용자가 어느 수준의 추론 노력, 즉 Effort를 선택할 것인가가 중요한 운영 문제가 되었음을 시사한다.
흥미로운 지점은 OpenAI가 GPT-5.6에서 Effort 선택지를 세분화했다는 점이다. 강연자들은 High, Max, Ultra처럼 위쪽 단계가 생기면서 사용자가 작업 난도와 비용 사이의 균형을 스스로 판단해야 하는 시대가 되었다고 본다. 이는 단순히 좋은 모델을 고르는 문제가 아니라, 어떤 업무에는 빠르고 저렴한 응답이 적합하고 어떤 업무에는 더 긴 테스트 타임 컴퓨트가 필요한지 감각을 익혀야 한다는 뜻이다. AI 사용 능력은 프롬프트 작성에서 끝나지 않고, 자원 배분과 추론 강도 관리까지 포함하는 운영 역량으로 확장되고 있다.
04:20 - GPT-5.6 웹 인터페이스에서 Chat과 Work가 나뉜 구조와 Effort 설정 관련 설명
GPT Live와 Full Duplex가 흔드는 스타트업 기회
GPT-5.6과 함께 언급된 또 하나의 변화는 GPT Live다. 강연자들은 OpenAI가 GPT-5.6 발표 하루 전 GPT Live를 기습적으로 소개했고, GPT-5.6 발표 라이브 말미에는 동시통역 용도로도 활용했다고 설명한다. STT상 “Full Duplex”로 언급된 기능은 대화 양방향이 보다 자연스럽게 동시에 오갈 수 있는 형태를 의미하는 것으로 보이며, 강연자는 이전보다 확실히 나아졌다고 평가한다.
이 변화가 중요한 이유는 기술 자체보다 시장의 재편 속도에 있다. 강연자에 따르면 스타트업 씬에서는 실시간 음성 대화나 동시통역을 핵심 제품으로 만들던 팀들이 OpenAI의 Full Duplex 형태 공개를 보며 하루 만에 좌절했다는 반응도 보였다고 한다. 물론 대형 모델 사업자가 기능을 출시했다고 해서 모든 응용 시장이 사라지는 것은 아니지만, 프론티어 랩이 인프라와 모델과 인터페이스를 동시에 끌어올릴 때 주변 스타트업의 차별화 공간이 급격히 좁아질 수 있다는 점은 분명하다.
이 사례는 최근 AI 애플리케이션 시장의 구조적 긴장을 잘 보여준다. 프론티어 랩은 모델 제공자이면서 동시에 제품 레이어까지 내려오고 있고, 스타트업은 그 위에서 특정 워크플로우나 도메인 경험으로 차별화해야 한다. 그러나 음성, 번역, 코딩, 리서치처럼 수평 기능에 가까운 영역은 프론티어 랩의 제품화 속도에 직접 노출된다. 결국 스타트업은 단순 기능이 아니라 데이터, 워크플로우, 고객 맥락, 시스템 통합 같은 더 깊은 해자를 만들어야 하는 상황으로 밀려가고 있다.
자기 개선과 하니스 엔지니어링의 부상
이번 에피소드에서 기술적으로 가장 중요한 축은 자기 개선(Self-improvement)이다. 강연자들은 OpenAI가 작은 모델인 Luna를 큰 모델인 Sol로 포스트 트레이닝(Post-training)했다는 발표 내용을 언급하며, 이것이 Recursive Self-improvement(RSI)와 연결되는 신호라고 해석한다. 다만 STT상 SFT(Supervised Fine-tuning)인지 RL(Reinforcement Learning)인지 정확히 알 수 없다고 설명했기 때문에, 이 부분은 구체적 방법을 확정하지 않고 “포스트 트레이닝을 수행했다”는 수준으로 이해하는 것이 적절하다.
강연자들은 Lillian Weng의 “자기 개선을 위한 하니스 엔지니어링” 관련 글도 함께 언급한다. 여기서 중요한 구분은 모델의 가중치 자체를 개선하는 자기 개선과, 모델을 둘러싼 평가·실험·도구 사용·검색·에이전트 루프 같은 하니스 자체를 개선하는 자기 개선이다. 현재 실무적으로는 하니스 개선이 더 빠르게 효과를 내고 있지만, OpenAI의 신호는 가중치 개선까지 자기 개선 루프 안에 들어가기 시작했다는 쪽으로 읽힌다.
이 관점은 AI 발전을 단순한 파라미터 크기 경쟁으로 보는 시각을 넘어선다. 모델이 스스로 더 좋은 데이터를 만들고, 더 나은 평가 루프를 구성하고, 작은 모델을 훈련시키고, 실험 하니스를 조정하는 구조가 자리 잡으면 연구 개발의 속도는 인간 연구자의 선형적 속도에서 벗어나기 시작한다. 강연자들이 “하니스 개선”과 “웨이트 개선”을 동시에 언급한 것은, 향후 AI 연구의 병목이 모델 아키텍처 하나가 아니라 개선 루프 전체의 설계로 이동하고 있음을 보여준다.
가격, 구독, 종량제 그리고 AI 사용의 게임화
GPT-5.6의 가격과 사용량 제한에 대한 대화는 AI 사용 경험이 점점 자원 관리 게임처럼 변하고 있다는 분석으로 이어진다. 강연자들은 GPT-5.6 가격이 Claude Opus급에 가까운 수준으로 형성된 것으로 보인다고 말하며, 입력과 출력 토큰 가격의 차이도 언급한다. 동시에 사용자 입장에서는 아직 구독 정책 안에 포함되어 있는지가 핵심 관심사라고 지적한다.
이 지점에서 GPT-6 소문도 등장한다. GPT-5.6을 일부 사용자가 이미 두 달 전부터 써봤다면, 그보다 앞선 내부 개발 타임라인에서는 GPT-6 역시 상당히 준비되어 있을 수 있다는 추측이다. 강연자들은 GPT-6이 더 큰 모델, STT상 “Mithos급”으로 들리는 대형 모델이 될 가능성을 언급하며, OpenAI가 이를 구독 요금제에 포함시킬지 종량제로 전환할지가 관전 포인트라고 본다. 이 수치는 공개 검증된 정보라기보다 영상 내 강연자들의 시장 관찰과 소문 기반 해석으로 보는 것이 안전하다.
AI 사용이 게임화되고 있다는 비유도 인상적이다. 강연자들은 사용자가 남은 rate limit, reset 타이밍, Effort 단계, 모델 선택, 작업 우선순위를 보며 마치 RTS(Real-time Strategy) 게임을 하듯 자원을 배분하고 있다고 설명한다. 예전에는 좋은 프롬프트를 던져 “근접 성공”을 얻는 슬롯머신적 경험이 강했다면, 이제는 어느 타이밍에 어떤 모델에 얼마나 큰 작업을 던질지 전략적으로 관리하는 감각이 중요해졌다. 이는 AI 네이티브 업무가 단순 자동화가 아니라 비용과 성능과 시간을 동시에 최적화하는 운영 게임으로 바뀌고 있음을 보여준다.
AtCoder, 수학 추측, 그리고 인간 이해의 위치
강연자들은 2026년 7월 9일 AtCoder 관련 소식을 언급하며, OpenAI 에이전트가 알고리즘과 휴리스틱 부문에서 인간 참가자를 크게 앞섰다고 설명한다. 구체적으로 어떤 문제를 어떻게 풀었는지는 영상에서도 자세히 다루지 않았지만, 작년 여름 AtCoder와 IMO(International Mathematical Olympiad)에서 돌파가 일어났던 흐름과 비교하면 1년 만에 최정상급 코딩 문제에서도 모델 성능이 빠르게 올라왔다는 점이 핵심이다.
12:26 - AtCoder에서 OpenAI 에이전트가 알고리즘과 휴리스틱 부문에서 인간 참가자를 앞섰다는 성능 비교 설명
수학 영역에서도 강연자들은 “Cycle Double Cover Conjecture”로 추정되는 오래된 그래프 이론 관련 추측을 AI 에이전틱 워크플로우가 다루었다는 소식을 소개한다. STT에 따르면 64개[?]의 서브 에이전트가 그래프 분해, 흐름 이론, 대수적 표현, 귀납법, 임베딩 등을 나누어 활용했고, 공개 모델은 아니지만 약 1시간[?] 만에 의미 있는 결과를 냈다는 식으로 언급된다. 다만 강연자도 수학 커뮤니티에서 아직 제대로 검증된 것은 아니라고 선을 긋기 때문에, 이 부분은 “검증 전 신호”로 보는 편이 정확하다.
이 논의는 결국 인간의 이해가 어디에 위치해야 하는가라는 질문으로 이어진다. 강연자는 이전 에피소드에서 말한 “루프 밖”과 “루프 안”의 두 스쿨을 다시 꺼내며, 이해하고 수행하는 방식과 이해하지 못하더라도 결과를 만들어내는 방식을 모두 경험해야 한다고 말한다. AI가 인간보다 먼저 답을 만들고, 인간은 나중에 검증하거나 이해하는 구조가 늘어날수록, 교육과 연구와 실무에서 “이해”의 기능은 단순 선행 조건이 아니라 검증, 방향 설정, 의미 부여의 역할로 재정의될 가능성이 높다.
ICML 현장 분위기: AGI는 이미 되는 게임이라는 정서
영상 중반 이후는 ICML 현장 관찰로 넘어간다. 강연자들은 이번 ICML에 전 세계 프론티어 랩 연구자, 미디어, 기업, 벤처캐피탈, 대학원생들이 몰렸고, 현장에서 만난 많은 사람들이 AGI에 대해 “거의 다 된 게임”이라는 정서를 공유하고 있었다고 전한다. 이는 AGI가 이미 완성되었다는 확정적 선언이라기보다, LLM 중심 커뮤니티 내부에서 더 이상 “가능한가”보다 “어떻게 측정하고 앞당길 것인가”가 주요 질문이 되었다는 의미에 가깝다.
이 변화는 논문 주제에서도 드러난다. 강연자에 따르면 많은 연구가 모델 알고리즘 자체보다 평가(Evaluation), 평가 메트릭, 더 앞선 벤치마크 설계에 집중되어 있었다. 기존 벤치마크가 빠르게 포화되면서 좋은 모델과 나쁜 모델을 구분하기 어려워졌고, 따라서 더 어려운 평가 체계를 만드는 일이 연구의 핵심 과제가 되고 있다는 해석이다.
동시에 AI for Science는 LLM 다음의 큰 흐름으로 부상하고 있다. 강연자들은 Physical AI 이후 AI for Science가 다음 트렌드로 자리 잡으려는 움직임이 강하다고 본다. 다만 이 영역에서는 LLM 커뮤니티처럼 스케일주의가 완전히 합의된 것은 아니며, 도메인 전문가와 스케일주의자 사이의 긴장이 훨씬 선명하게 나타난다. 바이오, 로보틱스, 과학 실험 영역은 텍스트 인터넷 데이터처럼 대규모로 쉽게 수집 가능한 데이터가 부족하고, 실험 루프를 닫는 데 현실 시간이 필요하기 때문이다.
스케일주의자와 도메인 전문가의 충돌
AI for Science 논의에서 가장 중요한 갈등축은 스케일주의와 도메인 특수성이다. 스케일주의자들은 데이터, 모델, 컴퓨트를 더 많이 투입하면 Bitter Lesson이 다시 작동할 것이라고 본다. LLM 분야에서 지난 몇 년간 스케일의 힘을 강하게 경험했기 때문에, 바이오나 로보틱스에서도 결국 같은 법칙이 지배할 것이라는 믿음을 갖고 있다.
반면 도메인 전문가들은 바이오나 과학 실험이 그렇게 단순하게 풀릴 문제가 아니라고 본다. 강연자는 이들의 정서를 다소 거칠게 표현하면서, 오랜 기간 실험과 도메인 문제를 다뤄온 사람들은 컴퓨터 사이언스 출신 연구자들이 “컴퓨터를 키우면 된다”고 접근하는 것을 불편하게 느낀다고 설명한다. 여기에는 단순한 보수성이 아니라, 실제 데이터의 질과 실험 조건, 생물학적 복잡성, 측정의 한계에 대한 경험이 반영되어 있다.
바이오 데이터에 대한 설명은 이 긴장을 잘 보여준다. 제약회사나 연구소가 많은 실험 데이터를 갖고 있다고 말해도, 그 전체가 모델 학습에 동일한 가치를 갖는 것은 아니다. 실험 준비 과정의 긴 기록보다 실제 반응이 나타나는 짧은 구간이 훨씬 중요할 수 있고, 데이터 양은 많지만 결정적인 학습 신호는 제한적일 수 있다. 따라서 AI for Science에서 스케일을 추구하려면 컴퓨트만이 아니라, 어떤 데이터가 실제로 학습 가능한 가치가 있는지 선별하고 실험 루프를 닫는 능력이 함께 필요하다.
ICML 부스에서 보인 산업 지도: 빅테크, 프론티어 랩, 중국계 기업
ICML 전시장에는 OpenAI, Google, Apple, Meta, Amazon, Microsoft 같은 빅테크가 모두 자리하고 있었다고 한다. 이들 부스의 운영 방식은 대체로 유사했다. Lightning Talk를 열고, 내부 연구자들이 상주하며 질문에 답하고, 졸업을 앞둔 대학원생과 연구자를 채용하기 위한 접점을 만드는 방식이다. 학회 부스가 단순 홍보 공간이 아니라, 글로벌 연구 인재 확보를 위한 채용 전장이 되었음을 보여준다.
20:52 - ICML 전시장 내 빅테크 부스 운영 방식과 Lightning Talk, 연구자 Q&A 세션 설명
한국 기업 중에서는 Naver가 빅테크와 비슷한 방식으로 부스를 운영했다고 언급된다. 각 분야 연구자들이 상주하면서 관심 있는 방문자에게 관련 연구자를 연결해 주었고, 강연자도 Naver Robotics 관계자와 대화를 나눴다고 한다. 이는 한국 기업이 ICML 같은 글로벌 학회에서 단순 참가자가 아니라 연구 네트워크와 채용 경쟁에 직접 들어가고 있음을 보여주는 장면이다.
중국계 기업의 존재감도 컸다. ByteDance, Alibaba, Xiaomi 등이 부스를 열었고, ByteDance는 Seedance 영상 생성 모델 관련 관심을 받았다고 언급된다. 발표 세션에서도 중국계 이름의 발표자가 매우 많았고, 부스 주변에서도 중국어가 많이 들렸다고 한다. 강연자들은 AI 업계에서 중국계 연구자의 비중이 매우 높다는 점을 통계적으로도 체감할 수 있었다고 말하며, 미국과 중국 양쪽에 있는 중국계 연구자들이 AI 발전을 강하게 밀고 있다는 업계 농담을 소개한다.
네오클라우드와 인퍼런스 비즈니스의 부상
ICML 부스에서 강연자들이 눈여겨본 또 하나의 분류는 네오클라우드와 인퍼런스 업체다. RunPod, Together AI, Nebius 같은 업체들이 GPU 임대, 모델 서빙, 인퍼런스 API 제공을 사업화하고 있었고, 이는 인퍼런스가 단순 기술 운영을 넘어 독립적인 비즈니스 모델로 굳어지고 있음을 보여준다. 모델을 만드는 회사만 중요한 것이 아니라, 모델을 싸고 빠르고 안정적으로 돌리는 회사도 핵심 산업 플레이어가 된 것이다.
한국계 창업자들이 이끄는 회사로는 VESSL AI와 FriendliAI가 언급된다. VESSL AI는 GPU 클러스터 제공과 B2B 영업을 중심으로 하는 업체로 설명되며, Lambda Labs처럼 프론티어 랩이나 기업 고객에게 GPU 클러스터를 제공하는 모델에 가깝게 소개된다. FriendliAI는 인퍼런스 서빙 업체로, OpenRouter 등에서 API 서빙 모델을 사용해 본 사람이라면 이름을 봤을 수 있는 회사로 언급된다.
FriendliAI의 기술적 해자는 latency, bandwidth, uptime, 낮은 인퍼런스 가격을 동시에 달성하는 데 있다고 설명된다. 강연자들은 vLLM과 SGLang을 인퍼런스 분야의 대표 프로젝트로 언급하며, 특히 vLLM의 PagedAttention이 큰 전환점이었다고 평가한다. 이 논의는 인퍼런스 최적화가 단순 서버 운영이 아니라, 모델 크기, prefill, decode, 메모리 관리, 워크로드 특성까지 모두 고려해야 하는 깊은 엔지니어링 영역이라는 점을 강조한다.
25:49 - FriendliAI와 인퍼런스 서빙 비즈니스의 기술적 해자, latency와 uptime, 가격 경쟁력 설명
AI 인프라는 종합 예술이 되고 있다
강연자들은 AI 업계가 “종합 예술”이 되어가고 있다고 표현한다. 예전에는 파인튜닝, RAG(Retrieval-Augmented Generation), 하니스, 포스트 트레이닝, 데이터셋, 인퍼런스가 별개의 유행처럼 움직였지만, 이제는 이 모든 요소가 하나의 시스템으로 묶이고 있다. 작은 태스크는 소형 모델에 묶어 넣고, 민감한 데이터는 자체 서빙 모델에 올리고, 프론티어 모델은 고난도 추론에 쓰는 식의 조합이 점점 중요해지는 것이다.
이 맥락에서 단순히 “해줘”라고 AI에 지시하는 능력만으로는 산업의 핵심 대화에 참여하기 어려워진다. 강연자는 칩, 데이터센터, 인퍼런스, 애플리케이션 워크로드까지 밑바닥부터 이해하는 사람이 ICML 현장에서 훨씬 영향력 있는 대화를 이끌 수 있었다고 설명한다. 특정 인물을 언급하며, 그런 사람은 칩부터 데이터센터, 인퍼런스, 애플리케이션까지 전체 스택을 꿰고 있기 때문에 업계 사람들에게 강한 인상을 준다고 말한다.
이 변화는 AI 산업의 진입 장벽을 다시 높이고 있다. 초기 생성형 AI 붐에서는 누구나 프론티어 모델 API를 호출해 제품을 만들 수 있다는 분위기가 강했지만, 시간이 지나면서 비용, latency, 보안, 데이터 주권, 모델 크기, 서빙 최적화, 평가 체계가 모두 중요한 경쟁 요소가 되었다. 결국 AI 제품 경쟁은 모델 호출 인터페이스 위에서 끝나는 것이 아니라, 그 아래의 인프라와 위의 도메인 워크플로우를 동시에 설계하는 능력으로 이동하고 있다.
전용 칩, 가속기, 그리고 온디바이스 최적화
ICML 현장에서는 GPU 클러스터 임대와 인퍼런스 최적화뿐 아니라 전용 칩을 만드는 회사들도 등장했다. 강연자들은 HyperAccel을 언급하며, LLM 가속기를 곧 공개할 예정이라고 소개한다. OpenAI 역시 Cerebras 같은 전용 칩에서 GPT를 구동하고 있으며, Broadcom과 함께 인퍼런스 전용 칩을 설계하고 있다는 소식이 있다고 말한다.
이 흐름은 NVIDIA GPU 중심의 클러스터 운영만으로는 장기적인 비용과 성능 문제를 모두 해결하기 어렵다는 산업적 판단과 연결된다. 인퍼런스 수요가 폭발하면, 학습용 대형 GPU뿐 아니라 특정 워크로드에 최적화된 전용 가속기와 칩 설계가 중요해진다. 특히 기업 고객이 대규모 토큰을 지속적으로 소비하는 환경에서는 몇 퍼센트의 효율 개선도 막대한 비용 차이를 만들 수 있다.
Nota AI에 대한 언급은 또 다른 층위를 보여준다. 강연자들은 Qualcomm 칩 내부의 NPU 같은 다양한 하드웨어에 LLM을 올리고, 해당 하드웨어가 지원하는 연산과 메모리 구조에 맞춰 양자화(Quantization), 포팅, 스케줄링을 수행하는 일이 중요해지고 있다고 설명한다. 이는 AI가 클라우드 대형 모델에만 머물지 않고 엣지 디바이스, 모바일, 전용 장비로 확장될수록 하드웨어별 최적화 역량이 핵심 경쟁력이 된다는 뜻이다.
데이터셋 산업: 새로운 크롤러의 역할
ICML 부스에서는 데이터 관련 회사들도 상당히 눈에 띄었다. Scale AI는 대표적인 데이터 회사로 언급되었고, Voxel51, Toloka, Handshake AI 같은 회사들도 소개된다. 특히 Physical AI와 Robotics 영역에서는 인터넷 텍스트처럼 쉽게 수집 가능한 데이터가 부족하기 때문에, 데이터를 어떻게 모으고 정제하고 평가할 것인가가 모델 성능의 핵심 병목으로 떠오른다.
Handshake AI의 사업 모델은 흥미롭다. 강연자에 따르면 이 회사는 학부생이나 대학원생 등 특정 도메인 지식을 가진 사람들을 모아 수학, 언어, 과학 등 분야별 데이터를 만들게 하고, 이를 프론티어 랩에 판매하는 방식으로 운영된다. 이는 과거 검색 시대의 크롤러가 웹을 넓게 긁어 검색 인덱스를 만들던 것과 유사하게, AI 시대에는 도메인 전문가들이 세부 지식 영역을 넓히는 방식으로 새로운 데이터 영역을 창출한다는 의미다.
다만 사람이 모든 데이터를 직접 작성하는 것은 아니라는 해석도 제시된다. 강연자들은 도메인 안에서 의도와 평가 기준을 사람이 설정하고, 모델이 데이터를 재조합하며, 마지막에는 그 분야를 아는 사람이 평가하는 구조가 더 현실적이라고 본다. 즉 데이터셋 산업의 핵심은 단순 노동이 아니라, 도메인 커버리지를 넓히고 평가 가능한 형태의 포스트 트레이닝 셋을 만드는 것이다. 프론티어 랩이 데이터 커버리지를 계속 넓혀야 하는 한, 이런 데이터 회사들의 시장은 상당 기간 유지될 가능성이 높다.
World Model과 게임 데이터: General Intuition의 사례
강연자들이 별도로 주목한 회사 중 하나는 General Intuition이다. 이 회사는 Medal이라는 게임 클립 플랫폼에서 출발한 것으로 설명되며, 게이머가 자신의 플레이 하이라이트를 공유하는 과정에서 대규모 게임 영상 데이터를 축적했다. 특히 중요한 점은 단순 영상만이 아니라 사용자의 입력 키 로그까지 함께 수집했다는 것이다.
이 데이터는 World Model 학습에 매우 유리하다. 일반 영상 데이터에는 어떤 행동이 어떤 화면 변화를 만들었는지에 대한 action 데이터가 부족하지만, 게임 데이터에서는 키 입력과 화면 변화가 함께 기록될 수 있다. 강연자는 Rocket League 같은 게임을 예로 들며, 기존 게임 엔진이 물리 시뮬레이션을 계산하고 렌더링하는 대신 World Model이 입력에 따라 다음 화면을 생성하는 데모를 봤다고 설명한다.
38:55 - General Intuition의 Mira World Model이 게임 엔진 대신 화면을 생성하는 데모 설명
General Intuition의 Mira 모델은 약 5B[?] 파라미터 규모로 언급된다. 강연자는 5B 정도가 실시간 인터랙션을 가능하게 하는 현실적 모델 크기일 수 있다고 해석하며, 회사 측은 학습 데이터 규모에 대해 자세히 밝히지 않고 “YouTube scale”이라고만 답했다고 전한다. 회사가 데이터를 프론티어 랩에 판매하기보다 자체 해자로 유지하고 World Model을 직접 만들겠다고 한 점도 중요하다. 이는 AI 시대의 독점 자산이 모델 코드만이 아니라, action이 포함된 독특한 데이터셋일 수 있음을 보여준다.
토큰 맥싱과 엔터프라이즈 사용량의 현실
ICML 사이드 이벤트에서 나온 토큰 사용량 이야기도 흥미롭다. 강연자들은 어떤 스타트업이 1인당 주당 1만 달러[?]어치의 토큰을 사용한다는 이야기를 들었고, 다른 사람은 하루에 2만 달러[?]어치를 태우기도 한다고 말했다고 전한다. 하루 2만 달러는 원화로 약 3천만 원 수준으로 언급되며, 일반 개인 사용자 관점에서는 같은 세상 이야기처럼 느껴지지 않는 규모다.
하지만 강연자는 토큰을 많이 쓴다는 사실만으로는 평가가 불가능하다고 지적한다. 토큰 사용량은 결과물의 품질, 평가 체계, ROI(Return on Investment)와 함께 봐야 의미가 있다. 단순히 많이 쓰는 것이 중요한 것이 아니라, 어떤 업무에서 어떤 품질 개선과 사업적 가치를 만들어내는지가 핵심이다. 이 관점은 “토큰 맥싱(token maxing)”이라는 유행어가 지나간 뒤에도, 실제 엔터프라이즈 AI 운영에서는 비용 대비 성과 측정이 더 중요해질 것임을 보여준다.
또 하나 중요한 발언은 엔터프라이즈 토큰 소비량이 개인 구독 사용량보다 압도적으로 많다는 것이다. 강연자에 따르면 프론티어 랩 관계자는 엔터프라이즈 단에서 소비되는 토큰 양이 훨씬 크다고 설명했다. 이는 AI 시장의 수익 구조가 대중 구독 서비스보다 기업 워크플로우, 데이터 처리, 분석, 자동화, 내부 도구화 쪽으로 더 크게 형성될 가능성을 시사한다.
ICML 사이드 이벤트와 한국의 AI 인프라 기회
AI Frontier Korea와 SemiAnalysis가 공동 주최한 AI Industry Night에서는 데이터센터, 칩, 네오클라우드, 메모리, 인퍼런스, 한국의 산업 기회가 집중적으로 논의되었다. 강연자에 따르면 원래는 20명[?] 정도의 소규모 식사 자리로 기획했지만, 좋은 참가자가 많이 몰리면서 급히 장소를 키웠고 약 40~50명[?]이 참석했다. 샌프란시스코에서 온 벤처캐피탈, OpenAI 연구자, 네오클라우드 관계자, AMD 관련 인물, 한국의 SK Square, HyperAccel, LG전자 관계자 등이 함께했다.
이 자리에서 외국 참가자들이 한국에 대해 묻는 질문은 주로 데이터센터 밸류체인에 집중되었다. 해외에서 한국은 SK hynix, Samsung Electronics, BTS 정도로 인식되는 경우가 많지만, 실제 AI 인프라 경쟁에서는 메모리 외에도 전력, 데이터센터 운영자, 칩 사이드, 중소형 사업자, 클러스터 운영 역량이 중요하다. 따라서 한국이 AI 인프라 밸류체인에서 어떤 위치를 차지할 수 있는지 설명하고 탐색하는 일이 주요 대화가 되었다.
56:54 - AI Industry Night에서 데이터센터 밸류체인과 한국의 인프라 기회를 논의한 내용 설명
이 대화는 한국 AI 산업의 기회가 단순히 “좋은 모델을 만들 수 있는가”에만 있지 않음을 보여준다. HBM과 메모리, 반도체 제조, 전력 인프라, 데이터센터 운영, 가속기, 인퍼런스 최적화, 엔터프라이즈 도입까지 연결되는 밸류체인에서 한국은 여러 접점을 가질 수 있다. 특히 미국 프론티어 랩과 중국 오픈모델 사이의 지정학적 긴장이 커질수록, 서방권과 협력 가능한 준프론티어 모델 또는 인프라 공급자의 전략적 가치는 높아질 수 있다.
중국 오픈소스 모델과 온프레미스 전략의 지정학
영상 후반부에서 강연자들은 온프레미스 모델과 오픈소스 모델의 중요성이 빠르게 올라오고 있다고 말한다. 기업들이 Codex, Claude Code, ChatGPT 같은 도구에 회사의 핵심 워크플로우와 데이터를 밀어 넣는 상황은 편리하지만, 동시에 프론티어 랩에 기업의 업무 구조와 지식이 넘어가는 위험을 만든다. 특히 자동 압축과 장기 대화 스레드를 통해 회사의 핵심 작업 방식이 잘 정리된 형태로 외부 모델 제공자에게 전달될 수 있다는 점은 엔터프라이즈 관점에서 매우 민감하다.
이 때문에 자체 하니스와 자체 팜(farm), 온프레미스 모델을 구축하려는 수요가 강해지고 있다. 문제는 현재 강력한 오픈소스 또는 오픈웨이트 모델의 상당수가 중국계 모델이라는 점이다. 영상에서는 Qwen, Kimi 계열로 보이는 모델들이 언급되며, 미국 기업들도 이런 모델을 활용하고 있다는 맥락이 나온다.
강연자는 SemiAnalysis 쪽 인물의 예측을 전하며, 내년쯤 미국 정부가 미국 국적 엔터프라이즈에서 중국 오픈소스 모델 사용을 금지할 수 있다는 관측을 소개한다. 이것이 현실적으로 가능한지는 별개의 문제지만, 정책 리스크가 제기되는 것만으로도 서방권 또는 우호국에서 공급되는 준프론티어 오픈모델의 가치는 크게 올라갈 수 있다. AI 모델 경쟁은 기술과 비용의 문제가면서 동시에 데이터 주권, 국가 안보, 산업 정책의 문제로 이동하고 있다.
애플리케이션 레이어는 끝났는가, 아직 시작도 안 했는가
ICML 현장에서 의외였던 점으로 강연자들은 AI 애플리케이션 이야기가 거의 나오지 않았다는 사실을 든다. YouTube나 해커톤, 스타트업 담론에서는 에이전트, 업무 자동화, AI SaaS가 중심 주제처럼 보이지만, ICML에 모인 연구자와 벤처캐피탈 사이에서는 이런 이야기가 상대적으로 적었다는 것이다. 이에 대해 강연자는 두 가지 해석을 제시한다.
첫 번째 해석은 애플리케이션 레이어가 Codex나 Claude Code 같은 코딩 하니스의 슈퍼앱에 흡수될 것이라는 시각이다. 프롬프트로 UI와 서비스를 생성하고, 필요한 도구를 연결하고, 업무를 자동화할 수 있다면 개별 애플리케이션 회사의 공간이 줄어들 수 있다는 주장이다. 이 관점에서는 많은 AI 앱이 프론티어 랩의 수평 도구에 의해 대체될 가능성이 있다.
두 번째 해석은 오히려 애플리케이션 레이어가 아직 시작도 하지 않았다는 것이다. 사람들은 “시키는 것”조차 귀찮아하거나 어렵게 느끼기 때문에, 특정 업무 맥락을 이해하고 대신 지시하고 실행하는 B2B AI 에이전트 회사들이 앞으로 대거 나올 수 있다. 강연자는 이 시장이 아직 관심사의 타이밍에 올라오지 않았을 뿐, 산업 전반에 걸쳐 매우 큰 사업이 될 가능성이 있다고 본다. 다만 ICML은 연구와 인프라 중심의 학회이기 때문에, Y Combinator Demo Day 같은 창업 행사에서는 전혀 다른 분위기가 나타날 수 있다는 점도 함께 짚는다.
학계와 산업의 결합: 논문보다 현장의 대화가 중요해진 이유
이번 ICML 관찰에서 반복적으로 등장하는 감각은 학계와 산업이 훨씬 더 강하게 붙었다는 것이다. 강연자들은 여러 프론티어 랩 연구자에게 “이번 ICML에서 주목할 만한 페이퍼가 무엇이냐”고 물었지만, 돌아온 대답은 요즘에는 페이퍼보다 산업 현장에서 나오는 이야기가 더 가치 있다는 쪽이었다고 한다. 이는 과장된 표현일 수 있지만, 적어도 프론티어 모델 영역에서는 대규모 컴퓨트와 데이터와 엔지니어링을 가진 산업 연구소가 연구 방향을 주도하고 있다는 현실을 반영한다.
과거에는 저수준 시스템, 프로그래밍 언어, 프레임워크, 애플리케이션 사이에 비교적 뚜렷한 역할 분담이 있었다. 하지만 현재 AI 스택은 어셈블러부터 애플리케이션 프레임워크까지가 한 덩어리처럼 붙어 있는 느낌이라고 강연자는 설명한다. 모델을 잘 쓰려면 하니스, 데이터, 인퍼런스, 보안, 비용, 포스트 트레이닝, 평가, 워크로드 분해까지 모두 알아야 하고, 이 전체를 이해하지 못하면 산업 현장에서 할 수 있는 대화가 얕아진다.
이것이 이번 에피소드의 가장 현실적인 경고다. AI 산업의 속도가 빨라지는 것만이 문제가 아니라, 알아야 할 스택의 폭과 깊이가 동시에 넓어지고 있다. 사용자는 점점 더 강력한 도구를 손에 넣고 있지만, 그 도구를 제대로 운영하려면 모델 선택, 비용 관리, 데이터 전략, 인프라 이해, 도메인 평가 능력이 함께 필요하다. AI가 쉬워질수록 역설적으로 AI 산업의 핵심부는 더 복잡해지고 있다.
마무리 / 핵심 정리
이번 에피소드의 결론은 “발전의 속도가 더 압축되고 있다”는 말로 요약된다. 예전 같으면 한 달, 혹은 한 분기에 걸쳐 나눠 이야기했을 주제들이 이제는 한 주 안에 몰려오고 있으며, GPT-5.6 공개와 ICML 현장 관찰은 그 압축감을 동시에 보여준다. 모델 성능은 계속 올라가고, 자기 개선 루프는 가시화되고, 인퍼런스와 데이터와 칩은 독립 산업으로 굳어지며, AI for Science는 다음 거대한 트렌드로 부상하고 있다.
그러나 더 중요한 변화는 AI 경쟁의 단위가 바뀌고 있다는 점이다. 이제는 모델 하나를 잘 쓰는 능력만으로 충분하지 않다. 하니스와 평가 체계, 데이터셋, 인퍼런스 비용, 전용 칩, 온프레미스 전략, 지정학적 리스크, 도메인별 실험 루프까지 함께 이해해야 한다. ICML은 이 변화가 학회 내부의 연구 흐름이 아니라, 산업 전체의 자본과 채용과 인프라 전략으로 이미 전환되었음을 보여주는 현장이었다.
강연자들이 마지막에 느낀 조급함은 단순한 정보 과잉의 피로가 아니다. 세상이 한 주제에 오래 머물 여유를 주지 않을 만큼 빠르게 움직이고 있으며, AI 산업의 핵심 질문도 계속 아래층과 위층을 오가며 재정의되고 있다. 이 리포트의 독자에게 남는 핵심 takeaway는 분명하다. 앞으로의 AI 경쟁은 “어떤 모델이 가장 좋은가”가 아니라, “어떤 문제에 어떤 모델과 어떤 데이터와 어떤 인프라와 어떤 평가 루프를 결합할 것인가”의 싸움이 될 것이다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | EP 104. GPT-5.6 공개부터 ICML 현장까지 |
| 채널 | AI Frontier Korea (노정석) |
| 리포트 작성 | 2026-07-18 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.