Morgan Stanley’s ALPHALAB - Multi-Agent Research Across Optimization Domains — Brendan R. Hogan
📺 원본 영상: Morgan Stanley’s ALPHALAB: Multi-Agent Research Across Optimization Domains — Brendan R. Hogan
🎙️ 채널: AI Engineer
📅 정리 일자: 2026-07-30
⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 코드, 슬라이드 등)는 포함되지 않을 수 있습니다.
개요
Brendan R. Hogan은 Morgan Stanley 내부에서 개발 중인 AlphaLab을 “자동 리서치 에이전트(auto research agent)”로 소개하며, 이 시스템이 정량 리서치(quant research)의 반복 실험, 평가 설계, 모델 개선 과정을 어떻게 자동화하려는지 설명한다. 강연의 핵심은 단순히 여러 에이전트를 붙여 실험을 많이 돌리는 것이 아니라, 좋은 평가 환경을 만들고 그 환경을 통해 에이전트 시스템 자체를 개선하는 구조로 이동하고 있다는 점이다.
이 발표는 Hard Tech와 금융공학이 만나는 영역에 위치한다. 한편으로는 에이전트 하네스(agentic harness), 도구 호출, GPU 클러스터 오케스트레이션, 컨테이너화된 모델 제출 같은 엔지니어링 문제가 중심에 있고, 다른 한편으로는 P&L, 백테스팅(backtesting), 데이터 누수, 리더보드, 정량 모델 운영 같은 금융 리서치의 현실적 제약이 강하게 작동한다.
Morgan Stanley가 자동 리서치 에이전트를 만드는 이유
강연자는 먼저 AlphaLab이 갑자기 등장한 장난감 프로젝트가 아니라, Morgan Stanley 내부 AI 리서치 조직의 업무 구조에서 자연스럽게 나온 시도라고 설명한다. 그의 팀은 약 30명의 PhD AI 연구자로 구성되어 있으며, 절반은 논문 출판과 오픈소스 공개처럼 학술 연구에 가까운 활동을 하고, 나머지 절반은 내부 적용을 위한 응용 연구를 수행한다. 이처럼 연구와 실전 적용이 동시에 요구되는 환경에서는, 반복 가능한 리서치 업무를 자동화할 수 있다면 연구 생산성과 실제 비즈니스 성과가 함께 개선될 수 있다.
Morgan Stanley가 다루는 문제 중 일부는 Kaggle과 유사한 형태를 갖는다. 입력으로 시계열 데이터가 주어지고, 미래 값을 예측해야 하며, 모델이 잘 보정되어야 한다는 추가 제약이 붙는다. 강연자는 특히 sell-side 환경에서는 문제 정의가 비교적 명확하고, adverse selection이 상대적으로 덜하기 때문에 자동 리서치 프레임워크가 적용되기 쉽다고 본다. 즉, 완전히 열린 연구 문제라기보다 “주어진 데이터와 목표 아래에서 더 나은 예측 모델을 찾는 문제”가 많기 때문에, AI 에이전트가 반복 실험과 탐색을 수행할 여지가 크다는 것이다.
또 하나의 동기는 이미 운영 중인 알고리즘의 개선 가능성이다. 강연자에 따르면 Morgan Stanley 내부에는 프로덕션에 들어간 알고리즘이 많고, 이 중 일부는 더 많은 실험 사이클을 투입하면 성능 개선을 끌어낼 수 있을 것이라는 감각이 있다. 하이퍼파라미터 튜닝, 모델 앙상블, 다른 도메인으로의 기법 이전은 인간 연구자가 계속 수작업으로 하기에는 반복적이지만, 성능 차이를 만들 수 있는 영역이다. 예컨대 credit bonds에서 만든 방법이 municipal bonds로 잘 이전될 수 있다면, 그 번역과 적응의 상당 부분은 에이전트가 자동화할 수 있는 작업으로 볼 수 있다.
장기 작업을 수행하는 모델의 등장과 AlphaLab의 출발점
강연자는 이러한 자동화가 실제로 가능해졌다고 느낀 시점을 2025년 12월로 언급한다. 그는 Opus 4.5와 Claude Code, Codex 같은 하네스가 등장하면서 모델이 장기 작업(long-horizon tasks)을 수행할 수 있는 수준에 도달했다고 말한다. 여기서 중요한 변화는 모델 자체의 능력뿐 아니라, 모델을 코드 실행, 파일 편집, 실험 관리, 로그 확인 같은 도구 환경 안에 넣어 장시간 목표를 추적하게 만드는 실행 구조다.
AlphaLab의 최상위 목표는 매우 명확하다. 강연자는 이를 P&L 극대화와 프로덕션에 투입할 수 있는 신규 알고리즘 수의 극대화로 설명한다. 그러나 이 목표를 달성하기 위해서는 단순한 챗봇형 도구로는 부족하다. 사내 데이터와 기존 백테스팅 인프라, 평가 시스템, 리스크 검토 절차와 자연스럽게 통합되어야 하며, 새로운 데이터셋을 처음 분석하는 상황부터 이미 좋은 모델이 있는 상태에서 추가 개선을 찾는 상황까지 넓은 스펙트럼을 처리해야 한다.
이 때문에 AlphaLab은 모델 제공자에 종속되지 않는 구조를 목표로 한다. 강연자는 OpenAI, Anthropic, 오픈소스 모델 등 어떤 frontier provider나 공개 모델도 쓸 수 있어야 하며, 모델이 좋아질수록 하네스도 함께 성능이 올라가야 한다고 강조한다. 이는 특정 모델의 현재 능력에 맞춘 임시 자동화가 아니라, 더 강한 모델이 등장할수록 동일한 환경과 평가 구조 위에서 계속 개선되는 플랫폼을 만들겠다는 방향이다.
AlphaLab 1.0의 기본 구조: 연구, 평가, 대량 실험
AlphaLab 1.0은 크게 세 단계로 구성된다. 첫 번째는 연구(research) 단계이고, 두 번째는 평가 또는 백테스팅 구축 단계이며, 세 번째는 대량 실험(mass experimentation) 단계다. 사용자는 예를 들어 환율 데이터셋의 파일 경로나 API 명세를 제공하고, 자연어로 “하루 뒤 환율을 예측하고 싶다”는 식의 목표를 설명한다. 그러면 AlphaLab은 해당 목표를 달성하기 위한 맥락 수집, 평가 코드 작성, 모델 실험을 순차적으로 수행한다.
흥미로운 점은 Morgan Stanley가 기존의 off-the-shelf 에이전트 프레임워크를 사용하지 않고 자체 하네스를 만들었다는 점이다. 강연자는 Claude Code 시대에는 직접 만드는 접근이 큰 자유도를 준다고 말한다. 도구 호출은 function/tool calling 형태로 구현되어 있으며, 이 덕분에 OpenAI, Anthropic, 오픈소스 제공자 등으로 쉽게 바꿀 수 있는 provider-agnostic 구조를 갖춘다. 여기서 AlphaLab은 특정 LLM 앱이라기보다, 여러 모델과 도구를 조합해 연구 워크플로를 실행하는 자체 운영체제에 가까운 형태로 이해할 수 있다.
도구 측면에서 핵심은 세 가지다. 첫째, 에이전트는 full shell access를 통해 bash 명령을 작성하고, Python 환경을 설정하고, 코드를 편집하고 실행한다. 둘째, web search를 통해 arXiv 논문, 기술 블로그, 공개 자료를 읽으며 공개 도메인에서의 state of the art를 파악한다. 셋째, SLURM을 이용해 GPU 클러스터를 관리하되, 모델이 직접 하드웨어 오케스트레이션의 세부 사항에 매달리지 않도록 추상화 계층을 둔다. 예를 들어 모델은 “H100 GPU 4개와 특정 CPU 자원이 필요하다”는 식으로 설정을 작성하고 작업을 제출할 수 있다.
💡 [영상 참조] 강연자는 AlphaLab의 단계별 구조와 도구 구성을 화면 자료로 설명하는 것으로 보입니다. STT에는 슬라이드의 세부 코드나 다이어그램이 포함되지 않으므로, 정확한 구성도는 원본 영상을 확인해야 합니다.
연구 단계: 에이전트가 실험 가능한 맥락을 만드는 과정
AlphaLab의 첫 단계인 연구 단계는 강연자가 “super CLAUDE.md” 또는 “super init”에 비유한 맥락 구축 과정이다. 여기서 목표는 에이전트가 곧바로 모델을 훈련하는 것이 아니라, 의미 있는 가설을 세우고 실험할 수 있을 만큼 데이터, 문제, 기존 방법론을 이해하게 만드는 것이다. 이를 위해 시스템은 먼저 todo list를 만들도록 프롬프트되며, 각 항목을 완료하면 실험을 시작할 수 있을 정도의 준비가 되도록 설계된다.
이 todo list 구조는 단순한 작업 목록 이상의 의미를 갖는다. 에이전트가 너무 일찍 종료하려고 할 때 다시 프롬프트할 수 있는 기준이 되고, 각 항목을 수행하면서 Markdown 파일에 노트를 남기게 함으로써 이후 에이전트들이 필요한 맥락을 동적으로 조회할 수 있게 한다. 강연자는 이 단계에서 Python 환경 설정, 데이터 로딩, 통계적 테스트, 공개 자료 조사 같은 활동이 포함된다고 설명한다. 특히 web search는 이 연구 단계에서 가장 많이 사용되며, 에이전트가 arXiv와 기술 블로그를 읽어 공개 지식 기반을 확보하는 데 쓰인다.
이 과정은 대략 3~4시간 정도 걸릴 수 있다고 한다. 이는 AlphaLab이 즉답형 Q&A 시스템이 아니라, 긴 시간 동안 문맥을 쌓고 실험 준비를 하는 연구 보조 시스템이라는 점을 보여준다. 인간 연구자가 새 문제를 받았을 때 먼저 데이터 구조를 보고, 관련 논문을 읽고, 평가 방식과 기준을 정리하는 것처럼, AlphaLab도 초반에 충분한 탐색 시간을 투자해야 이후의 자동 실험이 의미를 갖는다.
평가 단계: 좋은 eval 없이는 자동화가 무너진다
강연자는 평가(evaluation)가 전체 시스템에서 가장 중요한 요소라고 강조한다. LLM이 악의적으로 행동하지는 않더라도, 매우 어리석은 실수를 할 수 있고, 나쁜 eval을 최적화하게 되면 전체 시스템이 쉽게 무너진다는 것이다. 특히 정량 금융 리서치에서는 미래 정보가 과거 학습에 새어 들어가는 forward leakage가 치명적이며, 백테스트가 조금만 잘못 설계되어도 실제 프로덕션 성능과 무관한 허위 성과가 만들어질 수 있다.
AlphaLab 1.0은 이를 보완하기 위해 multi-agent 평가 구축 구조를 사용했다. 먼저 builder agent가 평가 코드를 작성하고, 이후 두 개의 critic agent가 이를 검토한다. 하나는 개념적 오류, 평가 설계의 타당성, forward leakage 같은 고수준 문제를 확인하고, 다른 하나는 unit test와 integration test를 작성하는 프로그래밍 중심 검토를 맡는다. 문제가 발견되면 다시 builder에게 돌아가 수정하게 하며, 모든 에이전트가 평가가 충분히 좋다고 판단할 때까지 루프가 계속된다.
이 구조는 자동 리서치에서 “누가 평가자를 평가하는가”라는 핵심 문제를 드러낸다. 모델이 실험도 하고 평가도 한다면, 평가가 잘못될 때 시스템은 잘못된 방향으로 매우 빠르게 최적화될 수 있다. 따라서 AlphaLab의 핵심은 더 많은 모델을 훈련하는 데 있는 것이 아니라, 모델이 믿을 수 있는 피드백을 받도록 평가 구조를 견고하게 만드는 데 있다. 강연 후반부에서 AlphaLab 2.0이 eval과 environment 중심으로 재구성되는 것도 바로 이 문제의식에서 출발한다.
대량 실험 단계: Kanban 보드 위에서 움직이는 전략가와 작업자
AlphaLab의 세 번째 단계는 대량 실험이며, 강연자는 이를 시스템의 심장부로 설명한다. 이 단계는 코드와 UI 모두에서 Jira 또는 Kanban board와 유사한 형태로 구성된다. strategist agent는 이전 단계에서 축적된 모든 맥락을 조회하며 어떤 실험을 해볼지 계속 제안한다. 제안된 실험은 “to implement” 컬럼에 카드로 올라가고, worker agent가 이를 가져가 실제 코드 구현, SLURM config 작성, 클러스터 작업 제출, 결과 분석까지 수행한다.
worker agent의 역할은 단순히 코드를 생성하는 데 그치지 않는다. 모델 훈련이 끝나면 training curve를 보고 underfitting이나 overfitting 여부를 판단하며, eval 결과도 함께 해석한다. 이후 post-mortem analysis를 작성해 strategist에게 되돌려 보내는데, 이 피드백이 다음 실험 제안의 기반이 된다. 예를 들어 strategist가 여러 Transformer 변형을 제안했지만 성과가 좋지 않고 XGBoost가 좋은 결과를 냈다면, 이후에는 tree method 계열을 더 탐색하는 방향으로 전략이 바뀔 수 있다.
이 과정에서 인간 사용자는 완전히 배제되지 않는다. 강연자는 Jira형 구조를 선택한 이유 중 하나가 사용자가 카드를 취소하거나 직접 추가하고, strategist와 채팅하면서 실험 방향을 조정할 수 있기 때문이라고 설명한다. 이는 AlphaLab이 인간 연구자를 대체하는 폐쇄형 자동화가 아니라, 인간의 직관과 에이전트의 반복 실행 능력을 결합하려는 시스템이라는 점을 보여준다. 특히 금융 리서치에서는 도메인 전문가의 감각이 여전히 중요하기 때문에, 인간이 어디에서 개입하고 어떤 방식으로 steering할 수 있는지가 실무적 성패를 좌우한다.
AlphaLab 1.0의 성과와 한계
강연자는 AlphaLab 1.0의 공개 결과로 몇 가지 벤치마크를 언급한다. 논문에서는 CUDA kernel, 학술적 traffic time series 데이터셋, Karpathy 스타일의 LLM speedrun과 유사한 실험을 다뤘다고 한다. AlphaLab은 단일 에이전트가 루프 안에서 반복하는 방식과 비교되었고, LLM 훈련을 위한 더 나은 training config를 찾는 성과를 냈다. 또한 NVIDIA가 주최한 Kaggle competition에서 Nemotron 모델을 reasoning model로 fine-tuning하는 과제에 참여해 상위 12%에 들었다고 설명한다.
다만 강연자는 이 결과를 과장하지 않는다. 해당 Kaggle 대회에는 늦게 참여했기 때문에 AlphaLab이 약 10번의 iteration밖에 수행하지 못했고, AlphaLab은 더 많은 iteration을 탐색할수록 강해지는 구조이므로 시간이 더 있었다면 더 좋은 성과를 낼 가능성이 있었다고 덧붙인다. 내부적으로도 이미 괜찮은 모델을 AlphaLab에 넘겨 추가 실험을 돌렸을 때 의미 있는 개선을 찾아냈고, 일부는 risk 절차를 거쳐 프로덕션으로 이동 중이라고 말한다.
그러나 동시에 실패 사례도 분명히 있었다. 강연자는 “이게 얼마나 진짜인가”라는 질문이 계속 남아 있었다고 말한다. 쉬운 문제에서는 좋아 보이지만 가장 어려운 문제에서 실패한다면, 이 시스템의 연구 능력을 어떻게 측정해야 하는지가 중요해진다. 이 지점에서 AlphaLab은 1.0의 멀티에이전트 실험 자동화에서 2.0의 평가 환경 중심 아키텍처로 전환하기 시작한다.
AlphaLab 2.0: eval과 environment가 가치를 담는다는 관점
강연의 후반부에서 가장 중요한 전환은 “좋은 eval에서 시작해야 한다”는 원칙이다. 강연자는 이 교훈을 매달 반복해서 배우고 있다고 표현할 정도로 강하게 강조한다. 초기에는 에이전트를 인간 연구자처럼 대하고 싶었지만, 실제로는 명확하게 측정 가능한 기준이 먼저 있어야 한다는 것이다. 이 때문에 AlphaLab 2.0은 더 엄격하고 Kaggle에 가까운 평가 구조를 지향한다.
새로운 구조에서는 data와 description이 입력으로 들어오고, 하네스는 중간에서 컨테이너화된 모델을 제출하는 역할을 맡는다. 시스템은 public leaderboard score 형태의 피드백을 받지만, 사용자는 held-out validation 기반의 private leaderboard를 볼 수 있다. 이 방식은 에이전트가 과도하게 공개 점수에 맞춰지는 것을 방지하면서도, 실제 일반화 성능을 인간 사용자가 확인할 수 있게 한다. 평가가 엄격한 형식으로 고정되면, 각 task에서 모델이 얼마나 잘하는지뿐 아니라 하네스 자체의 설계 변경이 성능에 어떤 영향을 주는지도 비교할 수 있다.
강연자는 eval과 environment를 사실상 같은 것으로 본다고 말한다. 모델은 environment 안에서 훈련되고, environment는 검증 가능한 피드백을 제공한다. Morgan Stanley는 약 10~20개의 신중하게 설계된 environment를 만들고 있으며, 이것이 reinforcement learning signal로 작동한다. 다시 말해 이제 AlphaLab은 모델을 개선하는 도구일 뿐 아니라, AlphaLab 자체를 개선하는 대상이 된다. 강연자는 이를 “AlphaLab으로 AlphaLab을 연구한다”는 식으로 표현한다.
메타 최적화와 자체 개선형 리서치 시스템
AlphaLab 2.0의 큰 비전은 하네스 설계 자체도 LLM이 최적화하게 만드는 것이다. 1.0에서는 인간이 연구 단계, strategist-worker 구조, critic agent 구조 같은 설계 선택을 했다. 하지만 강연자는 이런 선택들이 어느 정도 임의적일 수 있으며, 궁극적으로는 이 자체도 검증 가능한 루프 안에서 최적화되어야 한다고 본다. 예를 들어 strategist를 한 명 둘지 두 명 둘지, 두 strategist가 토론하게 만들지, worker의 역할을 어떻게 나눌지 같은 결정도 환경 점수로 비교할 수 있다면 자동 탐색의 대상이 된다.
현재 단계에서는 인간이 environment를 기준으로 manual hill climbing을 할 수 있다. 특정 하네스 구성이 더 좋은 결과를 내는지 비교하고, 구조를 바꿔가며 개선할 수 있다. 그러나 더 긴 시야에서는 LLM이 결과 trace를 읽고 하네스 자체를 개선하는 meta harness optimization이 가능해진다. 이때 자동 리서치는 단순히 외부 문제를 푸는 시스템이 아니라, 자신의 연구 프로세스를 연구하고 개선하는 재귀적 시스템으로 확장된다.
강연자는 또 다른 축으로 오픈소스 모델의 trace를 수집하고, 실제 weight를 업데이트하는 방향도 언급한다. GRPO나 on-policy distillation 같은 방법을 통해 좋은 실행 trace를 학습 신호로 삼을 수 있으며, 최종적으로는 오픈소스 모델과 폐쇄형 frontier model의 orchestration이 가장 좋은 결과를 낼 수 있다고 본다. 이는 엔터프라이즈 AI에서 단일 모델 선택보다 더 중요한 것이, 다양한 모델과 평가 환경, 실행 도구를 하나의 최적화 시스템으로 묶는 능력이라는 점을 시사한다.
기업 지식과 전문가 역량은 어디에 들어가는가
AlphaLab 1.0의 한계 중 하나는 기업 지식과 인간 quant researcher의 전문성이 시스템 안에 충분히 명시적으로 들어가지 않았다는 점이다. 데이터와 목표를 주고 LLM이 알아서 수행하게 만드는 구조는 강력해 보이지만, Morgan Stanley가 가진 고유한 리서치 프로세스와 도메인 판단 기준을 제대로 반영하지 못할 수 있다. 강연자는 이 문제의 답도 environment에 있다고 본다.
좋은 environment를 만드는 일은 어렵다. 단순히 proprietary data를 넣는 것만으로는 충분하지 않으며, 검증 가능한 metric을 설계하고, 더 나아가 qualitative rubric을 만들어야 한다. Morgan Stanley의 연구자들은 trace를 보고 “좋은 연구자란 무엇인가”, “좋은 사고 과정은 어떤 모습인가”를 평가할 수 있는 기준을 만든다. 각각의 rollout이 이 연구 프로세스를 얼마나 잘 따르는지를 채점할 수 있다면, 그 rubric 자체가 모델이 배워야 할 신호가 된다.
이 관점은 엔터프라이즈 AI의 가치가 어디에 있는지를 재정의한다. 강연자는 일반적인 auto research 능력은 결국 commodity가 될 것이라고 전망한다. 그렇다면 기업이나 인간 전문가의 차별성은 모델 자체를 소유하는 데서만 나오지 않고, 어떤 environment를 만들고 어떤 평가 기준을 설계하며 어떤 연구 프로세스를 rubric으로 인코딩하느냐에서 나온다. AlphaLab이 계속 공개될 수 있다고 말하는 이유도 여기에 있다. 강연자의 관점에서는 하네스 코드보다 environment가 진짜 가치를 담고 있기 때문이다.
마무리 / 핵심 정리
이 강연에서 AlphaLab은 금융권의 정량 리서치를 자동화하는 멀티에이전트 시스템으로 소개되지만, 더 깊은 메시지는 “자동화의 핵심은 에이전트 수가 아니라 평가 환경”이라는 데 있다. 연구 단계, eval builder와 critic, strategist와 worker로 이어지는 1.0 구조는 이미 상당히 실용적인 자동 실험 시스템이지만, 강연자는 그것만으로는 충분하지 않다고 본다. 실패 사례를 겪으면서 Morgan Stanley 팀은 좋은 eval, 엄격한 environment, private leaderboard, qualitative rubric이 없으면 자동 리서치의 성과를 신뢰하기 어렵다는 결론에 도달했다.
AlphaLab 2.0의 방향은 자체 개선형 시스템이다. 인간이 설계한 하네스를 고정된 것으로 보는 대신, environment를 기준으로 하네스 자체를 최적화하고, 좋은 trace를 학습 신호로 삼으며, 오픈소스와 폐쇄형 모델의 조합까지 함께 탐색한다. 이 비전이 실현된다면 auto research는 특정 모델의 기능이 아니라, 기업이 구축한 평가 환경과 전문가 지식의 표현 방식 위에서 작동하는 지속적 개선 프로세스가 된다. 결국 강연자가 남긴 가장 큰 메시지는, 미래의 경쟁력은 “AI가 연구를 하게 만드는 것”이 아니라 “AI가 배울 수밖에 없는 좋은 연구 환경을 만드는 것”에 있다는 점이다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | Morgan Stanley’s ALPHALAB: Multi-Agent Research Across Optimization Domains — Brendan R. Hogan |
| 채널 | AI Engineer |
| 리포트 작성 | 2026-07-30 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.