메타가 DRAM 재활용 칩을 냈습니다… 메모리 수요 줄어들까? HBM 다음은 CXL?
📺 원본 영상: 메타가 DRAM 재활용 칩을 냈습니다… 메모리 수요 줄어들까? HBM 다음은 CXL?
🎙️ 채널: 안될공학 - IT 테크 신기술
📅 정리 일자: 2026-07-04
⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 코드, 슬라이드 등)는 포함되지 않을 수 있습니다.
개요
이번 영상은 Meta가 공개한 CXL 기반 메모리 확장 기술인 Vistara를 중심으로, 데이터센터가 메모리 부족 문제를 어떻게 다루고 있는지를 분석한다. 핵심은 최신 HBM이나 DDR5를 더 많이 사는 방식이 아니라, 기존 서버에서 사용하던 DDR4 DIMM을 새로운 서버의 보조 메모리 계층으로 재활용한다는 점이다.
다만 강연자는 이를 단순히 “HBM 다음은 CXL”이라는 식으로 해석해서는 안 된다고 강조한다. HBM은 연산에 필요한 데이터를 빠르게 공급하는 고속 메모리이고, CXL은 상대적으로 느리지만 더 큰 메모리 용량을 시스템에 붙여 병목을 완화하는 연결 기술이기 때문이다.
Meta가 주목한 문제는 메모리 가격이 아니라 메모리 활용률이다
강연자는 최근 DRAM 가격 상승과 메모리 공급 부족이 서버 시장은 물론 일반 PC용 RAM 시장까지 압박하고 있다고 설명한다. AI 인프라 확장, 데이터센터 증설, 서버용 메모리 수요 증가가 겹치면서 메모리는 다시 전략 자원이 되었고, 이 상황에서는 단순히 더 많은 메모리를 구매하는 방식만으로는 비용과 공급 양쪽에서 한계가 생긴다.
Meta가 제시한 접근은 이 지점에서 흥미롭다. 강연자에 따르면 Meta는 서버의 일반적인 수명이 5년에서 7년인 반면, 메모리 모듈은 10년에서 14년까지 사용할 수 있다고 설명한다. 다시 말해 서버는 교체되더라도 그 안에 꽂혀 있던 DDR4 DIMM은 아직 쓸 수 있으며, Vistara는 바로 이 남은 수명을 새로운 서버에서 다시 활용하려는 시도다.
07:00 - Meta가 서버 수명과 메모리 수명 차이를 근거로 DDR4 재활용의 배경을 설명하는 구간
이 접근은 단순한 재활용 캠페인이 아니다. 강연자는 Meta가 구형 DDR4를 새 서버에 붙이기 위해 직접 CXL Type 3 메모리 확장용 ASIC을 설계했다고 설명한다. 즉, 오래된 DIMM을 어댑터에 꽂아 쓰는 수준이 아니라, CPU가 이를 시스템 메모리처럼 인식하고 사용할 수 있도록 메모리 컨트롤러와 CXL 인터페이스를 포함한 전용 칩을 만든 것이다.
Vistara는 DDR4를 새 서버의 보조 메모리로 바꾸는 CXL 칩이다
Vistara의 기술적 역할을 이해하려면 먼저 CXL(Compute Express Link)의 위치를 봐야 한다. 강연자는 CXL을 CPU, 메모리, 가속기 같은 장치를 하나의 규격으로 연결하는 인터커넥트라고 설명한다. 특히 PCIe 위에서 동작하면서 외부 장치에 붙은 메모리를 CPU가 자신의 메모리처럼 접근할 수 있게 해주는 점이 핵심이다.
Vistara 칩은 한쪽으로 PCIe 5세대 기반 CXL 인터페이스를 갖고, 다른 한쪽으로 DDR4 메모리 컨트롤러를 둔다. CPU가 CXL 경로로 보낸 메모리 요청을 칩이 DDR4 명령으로 변환하기 때문에, 강연자는 이를 일종의 “통역사”에 가깝게 묘사한다. 이 구조 덕분에 새 서버는 직접 DDR4를 지원하지 않더라도 Vistara 카드를 통해 구형 DDR4 메모리를 확장 계층으로 사용할 수 있다.
02:52 - Vistara 칩의 CXL 인터페이스와 DDR4 메모리 컨트롤러 구조를 설명하는 구간
강연자가 언급한 서버 구성에서는 CPU에 직접 연결된 빠른 DDR5 768GB가 기본 메모리로 들어가고, Vistara 카드 두 장을 통해 재활용 DDR4 256GB가 추가된다. 이렇게 하면 서버 한 대의 총 메모리 용량은 1TB가 된다. 하지만 이 숫자만 보고 DDR5와 CXL DDR4가 동등한 메모리라고 이해하면 안 된다. 강연자는 로컬 DDR5의 이론적 최대 대역폭이 초당 약 614GB인 반면, 논문이 제시한 CXL DDR4 쪽 피크 대역폭은 약 76GB라고 설명하며, 대역폭만 봐도 약 8배 차이가 난다고 지적한다.
03:40 - 로컬 DDR5와 CXL DDR4의 대역폭 차이를 비교하는 표를 설명하는 구간
느린 메모리인데도 효과가 나는 이유는 비교 대상이 다르기 때문이다
표면적으로 보면 Vistara의 결과는 모순처럼 보인다. CXL DDR4는 로컬 DDR5보다 대역폭이 좁고, PCIe 링크를 거쳐야 하므로 지연시간도 길다. 그런데도 강연자에 따르면 Meta는 일부 머신러닝 파라미터 서버에서 필요한 서버 수를 최대 25% 줄였고, 캐시 서비스에서는 평균 쿼리 처리 시간을 29% 낮췄다고 보고했다.
이 효과는 CXL DDR4가 빠르기 때문에 나온 것이 아니다. 강연자는 비교 대상을 로컬 DDR5가 아니라 플래시 저장장치, 원격 저장장치, 또는 추가로 투입해야 했던 서버로 바꿔야 한다고 설명한다. 메모리가 부족하면 캐시에서 밀려난 데이터는 더 느린 플래시나 원격 저장소로 내려가고, 모델 파라미터는 더 많은 서버에 쪼개 담아야 한다. 이때 느린 DDR4라도 DRAM 계층 안에 데이터를 붙잡아둘 수 있다면, 훨씬 더 큰 성능 손실을 피할 수 있다.
04:16 - 메모리 계층 구조를 바탕으로 CXL DDR4가 효과를 내는 이유를 설명하는 구간
따라서 Vistara의 본질은 연산 속도를 끌어올리는 가속기가 아니라, 메모리 부족으로 발생하던 비효율을 줄이는 용량 확장 장치에 가깝다. 강연자는 CXL이 연산을 빠르게 만든 것이 아니라, 메모리 부족 때문에 생기던 더 큰 손실을 피하게 해준 것이라고 정리한다. 이 해석은 CXL을 HBM의 후속 기술처럼 보는 관점을 바로잡는 핵심이다.
HBM과 CXL은 앞뒤 관계가 아니라 서로 다른 문제를 푼다
AI 인프라 관점에서 HBM과 CXL은 자주 함께 언급되지만, 강연자는 두 기술이 담당하는 문제가 다르다고 본다. HBM은 GPU 가까이에 붙어 모델 가중치, 활성값, KV Cache처럼 반복적으로 접근하고 지연시간에 민감한 데이터를 빠르게 공급하는 메모리다. 반면 CXL은 CPU나 시스템 외부에 더 큰 메모리 공간을 붙여, 상대적으로 접근 빈도가 낮은 데이터를 수용하는 계층에 더 어울린다.
강연자는 Meta의 실제 사용 패턴도 이 차이를 보여준다고 설명한다. 음성에 따르면 Figure 2에서는 파란색이 로컬 DDR, 주황색이 CXL 메모리의 용량 대비 실제 대역폭 사용량을 나타내는데, 모든 워크로드에서 CXL 쪽 막대가 로컬 메모리보다 훨씬 낮게 나온다. 특히 머신러닝 파라미터 서버 사례에서는 CXL 메모리의 대역폭 사용량이 낮았는데, 이는 자주 접근하는 데이터가 로컬 DDR5에 남고 접근 빈도가 낮은 페이지가 CXL 쪽에 배치되었기 때문이다.
06:09 - Figure 2를 통해 로컬 DDR과 CXL 메모리의 실제 대역폭 사용량 차이를 설명하는 구간
이 때문에 “HBM 다음은 CXL”이라는 표현은 기술적 의미에서 부정확하다. HBM은 계산 중인 데이터를 빠르게 공급하는 고속 계층이고, CXL은 그 바깥의 용량과 활용률을 조정하는 확장 계층이다. 결국 두 기술은 경쟁 관계라기보다 메모리 계층 구조 안에서 서로 다른 위치를 차지한다.
CXL은 DRAM 공급 부족의 직접 해법이라기보다 낭비를 줄이는 기술이다
CXL이 메모리 공급 부족을 해결할 수 있는지에 대해서도 강연자는 신중한 구분이 필요하다고 말한다. Vistara처럼 기존 DDR4를 재활용하면 새 DDR5를 추가 구매해야 하는 부담은 일부 줄일 수 있다. 특히 Meta처럼 과거 서버에서 회수한 DIMM 재고가 대규모로 존재하는 기업이라면, 이미 만들어진 DRAM을 더 오래 활용한다는 점에서 경제성이 생긴다.
그러나 CXL이 DRAM 공급 자체를 늘려주는 것은 아니다. 새 CXL 메모리 모듈을 구매한다면 그 안에도 결국 새로운 DRAM이 들어간다. 따라서 Vistara의 의미는 메모리 부족의 근본적 공급 해법이라기보다, 이미 생산된 DRAM의 잔여 수명을 덜 낭비하는 방법에 가깝다.
또한 이 방식이 무료에 가까운 것도 아니다. 강연자는 Vistara ASIC, 별도 카드, 펌웨어, 냉각, 장애 감시가 필요하며, 서버당 CXL 확장부가 약 50W의 전력을 추가로 쓴다고 설명한다. 이 조건을 고려하면 Vistara는 모든 기업에 곧장 적용할 수 있는 보편적 절감책이라기보다, Meta처럼 자체 칩 설계와 서버 운영체제 수준의 제어 능력을 가진 초대형 데이터센터 사업자에게 특히 잘 맞는 구조다.
메모리 풀링은 생각보다 어렵고, Vistara는 공유 풀보다는 전용 보조 메모리에 가깝다
CXL을 이야기할 때 흔히 등장하는 표현이 메모리 풀링이다. 여러 서버가 하나의 거대한 메모리 공간을 공유하고, 필요한 만큼 가져다 쓰는 구조를 상상하기 쉽다. 하지만 강연자는 Vistara를 그런 의미의 공유 메모리 풀로 보기보다는, 서버마다 전용 보조 메모리를 붙인 구조에 가깝다고 설명한다.
Vistara는 서버 한 대마다 카드 두 장을 직접 연결해 DDR4 확장 메모리를 제공한다. 다른 서버와 메모리를 공동으로 나눠 쓰는 구조가 아니며, 진정한 의미의 CXL 메모리 풀을 만들려면 CXL 스위치, 패브릭 매니저, 주소 할당, 접근 권한, 장애 격리까지 함께 관리해야 한다. 이 단계로 가면 단순히 장치를 꽂는 문제가 아니라 데이터센터 전체의 메모리 네트워크를 운영하는 문제가 된다.
강연자는 스위치 기반 CXL 풀을 측정한 2026년 연구도 언급한다. 공유 경로에서 트래픽이 겹치자 특정 조건에서 접근 지연이 거의 10배 넘게 늘었고, 이를 관리하기 위한 별도 전송 계층까지 제안되었다는 것이다. 이 사례는 “공유할 수 있다”는 것과 “예측 가능한 성능으로 공유할 수 있다”는 것이 완전히 다른 문제임을 보여준다.
08:42 - 스위치 기반 CXL 메모리 풀에서 공유 경로 지연 문제가 발생한 연구 사례를 설명하는 구간
애플리케이션 수정이 없다는 말은 복잡성이 사라진다는 뜻이 아니다
CXL 업체들은 종종 애플리케이션을 수정하지 않아도 일반 메모리처럼 사용할 수 있다고 말한다. 강연자는 이 말이 완전히 틀린 것은 아니지만, 복잡성이 사라지는 것이 아니라 애플리케이션 바깥으로 이동하는 것이라고 해석한다. 기존 서버가 CPU에 직접 붙은 하나의 메모리 계층만 고려하면 되었다면, CXL 메모리가 추가된 서버는 속도가 다른 메모리를 함께 다루어야 한다.
Linux는 CXL DDR4를 CPU에 직접 붙어 있지 않은 별도 NUMA node, 즉 멀리 떨어진 메모리 구역으로 인식한다. 운영체제는 자주 쓰는 페이지를 가까운 DDR5에 남기고, 오래 쓰지 않은 페이지를 먼 CXL DDR4로 내렸다가 필요해지면 다시 끌어올리는 식으로 관리한다. 하지만 어떤 데이터가 곧 다시 필요해질지 운영체제가 항상 정확히 알 수는 없기 때문에, 페이지 배치와 이동 정책이 성능의 핵심 변수가 된다.
Meta도 이 문제를 직접 겪었다고 강연자는 설명한다. 여러 작업을 한 서버에 함께 넣자 빠른 DDR5가 특정 작업에 치우치면서 다른 작업의 처리량이 최대 65% 떨어지고, 메모리 부족으로 작업이 종료되는 경우까지 생겼다. 결국 Meta는 작업마다 빠른 메모리의 몫을 따로 정하는 분배 정책을 추가해야 했으며, 이는 CXL이 용량을 늘리는 동시에 운영 복잡성도 함께 늘리는 기술임을 보여준다.
AI 서버에서는 메모리 계층이 더 복잡해진다
AI 서버에서는 CXL의 운영 난도가 한층 더 높아질 수 있다. GPU의 HBM, CPU의 DDR5, CXL 메모리, 플래시 저장장치가 계층적으로 겹치고, AI Runtime과 운영체제가 서로 다른 기준으로 데이터 위치를 관리하기 때문이다. 운영체제는 특정 텐서나 KV Cache가 곧 다시 필요해질지를 알기 어렵고, AI Runtime도 서버 전체의 메모리 압박 상태를 완전히 보지 못할 수 있다.
이 때문에 CXL은 대규모 AI 학습에서 GPU가 계속 읽어야 하는 가중치와 활성값을 직접 올려놓고 계산하는 용도에는 적합하지 않다. 강연자는 Meta 논문의 머신러닝 사례 역시 GPU의 HBM을 CXL로 대체한 것이 아니라, 추천 시스템과 분산 추론에 쓰이는 CPU 파라미터 서버의 용량을 늘린 사례로 봐야 한다고 설명한다. 즉, CXL은 AI 연산의 중심부가 아니라 그 주변의 메모리 압박을 완화하는 쪽에 더 가깝다.
LLM 추론에서도 CXL은 후보 기술로 거론될 수 있다. 긴 대화에서 오래된 KV Cache를 내려두거나, Mixture of Experts(MoE) 구조에서 자주 호출되지 않는 전문가 모델을 잠시 보관하는 식의 활용은 가능하다. 다만 강연자는 이번 Meta 논문이 이런 LLM 사례를 직접 검증한 것은 아니며, 업계에서 논의되는 방향에 가깝다고 선을 긋는다. CXL에 내려둔 데이터를 매 토큰마다 다시 가져와야 한다면 느린 링크가 병목이 되기 때문에, 앞으로는 데이터를 어디에 내려둘지보다 언제 다시 필요해질지를 예측하는 소프트웨어가 더 중요해질 수 있다.
한국 메모리 기업의 기회는 DRAM 판매량만으로 설명되지 않는다
강연자는 Samsung Electronics와 SK hynix의 CXL 관련 제품과 기술 흐름도 함께 언급한다. Samsung Electronics는 CXL 2.0과 PCIe 5세대 기반 CMM-D(CXL Memory Module-DRAM) 제품군을 공개하며, 용량 확장과 메모리 디스어그리게이션을 주요 사용처로 제시하고 있다. 여기서 디스어그리게이션은 메모리를 특정 CPU에 고정하지 않고 별도 자원으로 떼어내, 필요한 서버가 필요한 만큼 사용할 수 있게 만드는 방향을 뜻한다.
SK hynix도 DDR5 기반 CXL 메모리와 이를 지원하는 소프트웨어 개발 도구를 공개하며 용량 확장 시장을 준비하고 있다. 국내 팹리스인 Panmnesia는 CXL 컨트롤러와 포트 기반 라우팅 스위치를 발표한 것으로 소개되며, Meta의 Vistara가 서버별 메모리 확장에 가깝다면 Panmnesia는 여러 장치를 연결하는 패브릭과 실제 메모리 풀에 더 가까운 영역을 겨냥한다고 설명된다.
12:17 - Samsung Electronics, SK hynix, Panmnesia의 CXL 관련 제품과 기술 방향을 설명하는 구간
다만 CXL 시장의 성장이 곧바로 한국 메모리 기업의 DRAM 판매 증가로 이어진다고 단정할 수는 없다. Meta처럼 기존 DDR4를 재활용하면 오히려 새 DDR5 구매를 일부 피할 수 있기 때문이다. 반대로 Samsung Electronics와 SK hynix의 새로운 CXL 모듈이 본격적으로 채택되면 서버당 장착 가능한 DRAM 용량이 늘어날 수도 있다. 결국 기회는 단순히 DRAM을 더 파는 데만 있는 것이 아니라, 메모리 컨트롤러, CXL 스위치, 데이터 온도 측정, 페이지 배치 소프트웨어, 펌웨어, 장애 관리까지 이질적인 메모리를 하나의 시스템으로 묶는 능력에 달려 있다.
CXL의 가치는 워크로드가 결정한다
강연자가 반복해서 강조하는 결론은 CXL이 “많이 붙이면 좋은 기술”이 아니라는 점이다. CXL의 가치는 느린 메모리로 내려도 되는 데이터가 얼마나 많은지에 따라 달라진다. 대용량 캐시, 데이터 분석, 개발용 가상머신, 빌드 서버, 추천 시스템의 거대한 임베딩 테이블처럼 메모리 용량이 먼저 부족해지고 전체 데이터 중 상당 부분이 오랫동안 읽히지 않는 워크로드에서는 CXL의 장점이 살아날 수 있다.
반대로 매 순간 낮은 지연시간과 높은 대역폭이 필요한 데이터라면 CXL은 병목이 된다. 특히 GPU가 반복적으로 읽어야 하는 AI 학습의 핵심 가중치와 활성값을 CXL 메모리에 두고 직접 계산하는 방식은 현실성이 낮다. 이 경우 CXL은 HBM의 대체재가 아니라 HBM 바깥의 데이터 배치와 서버 자원 활용률을 개선하는 보조 계층으로 이해해야 한다.
따라서 상용화 여부는 모듈 용량만으로 판단할 수 없다. 실제 워크로드의 접근 패턴, 성능 민감도, 전력, 스위치 비용, 운영체제와 런타임의 페이지 배치 능력을 함께 봐야 한다. 강연자가 말하듯, 데모에서 메모리가 인식되는 것과 데이터센터에서 안정적으로 운영되는 것은 전혀 다른 문제다.
마무리 / 핵심 정리
Meta의 Vistara는 CXL이 논문이나 시제품 단계를 넘어 실제 칩, 서버, 운영체제, 프로덕션 서비스와 연결될 수 있음을 보여준 중요한 사례다. 특히 수명이 남은 DDR4 DIMM을 새 서버의 보조 메모리로 재활용함으로써, 메모리 부족 때문에 낭비되던 서버 자원을 더 활용할 수 있다는 점에서 실용적 의미가 크다.
그러나 이 사례를 HBM을 대체하거나 AI 연산을 폭발적으로 빠르게 만드는 기술로 해석하는 것은 부정확하다. HBM은 계산에 필요한 속도를 담당하고, CXL은 그 바깥의 메모리 용량과 활용률을 조정한다. 둘은 “이전과 다음”의 관계가 아니라, 서로 다른 계층에서 서로 다른 병목을 다루는 기술이다.
결국 CXL의 미래는 메모리 부족을 한 번에 해결하는 마법 같은 해법이 아니라, 데이터센터가 메모리 계층을 얼마나 정교하게 설계하고 운영할 수 있는지에 달려 있다. Meta의 Vistara는 그 가능성을 보여주었지만, 동시에 전력, 비용, 운영체제 정책, 페이지 배치, 공유 경로의 지연시간 같은 어려운 숙제도 함께 드러냈다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | 메타가 DRAM 재활용 칩을 냈습니다… 메모리 수요 줄어들까? HBM 다음은 CXL? |
| 채널 | 안될공학 - IT 테크 신기술 |
| 리포트 작성 | 2026-07-04 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.