AMD·인텔 CPU보다 빠르다 — 엔비디아 Vera CPU와 AI 랙 전쟁
📺 원본 영상: AMD·인텔 CPU보다 빠르다 | 엔비디아 Vera CPU와 AI 랙 전쟁 🎙️ 채널: 안될공학 - IT 테크 신기술 📅 정리 일자: 2026-05-28 ⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 슬라이드 등)는 포함되지 않을 수 있습니다.
개요
NVIDIA의 차세대 ARM 기반 서버 CPU인 Vera가 Phoronix의 초도 벤치마크에서 전작 Grace 대비 약 63% 성능 향상을 기록하며 AMD EPYC, Intel Xeon의 하이엔드 서버 CPU들을 앞섰다는 결과가 공개됐다. 그러나 이 뉴스의 핵심은 단순한 CPU 성능 우열 비교가 아니다. NVIDIA가 GPU에서 시작해 네트워크, Rack 시스템, 그리고 이제 CPU까지 AI 데이터 센터의 모든 구성 층을 자사 아키텍처로 통합하려는 전략이 본격화되고 있다는 신호라는 점이 진짜 의미다. AI 데이터 센터의 구매 단위가 “CPU 하나, GPU 하나”에서 “Rack 전체 플랫폼”으로 바뀌고 있는 시대적 전환을 이 벤치마크 뉴스가 가장 선명하게 보여주고 있다.
Vera CPU란 무엇인가
Vera는 NVIDIA의 차세대 ARM 기반 서버 CPU로, 기존 Grace CPU의 후속 제품이다. 차세대 AI 시스템인 Vera Rubin 플랫폼의 핵심 구성 요소로 설계되었으며, 범용 서버 프로세서가 아닌 AI 서버 환경에 특화된 역할을 수행하도록 만들어졌다. 구체적으로는 GPU 옆에서 데이터를 준비하고 메모리를 관리하며, 네트워크 통신을 조율하고 AI 추론(inference) 워크로드를 보조하는 AI 서버 전용 두뇌라고 할 수 있다.
02:12 - Vera CPU의 역할 설명 - GPU 옆에서 데이터 준비, 메모리 관리, 네트워크 통신 조율
NVIDIA가 Vera를 만들게 된 근본적인 이유는 AI 데이터 센터의 구조적 특성에서 비롯된다. AI 데이터 센터는 GPU만 빠르다고 해결되지 않는다. GPU가 연산을 멈추지 않고 수행하려면 CPU가 데이터를 끊임없이 스마트하게 공급해야 한다. 메모리에서 데이터를 꺼내고, 스토리지에서 불러오며, 네트워크를 통해 다른 서버와 동기화하고, 수많은 작업을 GPU에 균형 있게 분배하는 모든 과정이 CPU의 책임이다. 강연자는 이를 “GPU가 무대 위의 주인공이라면, CPU는 무대 뒤에서 조명, 음향, 동선을 조율하는 스태프”에 비유했다. 스태프가 꼬이면 무대 자체가 망가지듯이, CPU가 병목이 되면 아무리 강력한 GPU도 제 성능을 발휘할 수 없다는 논리다.
02:50 - GPU와 CPU의 관계 비유 - GPU는 무대 주인공, CPU는 무대 뒤 스태프 역할 설명
특히 최근 AI 추론 환경은 이 CPU 병목 문제를 더욱 심화시키고 있다. 대화 컨텍스트가 길어지고 사용자 수가 늘어나며, AI 에이전트가 여러 도구를 동시에 호출하기 시작하면 GPU 내부의 HBM(High Bandwidth Memory)만으로는 모든 데이터를 수용하기 어렵다. 이때 CPU가 메모리와 데이터 흐름을 능동적으로 관리하며 GPU가 멈추지 않도록 계속 데이터를 공급해야 하며, Vera는 바로 그 역할에 최적화되도록 설계되었다는 것이 강연자의 분석이다.
초도 벤치마크 결과와 그 한계
Phoronix가 공개한 초도 벤치마크에서 Vera CPU는 전작 Grace 대비 약 63% 성능 향상을 기록했으며, AMD EPYC와 Intel Xeon의 하이엔드 서버 제품들과 비교해도 앞서는 결과를 보였다. 하지만 강연자는 이 수치 하나만으로 “AMD와 Intel이 끝났다”는 해석은 성급하다고 못 박는다.
이번 테스트는 사전 생산(pre-production) 하드웨어를 대상으로 한 초기 벤치마크이며, 전력 효율 데이터는 아직 충분히 공개되지 않았다. 서버 CPU 시장에서 “얼마나 빠른가”보다 더 중요한 질문은 “그 성능을 몇 와트(W)로 달성했는가”이다. AI 데이터 센터에서 전력, 냉각, 공간은 모두 직접적인 운영 비용으로 전환되기 때문에, 전력당 성능(Performance per Watt)이 실질적인 도입 결정을 가르는 핵심 지표가 된다. 컴파일, 데이터베이스, 과학 연산, AI 전처리처럼 워크로드 유형에 따라 결과가 달라질 수 있다는 점도 고려해야 하며, 정식 양산 제품에서의 성능 재현 여부, 가격과 공급 조건, 대형 클라우드 사업자들의 실제 채택 여부, 그리고 독립적인 벤치마크를 통한 반복 검증이 모두 아직 남아 있다.
AI 데이터 센터의 구조적 변화 — 병목의 이동
이 벤치마크 뉴스가 단순한 CPU 성능 경쟁을 넘어서는 이유는, AI 데이터 센터 아키텍처 자체가 근본적으로 변화하고 있다는 사실을 가리키기 때문이다.
과거 전통적인 서버 환경에서는 CPU가 서버의 중심이었고 GPU는 옆에 붙는 가속기(accelerator)였다. 그러나 AI 데이터 센터에서는 이 관계가 역전되었다. GPU가 연산의 중심이 되었고, CPU는 그 GPU 군단을 먹이고 묶으며 조율하는 시스템 부품으로 역할이 재정의되고 있다. 강연자는 이 변화를 두고 “기술 명칭이 아니라 병목의 위치를 봐야 한다”고 강조한다. 병목이 GPU 내부에서만 발생하는 것이 아니라 GPU를 둘러싼 메모리, 네트워크, CPU, Rack 시스템 전반으로 번지고 있다는 것이 Vera 출시가 보내는 가장 확실한 신호라는 것이다.
04:09 - AI 데이터 센터에서 CPU와 GPU의 역할 역전 구조 변화 설명
AMD와 Intel에게 이 변화가 부담으로 작용하는 이유도 여기에 있다. AMD는 EPYC로 데이터 센터 CPU 시장을 빠르게 키워왔고, Intel은 Xeon 생태계와 기업 고객 기반을 지켜왔다. 하지만 NVIDIA가 Vera로 성능 경쟁에서 앞서게 되면, 경쟁 구도가 “CPU 하나를 더 잘 만드는 싸움”에서 “AI 데이터 센터 전체를 어떤 플랫폼으로 구성할 것인가의 싸움”으로 이동한다. 이 전선의 이동 자체가 AMD와 Intel 모두에게 새로운 도전이 된다.
NVIDIA의 진짜 전략 — AI 팩토리의 완성
강연자가 이 뉴스에서 읽어내는 가장 핵심적인 의미는 NVIDIA가 이제 고객에게 완전한 플랫폼 패키지를 제안할 수 있게 되었다는 점이다. GPU는 이미 NVIDIA가 시장을 장악하고 있으며, 네트워크는 ConnectX, BlueField, Spectrum으로 묶고 있고, Rack 스케일 연결은 NVLink와 NVSwitch로 밀어붙이고 있다. 여기에 Vera CPU까지 더해지면서, NVIDIA는 처음으로 AI 데이터 센터의 모든 구성 요소를 자사 제품으로 채울 수 있게 되었다.
05:00 - NVIDIA의 완전한 플랫폼 전략 - GPU, 네트워크, CPU 전 영역 통합 선언
이것은 고객의 구매 의사결정 방식을 근본적으로 바꾼다. 기존에는 최적의 CPU와 최적의 GPU를 각각 따로 선택하는 방식이었다면, 이제는 AI 데이터 센터 전체를 어떤 플랫폼으로 구성할 것인가의 문제가 된다. NVIDIA는 “GPU가 NVIDIA라면, 네트워크도, Rack 스케일 연결도, 이제 CPU까지 NVIDIA로 맞추는 것이 가장 빠르다”고 말할 수 있는 위치에 서게 된 것이다. 고객 입장에서는 CPU 하나가 10% 더 빠른지를 따지는 것이 아니라, Rack 전체가 얼마나 안정적이고 효율적으로 동작하는지가 더 중요한 기준이 된다. 강연자는 이를 “부품 하나를 고르는 것이 아니라 AI 공장 전체를 패키지로 사는 것처럼 느끼게 된다”고 표현했다.
Vera는 그 패키지에서 마지막으로 남아 있던 CPU 퍼즐을 채움으로써, NVIDIA가 완전한 AI 데이터 센터를 통째로 판매할 수 있는 조건을 완성했다는 것이 강연자의 핵심 주장이다.
ARM 인수 실패에서 AI 인프라 주도권으로
이 맥락에서 NVIDIA의 ARM 인수 실패를 다시 바라볼 필요가 있다. NVIDIA는 한때 ARM Holdings를 통째로 인수하려 했으나 규제 당국의 반대로 무산되었다. 당시에는 NVIDIA의 CPU 전략에 결정적인 제동이 걸린 것처럼 보였다. 그러나 AI 시대가 열리면서 다른 경로가 생겨났다. ARM 회사 자체를 사지는 못했지만, ARM 기반 CPU를 직접 설계하고 그 CPU를 GPU, 네트워크, Rack 시스템 안에 통합하는 방식으로 우회로를 개척한 것이다.
강연자의 해석은 이렇다. NVIDIA는 CPU 회사를 인수하는 대신, CPU가 절실하게 필요한 시장의 중심을 먼저 장악했다. AI 인프라의 주도권을 쥠으로써, ARM을 소유하지 않고도 ARM 기반 CPU 시장에 독자적으로 진입하는 길을 만들어낸 것이다. ARM 인수는 실패했지만 AI 인프라의 주도권을 잡으면서 NVIDIA는 CPU 시장의 문을 다시 두드리고 있으며, 이것이 Vera의 진짜 서사라는 것이다.
06:07 - ARM 인수 실패 이후 NVIDIA의 우회 전략과 AI 인프라 주도권 확보 과정 설명
대만 GTC Taipei의 의미
NVIDIA가 AI 데이터 센터 플랫폼 회사로 자리매김하려면, 칩 설계 역량만으로는 충분하지 않다. 설계된 칩이 실제 서버로 만들어지고, Rack으로 조립되어 데이터 센터에 배치될 수 있어야 한다. 이 과정에서 대만 공급망의 역할이 결정적으로 중요해진다. TSMC는 첨단 반도체 제조의 거점이며, Foxconn, Quanta, Wistron 같은 대만 ODM 업체들은 AI 서버와 Rack 생산에서 핵심적인 위치를 차지하고 있다.
강연자는 미국에서 열리는 GTC와 별개로 타이페이에서도 GTC Taipei가 열리며, Jensen Huang CEO가 직접 참석해 키노트를 진행한다는 점에 주목한다. 이 행사를 단순한 기술 발표의 장이 아니라, NVIDIA가 말하는 ‘AI 팩토리’가 실제 대만 공급망 위에서 구현될 수 있는지를 확인하는 자리로 해석한다. 강연자 본인도 이번 GTC Taipei 현장에 직접 참석해, Vera CPU가 단독 벤치마크에서 빠른 것과 Vera Rubin Rack 시스템 안에서 실제 병목을 줄이는 것이 완전히 다른 문제임을 직접 검증할 계획이라고 밝혔다.
진짜 질문은 이것이다. 이 CPU가 Rubin GPU를 얼마나 오래, 얼마나 많이, 얼마나 효율적으로 먹여 살릴 수 있는지, 그리고 그 거대한 AI Rack 시스템이 대만 공급망 위에서 실제로 얼마나 안정적으로 양산될 수 있는지를 현장에서 확인하겠다는 것이다.
앞으로 확인해야 할 핵심 포인트
강연자가 제시한 향후 검증 항목들은 단순한 성능 수치를 넘어서는 복합적인 의미를 담고 있다. 각 항목은 Vera의 시장 성공 여부를 가르는 실질적인 기준들이다.
첫째, 전력 효율이다. Vera가 빠르다는 것보다, 같은 전력으로 얼마나 많은 AI 작업을 처리할 수 있는지가 데이터 센터 운영자에게는 더 중요한 지표다. AI 데이터 센터에서 전력, 냉각, 공간은 모두 직접적인 운영 비용이기 때문에, 전력당 성능(Performance per Watt)이 경제성을 결정한다.
둘째, 실제 양산과 공급망이다. AI Rack 시스템은 CPU 칩 하나만 준비된다고 완성되지 않는다. 보드, 냉각 시스템, 네트워크, 전력 공급, 전체 공급망이 동시에 맞아 떨어져야 하며, 이 과정에서 대만 공급망과의 협력이 결정적 역할을 한다.
셋째, 고객의 실제 채택이다. 대형 클라우드 사업자들이 Vera Rubin 플랫폼을 얼마나 빠르게 도입하는지가 시장에서의 실질적인 검증이 된다. 벤치마크 숫자가 아무리 좋아도 고객이 채택하지 않으면 시장 영향력은 제한적이다.
넷째, AMD와 Intel의 대응이다. 최근 서버 CPU로 주목받고 있는 두 회사 모두 이제 CPU 단품 경쟁만으로는 부족하다. AMD는 EPYC와 Instinct GPU를 더 강하게 통합해야 하고, Intel도 Xeon, Gaudi AI 가속기, Ethernet 네트워크, Foundry 전략을 하나의 서사로 묶어 제시해야 하는 상황이다. 여기에 서버 시장에 도전하고 있는 Qualcomm 같은 신규 플레이어들의 움직임도 전체 경쟁 지형에 변수가 될 수 있다.
마무리 — 부품 선택의 시대에서 플랫폼 선택의 시대로
Vera CPU 벤치마크는 “CPU 하나가 빠르다”는 뉴스로 끝나지 않는다. 강연자는 이를 NVIDIA가 AI 데이터 센터의 모든 층을 자기 아키텍처 안으로 끌어들이는 과정의 일환으로 해석한다. GPU 전쟁으로 시작된 AI 인프라 경쟁이, 이제 AI 데이터 센터 전체를 누가 설계하느냐의 전쟁으로 넘어가고 있다는 것이다.
이 변화는 산업의 구도를 뒤흔드는 사건이다. GPU는 이미 NVIDIA가 장악했고, 네트워크는 ConnectX·BlueField·Spectrum으로, Rack 스케일 연결은 NVLink·NVSwitch로 묶이고 있으며, 이제 CPU까지 Vera로 가져오려 한다. 고객 입장에서 질문이 달라진다. “어떤 CPU가 제일 빠른가”가 아니라 “어떤 플랫폼을 선택해야 GPU를 가장 오래, 가장 많이, 가장 효율적으로 가동할 수 있는가”로 바뀐다.
09:56 - NVIDIA AI 데이터 센터 수직 통합 구조 총정리 - ConnectX, BlueField, NVLink, NVSwitch, Vera CPU
강연자가 던지는 최종 질문은 이렇게 정리된다. NVIDIA가 서버 CPU 시장에서 몇 퍼센트 점유율을 가져갈 것인가가 아니라, AI 데이터 센터에서 CPU라는 부품을 별도로 선택하는 시대가 앞으로 얼마나 남아 있는가 하는 것이다. GPU 회사가 CPU를 만들기 시작했다는 뉴스가 아니라, GPU를 중심으로 데이터 센터 전체를 재설계하다 보니 CPU마저 NVIDIA 생태계 안으로 들어오기 시작했다는 뉴스로 읽는 것이 정확하다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | AMD·인텔 CPU보다 빠르다 | 엔비디아 Vera CPU와 AI 랙 전쟁 |
| 채널 | 안될공학 - IT 테크 신기술 |
| 리포트 작성 | 2026-05-28 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.