핵심 요약
엔비디아는 2026년 GTC(새너제이)에서 통합 AI 인프라 플랫폼 ‘베라 루빈(Vera Rubin)’을 공개하고, 에이전틱(Agentic) AI 시대를 겨냥한 7종 신규 칩의 양산을 시작한다고 발표했다. 플랫폼은 CPU·GPU·DPU·NIC·LPU·스토리지·스위치를 포함한 랙·POD 단위 통합 설계로 대규모 사전·사후 훈련과 실시간 에이전틱 추론을 모두 지원하도록 설계됐다. 엔비디아는 NVL72 등 레퍼런스 랙을 통해 기존 대비 GPU 수·토큰 비용·와트당 추론 성능에서 대폭 개선을 주장했다.
핵심 사실
- 엔비디아는 GTC 2026(장소: 새너제이)에서 ‘베라 루빈’ 플랫폼과 7종 신규 칩의 양산 개시를 발표했다.
- 베라 루빈 플랫폼 구성요소는 베라 CPU, 루빈 GPU, NVLink 6 스위치, 커넥트X-9 슈퍼NIC, 블루필드-4 DPU, 스펙트럼-6 이더넷 스위치, 그록 3 LPU 등이다.
- 주요 레퍼런스인 ‘베라 루빈 NVL72’ 랙은 72개의 루빈 GPU와 36개의 베라 CPU, 커넥트X-9, 블루필드-4를 통합한 구성이다.
- 엔비디아는 NVL72가 블랙웰(Blackwell) 플랫폼 대비 GPU 수를 4분의 1 수준으로 줄이면서 토큰당 비용을 10분의 1 수준으로 유지할 수 있다고 보고했다.
- ‘베라 CPU 랙’은 256개의 베라 CPU를 액체 냉각 고밀도 구조로 통합해 강화학습 및 에이전틱 워크로드를 겨냥한다.
- ‘그록 3 LPX 랙’은 256 LPU, 128GB 온칩 SRAM, 초당 640TB 대역폭을 제공하며 올해 하반기 출시 예정이다.
- ‘블루필드-4 STX’는 GPU 메모리를 POD 전반으로 확장하는 AI 네이티브 스토리지로, DOCA Memos를 통해 추론 처리량을 최대 5배까지 향상시킬 수 있다고 발표했다.
- DSX 플랫폼과 레퍼런스 디자인(DSX AI 팩토리)은 전력·냉각·소프트웨어 공동 설계로 고정 전력 환경에서 최대 30% 더 많은 AI 인프라 구축을 지원한다고 엔비디아는 설명했다.
사건 배경
AI 시스템은 지난 수년간 개별 칩과 독립형 서버 중심에서 랙·POD 단위의 통합 설계로 빠르게 이동해 왔다. 대형 모델의 확장성과 낮은 지연, 대규모 키-값 캐시 관리 등은 단일 서버로는 해결하기 어려운 과제를 낳았고, 네트워크·스토리지·가속기 간의 공동 설계 필요성이 커졌다. 특히 에이전틱 AI는 연속적 의사결정과 멀티턴 상호작용에서 실시간 처리와 대규모 컨텍스트 저장을 요구하므로 전통적 훈련·추론 분리 모델로는 한계가 지적됐다.
이에 따라 하드웨어·소프트웨어·데이터센터 설계가 결합된 ‘AI 팩토리’ 접근이 부상했다. 대형 클라우드 사업자와 시스템업체들은 더 높은 에너지 효율과 복원력, 비용 대비 처리량 개선을 위해 랙·POD 단위 최적화를 추진해왔다. 엔비디아의 베라 루빈은 이러한 흐름을 산업 표준 레퍼런스로 제시하려는 시도로 볼 수 있다.
주요 사건
GTC 2026에서 엔비디아는 베라 루빈 플랫폼을 구성하는 7종 칩과 이를 조합한 레퍼런스 랙을 상세히 공개했다. 발표에 따르면 NVL72 랙은 72개 루빈 GPU·36개 베라 CPU를 결합해 블랙웰 대비 적은 GPU로 대형 MoE 모델을 효율적으로 훈련할 수 있다. 엔비디아는 이 설계가 토큰당 비용을 크게 낮추고, 와트당 추론 처리량을 최대 10배까지 끌어올릴 수 있다고 주장했다.
그록 3 LPX 랙은 대용량 컨텍스트와 초저지연 추론을 위해 설계됐고, LPU(On-chip) 중심의 구조로 메가와트당 처리량을 크게 향상시킨다고 발표됐다. 엔비디아는 LPX가 1조 파라미터 모델 기준 최대 10배의 수익 기회를 제공할 수 있다고 예시했다. 블루필드-4 STX는 GPU 메모리를 POD 전반으로 확장해 대규모 키-값 캐시 운영에 최적화된 스토리지 솔루션으로 소개됐다.
네트워킹 측면에서는 스펙트럼-6 SPX 이더넷 랙과 광학 기반 스펙트럼-X 포토닉스를 강조했다. 엔비디아는 새로운 광학 모듈이 기존 플러그형 트랜시버보다 전력 효율과 복원력에서 우위를 제공한다고 설명했다. 더불어 DSX 소프트웨어와 전력관리 도구를 통해 유휴 전력 활용과 고정 전력 환경에서의 용량 증대를 가능하게 한다고 밝혔다.
분석 및 의미
첫째, 베라 루빈은 제조·네트워킹·소프트웨어를 공동 설계한 ‘시스템적 접근’을 상징한다. 이는 개별 컴포넌트 성능의 단순 합산을 넘어, 레이턴시·대역폭·메모리 계층 전체를 고려한 최적화로 이어진다. 따라서 대규모 에이전틱 워크로드에서 실질적 비용·성능 개선이 기대된다.
둘째, 엔비디아의 발표는 생태계 파트너십을 통한 확산 전략을 보여준다. AWS·구글·MS·오라클 등 주요 클라우드와 시스템 제조업체들이 제품 공급에 참여하면 기업·연구소의 도입 장벽이 낮아진다. 다만 실제 도입은 데이터센터 전력·냉각 인프라, 운영·소프트웨어 스택의 변화에 좌우된다.
셋째, 성능 수치들은 벤치마크와 워크로드에 따라 차이가 클 수 있다. 엔비디아의 수치는 자사 레퍼런스 조건에서의 비교와 추정치를 포함하고 있으므로, 개별 사용 사례에서 재현 가능성은 검증이 필요하다. 특히 토큰당 비용·와트당 추론 성능 등은 모델 아키텍처, 배치·압축 기술, 네트워크 토폴로지에 크게 의존한다.
넷째, 산업적 파급력은 클라우드·통신·스토리지 공급망 전반에 걸쳐 나타날 가능성이 높다. 높은 에너지 효율과 복원력이 실제 운영비용을 낮춘다면, 스타트업부터 공공기관까지 접근성이 개선될 수 있다. 반대로 초기 투자비용과 전환 비용은 실사용자 결정에 중요한 변수로 남는다.
비교 및 데이터
| 지표 | 엔비디아 NVL72 (발표) | 블랙웰(비교 기준) |
|---|---|---|
| GPU 수 | 72 루빈 GPU | 약 4배 많은 GPU(상대적) |
| CPU 수 | 36 베라 CPU | 구성에 따라 상이 |
| 토큰당 비용 | 발표상 1/10 수준 | 기존 블랙웰 기반 비용(기준) |
| 와트당 추론 처리량 | 최대 10배 향상(발표상) | 블랙웰 기준 |
위 표는 엔비디아가 발표한 비교 수치를 요약한 것으로, ‘블랙웰’은 발표에서 비교 대상으로 제시된 기존 플랫폼을 의미한다. 엔비디아의 수치는 특정 레퍼런스 워크로드·구성에서 도출된 값으로, 실사용 환경에서는 네트워크 토폴로지·데이터 특성·소프트웨어 최적화에 따라 차이가 발생할 수 있다.
반응 및 인용
엔비디아 창립자 겸 CEO 젠슨 황은 발표 자리에서 베라 루빈을 세대 도약으로 규정하며 플랫폼의 범용성과 규모를 강조했다. 회사 측은 이를 통해 에이전틱 AI 전환이 촉진될 것이라고 밝혔다.
“베라 루빈은 세대를 뛰어넘는 도약이며, 7개의 혁신적 칩과 다수의 랙이 하나의 슈퍼컴퓨터처럼 작동하도록 설계됐다.”
젠슨 황, 엔비디아 CEO
앤트로픽의 다리오 아모데이는 복잡한 추론과 미션 크리티컬 워크플로우에 맞는 인프라 필요성을 언급하며 엔비디아 설계를 평가했다. 그는 에이전틱 워크로드의 요구를 충족할 수 있는 점을 긍정적으로 봤다.
“복잡한 추론과 에이전틱 워크플로우에는 이에 걸맞은 인프라가 필요하다. 베라 루빈은 그 요구를 충족할 역량을 제공한다.”
다리오 아모데이, 앤트로픽 공동 창립자·CEO
오픈AI의 샘 올트먼도 엔비디아 인프라의 중요성을 재확인하며, 베라 루빈이 대규모 모델 운영과 안정성 개선에 기여할 수 있음을 시사했다. 다만 오픈AI 측은 구체적 도입 계획과 성능 검증은 별도라고 밝혔다.
“엔비디아 인프라는 AI의 지평을 넓히는 기반이며, 베라 루빈을 통해 더 큰 모델과 에이전트를 대규모로 구동할 수 있을 것이다.”
샘 올트먼, 오픈AI CEO
불확실한 부분
- 엔비디아의 성능·비용 수치(토큰당 비용 1/10, 와트당 10배 등)는 발표 조건에 따른 추정치로, 다양한 실사용 워크로드에서 재현 가능성은 검증 필요하다.
- 클라우드 사업자와 파트너사를 통한 대규모 공급 시점과 초기 물량, 실제 가격 책정 방식 등은 제품별로 차등화될 가능성이 크다.
- 광학 모듈·스펙트럼-X 포토닉스의 현장 복원력·호환성은 운용 환경에 따라 추가 테스트가 필요하다.
총평
엔비디아의 베라 루빈 발표는 하드웨어·네트워킹·스토리지를 통합한 시스템적 접근을 한 단계 끌어올린 사례로 평가된다. 발표된 구성과 수치가 실제 운영 환경에서 동일하게 실현된다면, 대규모 에이전틱 AI 워크로드의 비용·성능 구조에 중요한 변화를 가져올 수 있다.
그러나 발표 수치 대부분은 레퍼런스 조건에 기반한 엔비디아의 주장임을 염두에 둬야 한다. 도입을 검토하는 조직은 전력·냉각·소프트웨어 스택 변화를 포함한 총소유비용(TCO)과 실제 워크로드 벤치마크를 통해 검증할 필요가 있다. 향후 몇 달간 클라우드 제공업체 및 시스템 파트너들의 실전 배포 사례가 나오면 성능·비용 주장의 실효성이 보다 분명해질 것이다.