엔비디아 GTC 발표: 마이크로소프트 파운드리, 애저 AI 인프라, 피지컬 AI를 위한 마이크로소프트의 새로운 해법
핵심 요약: 마이크로소프트는 엔비디아 GTC에서 마이크로소프트 파운드리의 기능을 확대하고, 추론 중심 워크로드에 최적화된 신규 애저 AI 인프라를 공개했다. 회사는 엔비디아의 최신 베라 루빈 NVL72 시스템을 하이퍼스케일 클라우드 최초로 가동했으며, 수십만 대 규모의 그레이스 블랙웰 GPU를 액체 냉각 방식으로 전 세계 데이터센터에 배치했다고 밝혔다. 또한 파운드리와 마이크로소프트 패브릭, 엔비디아 옴니버스 연계를 강화해 시뮬레이션부터 실제 운영을 잇는 피지컬 AI 지원을 확대했다.
핵심 사실
- 마이크로소프트는 엔비디아 GTC에서 파운드리(Foundry) 에이전트 서비스 및 컨트롤 플레인 관측 기능의 정식 출시를 발표했다. 이는 프로덕션 규모 에이전트 운영을 목표로 한다.
- 새로운 애저 AI 인프라는 추론 중심·고난도 사고 기반 워크로드에 최적화돼 있으며, 엔비디아의 Vera Rubin NVL72 시스템을 애저 데이터센터에 최초로 가동했다.
- 마이크로소프트는 1년 미만 기간에 전 세계 데이터센터에 수십만 대의 Grace Blackwell GPU를 액체 냉각 방식으로 배치했다고 설명했다.
- 파운드리와 연동되는 Voice Live API는 퍼블릭 프리뷰로 공개되어 음성 중심 실시간 멀티모달 에이전트 구현을 지원한다.
- 파운드리 포털의 정식 출시와 함께 Palo Alto Networks’ Prisma AIRS, Zenity 통합을 확대해 에이전트 라이프사이클 전반의 보안과 운영 안정성을 강화했다.
- 엔비디아의 오픈 모델 Nemotron은 이제 파운드리를 통해 제공되며, Fireworks AI와의 협업으로 오픈 가중치 모델을 엣지에 저지연 자산으로 배포할 수 있도록 지원한다.
- 파운드리 로컬(Foundry Local)과 애저 로컬(Azure Local)에서 Vera Rubin 플랫폼에 대한 초기 지원이 시작되어 주권·규제 환경에서도 일관된 거버넌스와 보안을 제공한다.
- 애저 피지컬 AI 툴체인 GitHub 저장소가 공개되어 물리 자산·시뮬레이션·클라우드 학습을 연결하는 엔터프라이즈 파이프라인을 지원한다.
사건 배경
최근 AI 산업은 프론티어 모델 개발에서 실서비스의 안정적 배포와 운영으로 무게중심이 이동하고 있다. 특히 대규모 추론 워크로드는 비용·전력·냉각·네트워크 설계에서 기존 학습 중심 환경과 다른 요구를 제기한다. 이러한 변화 속에서 클라우드 사업자들은 하드웨어·소프트웨어·운영체계의 통합을 통해 기업 고객이 신뢰할 수 있는 프로덕션 플랫폼을 제공하려는 경쟁을 벌이고 있다.
마이크로소프트는 오랜 기간 엔비디아와 협력해 온 경험을 바탕으로, 애저의 인프라 설계와 데이터센터 운영 노하우를 결합해 추론 중심 환경에 맞춘 전환을 진행해왔다. 파운드리는 모델·도구·데이터·관측 기능을 통합해 기업 규모의 에이전트 운영을 지원하는 운영체제(운영 레이어) 역할을 목표로 설계됐다.
주요 사건
엔비디아 GTC에서 마이크로소프트는 파운드리의 핵심 컴포넌트인 파운드리 에이전트 서비스와 컨트롤 플레인의 관측 기능을 정식으로 내놨다. 이들 기능은 도구·데이터·워크플로 전반에서 추론·계획·실행이 가능한 에이전트를 빠르게 개발·배포하도록 돕는다. 에이전트가 운영에 들어가면 컨트롤 플레인은 엔드투엔드 가시성을 제공해 개발자 생산성과 운영 신뢰를 동시에 끌어올린다.
하드웨어 측면에서는 마이크로소프트가 베라 루빈 NVL72를 애저 데이터센터에서 최초로 가동했다고 발표한 점이 눈에 띈다. 더불어 수십만 대 규모의 Grace Blackwell GPU를 액체 냉각 방식으로 단기간 내 배치해 고집적·고전력 워크로드를 수용할 준비를 마쳤다고 전했다. 회사는 이러한 설계가 빠른 세대 전환과 글로벌 배포를 용이하게 한다고 설명했다.
또한 파운드리·패브릭·옴니버스 간 통합 강화로 시뮬레이션 데이터와 실제 운영 데이터를 연결하는 파이프라인을 확대했다. 이는 디지털 트윈·실시간 시뮬레이션을 통한 피지컬 AI 적용 범위를 제조·에너지·운송 등 물리 자산이 있는 현장으로 넓히는 조치다. 관련 툴체인과 GitHub 저장소 공개로 엔터프라이즈 도입의 문턱을 낮추려는 전략도 병행된다.
분석 및 의미
첫째, 이번 발표는 ‘모델 중심’ 단계를 넘어 ‘운영 중심’ 단계로의 산업 전환을 가속화한다. 파운드리의 에이전트 서비스와 관측 기능은 단순한 모델 배포를 넘어 장기적 운영·관리가 가능한 플랫폼을 제공해 기업의 실서비스 운영 리스크를 줄인다. 특히 에이전트 라이프사이클 전반의 가시성 확보는 규제·컴플라이언스 측면에서 중요한 의미를 갖는다.
둘째, 하드웨어·데이터센터 설계의 진화는 추론 워크로드의 총비용(TCO)과 성능에 직접적인 영향을 준다. 액체 냉각으로 대규모 GPU를 안정적으로 운영하는 전략은 전력 밀도 증가와 냉각 효율 개선을 통해 고집적 배치를 가능케 한다. 이는 대규모 에이전트형 서비스의 지연·가용성 요구를 만족시키는 핵심 요소다.
셋째, 피지컬 AI 통합은 클라우드 기반 AI의 적용 범위를 공장, 전력망, 해상 선단 등 물리적 환경으로 확장한다. 실시간 시뮬레이션과 디지털 트윈 연동이 성숙해질 경우, 현장 의사결정의 자동화·선제화가 가능해지며 운영 비용 절감과 안전성 향상으로 이어질 수 있다. 다만 현장 적용에 따른 데이터 품질·센서 신뢰성·보안 요구는 여전히 해결 과제로 남는다.
비교 및 데이터
| 항목 | 기존(일반적 클라우드) | 마이크로소프트(발표된 방향) |
|---|---|---|
| 주요 초점 | 학습(훈련) 중심 | 추론·에이전트 운영 중심 |
| 냉각 방식 | 공랭 중심 | 액체 냉각 대규모 배치 |
| 모델 제공 | 제한적(클로즈드옵션 포함) | 엔비디아 Nemotron 등 오픈·프론티어 모델 포함 |
| 현장 통합 | 별도 통합 필요 | 패브릭·옴니버스 연계 통한 디지털 트윈 통합 |
위 표는 발표 내용을 바탕으로 마이크로소프트가 제시한 방향성과 기존 클라우드 설계의 차이를 요약한 것이다. 핵심은 추론·운영 단계에서의 인프라 최적화와 현장 연계성 강화다.
반응 및 인용
발표 직후 파트너 및 고객사들은 파운드리의 운영 중심 접근에 주목했다. 기업들은 수작업 점검을 자동화하는 사례를 통해 운영 효율화를 기대한다고 밝혔다.
“파운드리는 기업 규모에서 AI를 안정적으로 운영할 수 있는 기반을 제공한다.”
이나 아레나스, 마이크로소프트 파운드리 기업 부사장(발표문 요지)
“우리는 이미 전 세계 선단에서 파운드리를 활용해 수작업 점검을 자동화하고 있다.”
Corvus Energy(활용 사례)
“애저에 Vera Rubin NVL72를 도입해 하이퍼스케일 환경에서 최신 추론 시스템을 가동했다.”
마이크로소프트(공식 발표 요지)
불확실한 부분
- “수십만 대”로 언급된 Grace Blackwell GPU의 정확한 배치 수치와 지역별 분포는 공개되지 않아 구체적 규모는 확인 필요하다.
- Vera Rubin NVL72의 전국·전세계 확산 시점과 각 리전별 가용성 일정은 발표에서 ‘수개월 내 확대’로만 표기되어 있어 상세 일정은 불확실하다.
- 피지컬 AI의 현장 적용 효과(비용 절감, 오류 감소 등)에 대한 정량적 검증 결과는 아직 공개된 바 없어 추가 사례·데이터가 필요하다.
총평
이번 엔비디아 GTC에서의 발표는 마이크로소프트가 AI의 ‘운영’ 단계로 전략적 초점을 옮기고 있음을 분명히 보여준다. 파운드리의 정식 기능화와 컨트롤 플레인 관측 강화는 기업 고객이 실서비스에서 요구하는 안정성·거버넌스 문제를 직접 겨냥한 조치다.
하드웨어 측면에서 액체 냉각 기반 대규모 GPU 배치는 고집적 추론 워크로드를 수용하는 현실적 해결책이다. 그러나 세부 배치 규모와 국제적 확장 속도, 피지컬 AI 적용의 정량적 성과는 앞으로 공개될 추가 데이터로 확인할 필요가 있다. 향후 몇 달간의 배치·성능 지표와 고객 사례가 발표되면 산업 전반의 파급력을 더 명확히 판단할 수 있을 것이다.