AMD는 엔비디아의 AI 반도체 독주를 막을 수 있을까?
AI 기술이 눈부시게 발전하면서 인공지능 모델을 학습시키고 서비스하는 데이터센터의 규모도 함께 급증하고 있습니다. 이러한 변화의 중심에는 엔비디아의 GPU와 소프트웨어 플랫폼인 쿠다(CUDA)가 자리 잡고 있습니다. 현재 주요 AI 기업과 클라우드 사업자들이 엔비디아 GPU를 폭넓게 활용하면서 엔비디아는 AI 가속기 시장에서 강력한 영향력을 유지하고 있습니다. 하지만 특정 기업에 대한 의존도가 높아지면서 시장에서는 새로운 대안을 요구하는 목소리도 커지고 있습니다. 이 같은 흐름 속에서 엔비디아와 가장 직접적으로 경쟁하는 기업으로 AMD가 주목받고 있습니다.
AMD는 단순히 단품 GPU 성능을 올리는 데 그치지 않고, EPYC 서버용 CPU와 인스틴크트(Instinct) GPU, 자체 소프트웨어 플랫폼인 ROCm, 그리고 전체 랙 시스템인 헬리오스(Helios)까지 하나의 통합 생태계로 묶어 공급하는 전략을 펼치고 있습니다. 여기에 OpenAI와 Meta 등 대형 AI 기업들이 AMD 가속기 도입을 구체화하면서 시장의 관심은 더욱 뜨거워지고 있습니다. AMD가 과연 견고한 엔비디아의 벽을 넘어 시장의 판도를 바꿀 수 있을지 차근차근 살펴보겠습니다.
빠르게 성장하는 AMD 데이터센터 사업의 성과
AMD의 사업 체질 변화는 데이터센터 실적 수치에서 뚜렷하게 나타납니다. AMD 발표 자료에 따르면 2026년 2분기 데이터센터 부문 매출은 67억 달러를 기록하며, 전년 동기 32억 4,000만 달러 대비 약 107% 급증했습니다. 이는 AMD 전체 매출 115억 달러의 절반이 넘는 약 58%에 해당하는 수준입니다. 과거 PC용 중앙처리장치(CPU)와 소비자용 그래픽카드 중심의 회사라는 인식이 강했던 AMD가 이제는 AI 데이터센터 사업의 비중이 크게 높아졌음을 보여줍니다.
이 매출에는 EPYC 서버 CPU 실적이 함께 포함되어 있어 모두 AI GPU 매출이라고 단정할 수는 없습니다. 다만 AMD 공식 자료에서는 EPYC 서버 CPU 수요에 Instinct GPU 판매 확대가 더해지면서 데이터센터 사업 전체의 성장을 이끌고 있다고 설명합니다.
차세대 가속기와 풀 스택 시스템 구축 전략
AMD가 제시하는 핵심 무기는 차세대 AI 가속기인 인스틴크트 MI400 시리즈입니다. 2026년 7월 개최된 ‘어드밴싱 AI(Advancing AI)’ 행사에서 AMD는 MI400 시리즈와 함께 자사 최초의 랙 규모 시스템인 헬리오스를 선보였습니다. 지금까지는 CPU나 GPU 개별 칩을 판매하는 방식이 위주였다면, 이제는 대규모 데이터센터 구축에 필요한 전체 인프라를 직접 설계하고 통째로 공급하겠다는 뜻을 밝힌 것입니다.
최근의 AI 데이터센터 환경은 개별 GPU의 단일 연산 속도만으로 우위를 점하기 어려운 구조입니다. 수만 개의 GPU가 동시에 연결되어 거대한 AI 모델을 처리할 때는 칩 간의 통신 속도, 전력 소비 효율, 시스템 단위의 열 관리, 메모리 대역폭이 종합적으로 작동해야 합니다. 엔비디아 역시 차세대 칩과 함께 NVLink 기술을 활용한 랙 단위 토털 솔루션을 핵심 경쟁력으로 내세우고 있습니다. AMD 역시 헬리오스를 통해 GPU 단품 경쟁을 넘어 랙 단위 시스템 경쟁에 본격적으로 뛰어들었습니다.
OpenAI·Meta로 확대되는 AMD 고객 기반
하드웨어 스펙보다 중요한 것은 실제 대규모 서비스 환경에서의 검증 여부입니다. AMD는 OpenAI와 Meta 등 대형 AI 기업을 고객사로 확보하며 시장에서 입지를 넓히고 있습니다. 대표적으로 OpenAI와 체결한 대규모 구축 계약을 들 수 있습니다. 양사는 여러 세대에 걸쳐 총 6GW(기가와트) 규모의 AMD GPU 인프라를 구축하는 프로젝트를 추진하기로 발표했습니다. 여기서 GW는 GPU 개수가 아니라 대규모 AI 데이터센터의 전력·컴퓨팅 인프라 규모를 나타내는 단위입니다. 그 첫 단계로 2026년 하반기부터 MI450 계열 가속기를 활용한 1GW 규모의 인프라 구축이 순차적으로 시작될 예정입니다.
Meta 역시 AMD와 최대 6GW 규모의 Instinct GPU를 배치하는 다년간 계약을 체결했습니다. OpenAI나 Meta 같은 기업이 AMD 칩을 도입하는 것은 단순한 부품 구매 이상의 의미를 지닙니다. 대규모 실전 데이터센터 환경에서 수만 개의 칩이 실제 배치되면, 개발 도구와 소프트웨어 최적화가 확대될 가능성도 커집니다. 이는 다시 다른 빅테크와 클라우드 사업자들이 AMD를 선택하게 만드는 계기가 될 수 있습니다.
공급망 다변화 수요와 비용 대비 처리량의 중요성
빅테크 기업 입장에서 특정 하드웨어 공급업체에 지나치게 의존하는 것은 경영상 리스크가 큽니다. 제품 공급 지연이나 가격 협상력 약화, 소프트웨어 록인 현상이 발생할 수 있기 때문입니다. 따라서 데이터센터 사업자는 칩 가격뿐 아니라 전력·냉각·소프트웨어·운영비를 포함한 총소유비용(TCO)과 실제 처리 성능을 함께 비교합니다. 여기에 특정 업체에 대한 의존도를 낮추기 위한 공급망 다변화도 중요한 판단 기준입니다. 결국 같은 비용으로 얼마나 많은 AI 연산을 처리할 수 있는지가 중요한 경쟁 요소가 됩니다.
AMD 역시 헬리오스 시스템을 공개하며 AI 추론 영역에서의 비용 대비 처리량 효율을 주요 강점으로 내세우고 있습니다. 경쟁력 있는 TCO를 기반으로 시장 점유율을 확장하려는 전략입니다.
넘어야 할 최대 과제, ROCm 소프트웨어 생태계
하드웨어의 성능이 훌륭하다 하더라도 이를 뒷받침할 소프트웨어가 부족하면 시장에서 외면받기 쉽습니다. 엔비디아가 시장을 선도할 수 있었던 핵심 경쟁력은 오랜 기간 구축해 온 쿠다(CUDA) 생태계입니다. 많은 AI 연구자와 개발자가 쿠다 환경에 익숙하며, 관련 라이브러리와 AI 프레임워크 지원이 폭넓게 구축돼 있어 타사 제품으로 이동할 때 발생하는 전환 비용이 매우 높습니다.
AMD는 이에 맞서 오픈소스 기반의 ROCm 플랫폼을 지속해서 고도화하고 있습니다. ROCm은 GPU 프로그래밍에 필요한 컴파일러, 런타임, 라이브러리를 제공하며 파이토치(PyTorch), 잭스(JAX) 같은 주요 AI 프레임워크는 물론 vLLM, SGLang 등 최신 추론 엔진과의 호환성을 꾸준히 확장하고 있습니다. 그러나 십수 년간 쌓인 쿠다의 소프트웨어 자산과 개발자 인프라를 짧은 시간 안에 넘어서는 것은 여전히 커다란 숙제로 남아 있습니다.
엔비디아와의 격차는 아직 큽니다
AMD의 성장세가 가파르지만, 당장 엔비디아의 규모를 위협하는 수준이라고 보기는 어렵습니다. 엔비디아의 경우 2027 회계연도 1분기 기준 데이터센터 부문에서만 752억 달러의 매출을 기록했습니다. 이는 전년 동기 대비 92% 증가한 수치입니다. 두 회사의 데이터센터 매출에 포함되는 제품 구성이 서로 달라 단순 비교에는 한계가 있지만, 그럼에도 현재 데이터센터 사업 규모에서는 엔비디아와 AMD 사이에 상당한 격차가 있다는 점을 확인할 수 있습니다.
그러나 AMD가 꼭 1위 자리를 빼앗아야만 성공하는 것은 아닙니다. 전체 AI 인프라 시장의 크기가 눈에 띄게 커지고 있기 때문입니다. 절대적인 시장 규모가 확장되는 상황에서는 복수 공급자 구조로 변화하는 것 자체가 AMD에게는 상당한 사업 기회가 됩니다. 엔비디아가 시장의 가장 큰 부분을 차지하더라도 확실한 두 번째 공급자로 자리 잡는다면 의미 있는 성과를 거둘 수 있습니다.
생태계 경쟁의 관점에서 바라본 향후 전망
결국 AI 반도체 시장의 주도권 싸움은 칩 자체의 연산 속도를 겨루는 단거리 경주가 아니라, 소프트웨어와 시스템 생태계 전체를 아우르는 장기전입니다. AMD는 인스틴크트 GPU와 EPYC CPU, 헬리오스 랙 시스템을 차례로 갖추며 하드웨어와 시스템 측면에서 경쟁 범위를 빠르게 넓히고 있습니다.
단기간에 AMD가 엔비디아의 지배력을 무너뜨릴 가능성은 높지 않습니다. 하지만 AMD가 성공하기 위해 반드시 엔비디아를 넘어설 필요도 없습니다. OpenAI와 Meta의 대규모 도입이 계획대로 진행되고 ROCm 생태계가 확대된다면, 엔비디아 중심의 AI 가속기 시장에서 강력한 두 번째 공급자로 자리 잡을 가능성은 있습니다. 결국 AMD의 성패는 엔비디아를 넘어설 수 있느냐보다, 엔비디아 중심의 AI 가속기 시장에서 얼마나 확실한 대안으로 자리 잡을 수 있느냐에 달려 있습니다.