CPU·GPU 더 긴밀해진다…Arm·엔비디아, AI 컴퓨팅 재정의 본격화

[빅데이터뉴스 김다경 기자] AI가 스스로 판단하고 행동하는 '에이전틱 AI'가 화두로 떠오르면서 CPU·GPU·메모리 통합 경쟁이 시작됐다. CPU와 GPU, 메모리를 결합하는 컴퓨팅 구조가 중요해지면서 Arm, 엔비디아, 마이크로소프트가 각각 CPU·GPU·운영체제를 맡은 플랫폼을 선보이면서 경쟁이 본격화되고 있다.

2일 업계에 따르면 Arm은 최근 대만 타이베이에서 열린 컴퓨텍스 2026에서 엔비디아와 협력한 Arm 기반 AI PC 플랫폼 ‘RTX 스파크’를 공개했다. RTX 스파크는 Arm 기반 ‘Grace CPU’와 엔비디아 블랙웰 RTX GPU를 통합한 메모리로 AI 추론 등 고도화된 AI 실행 과제를 겨냥했다.

Arm은 이번 플랫폼 공개를 “에이전틱 AI 시대를 위한 새로운 PC 아키텍처”라고 설명했다. 에이전틱 AI는 단순 질의응답을 넘어 AI가 스스로 계획·추론·작업 수행까지 처리하는 형태다. 이에 따라 AI 연산 과정에서 CPU와 GPU, 메모리 간 데이터 이동이 급증하는 것을 대응한다.

카우츠브 상하니 엔비디아 제품관리 부문 부사장은 “에이전트는 GPU, CPU, 메모리 아키텍처의 긴밀한 통합과 최적화가 필요하다”며 “RTX 스파크는 개인 컴퓨팅 경험을 새롭게 정의할 것”이라고 밝혔다.

그동안 AI 반도체 시장은 엔비디아 GPU 중심으로 성장해왔다. 생성형 AI 초기에는 대규모 병렬 연산 성능이 핵심 경쟁력이었던 만큼 GPU 확보 여부가 AI 경쟁력을 좌우했다. 그러나 AI가 점차 자율적으로 추론·계획 등을 수행하는 에이전틱 AI 단계로 들어서며 CPU도 부각되고 있다.
실제 Arm은 이날 별도 발표를 통해 오라클 클라우드 인프라스트럭처(OCI)가 ‘Arm AGI CPU’ 생태계에 합류했다고 밝혔다. Arm은 에이전틱 AI 시대에는 AI 모델뿐만 아니라 CPU 기반 작업 비중이 크게 늘어난다고 설명했다.

시장조사업체 세미애널리시스에 따르면 최신 에이전틱 AI 코딩 실행 시간 중 약 42%가 CPU 기반 툴 사용에 소요되는 것으로 추산된다. 이에 따라 Arm은 기존 x86 CPU 대비 전력 효율과 집적도를 높인 Arm 기반 서버 CPU 수요가 확대될 것으로 보고 있다.

또한 Arm은 에이전틱 AI 확산 속도가 예상보다 빠르게 진행되고 있다고 분석했다. 실제로 AI 스타트업 앤트로픽 의 연환산 매출(ARR)은 지난해 말 약 90억달러에서 올해 5월 기준 500억달러에 달하는 규모로 증가한 것으로 나타났다.

특히 엔비디아가 GPU 공급사를 넘어 Arm 기반 CPU까지 직접 설계하며 ‘AI 플랫폼 기업’으로 진화하고 있다는 평가도 나온다. 엔비디아는 데이터센터용 Grace CPU와 Vera CPU 등을 잇따라 공개하며 Arm 기반 CPU 전략을 강화하고 있다.

이 과정에서 Arm 존재감도 빠르게 확대되고 있다. 애플이 Arm 기반 M시리즈 칩으로 PC 시장 변화를 이끈 데 이어 최근에는 마이크로소프트와 퀄컴이 ‘Windows on Arm’ 생태계 확대에 나서고 있다.

업계 관계자는 “초기 생성형 AI 시장이 GPU 중심 경쟁이었다면 최근에는 추론과 에이전틱 AI 확산으로 CPU와 메모리 중요성도 커지고 있다”며 “AI 연산 과정에서 빠른 속도를 필요로 하고 메모리가 서포트를 해줘야 하는 상황이라 CPU·메모리 모두 병목 요소로 언급된다”고 말했다.

김다경 빅데이터뉴스 기자 dk@thebigdata.co.kr