GPU부터 AICC·스마트물류까지…SI기업·이통사 AI 인프라 구축 확대

[빅데이터뉴스 김유승 기자] SI기업과 이동통신사들이 AI·디지털 전환(AX) 인프라 구축에 속도를 내고 있다. 삼성SDS는 최신 GPU를 앞세워 AI 연구용 컴퓨팅 인프라를 확대하고 있다. CJ올리브네트웍스도 제조 현장에 물류 시스템을 구축하며 AI 기반 AX 전환을 지원하고 있다. KT는 금융권 AI 상담 인프라를 구축했다.

삼성SDS는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 ‘2026년 AI 연구용 컴퓨팅 지원 프로젝트’의 GPU 자원 공급사로 선정돼 지난달 20일부터 서비스를 시작했다고 11일 밝혔다.

이번 사업은 대학과 정부출연연구기관 등 국내 연구자에게 AI 연구에 필요한 GPU 자원을 제공하는 사업으로, 약 153억원 규모다. 삼성SDS는 복수 공급사 가운데 1순위 사업자로 선정됐으며, 엔비디아 H100 GPU와 최신 B300(블랙웰 울트라) 기반 GPU 클러스터를 제공한다.

대규모 GPU를 하나의 자원 풀로 구성하고 고속 네트워크를 적용하는 한편 CPU·메모리·스토리지 등 연구에 필요한 인프라를 함께 제공해 연구자들의 AI 모델 학습과 추론을 지원한다.

삼성SDS는 자체 클라우드 서비스인 삼성 클라우드 플랫폼(SCP)을 통해 AI 인프라 사업도 확대하고 있다. 지난 3월 B300 기반 GPUaaS를 출시한 데 이어 7월에는 퓨리오사AI의 2세대 NPU인 레니게이드 기반 NPUaaS를 선보였다.
CJ올리브네트웍스는 제조 현장의 물류 시스템 고도화에 나섰다. HD현대일렉트릭 청주 배전캠퍼스에 차세대 물류관리시스템(WMS)을 구축하고 전사적자원관리(ERP), 생산관리시스템(MES), 창고제어시스템(WCS)과 물류 자동화 설비를 연계했다는 설명이다.

이와 함께 자율주행 물류로봇(AMR), 자동 케이스 처리 로봇(ACR), 물류 셔틀 등과도 연동해 자재 입고부터 생산라인 배송, 완제품 출하까지 전 과정을 데이터 기반으로 관리할 수 있도록 했다. 제조·물류 데이터를 통합해 관리하는 체계를 마련하고 향후 AI를 활용한 물류 고도화에도 대응한다는 방침이다.

KT는 금융권을 중심으로 기업 대상 AX 사업을 확대하고 있다. 이를 위해 최근 약 400억원 규모의 NH농협은행 차세대 AICC(AI Contact Center) 구축 사업을 완료했다.

구체적으로, KT는 AI 콜봇을 은행 핵심 업무 시스템과 연계해 상담사 연결 없이 AI가 처리할 수 있는 업무를 기존 45개에서 180개로 늘렸다. 음성인식 정확도는 약 90%에서 97% 수준으로 높였고, 고객 대기 및 상담 처리 시간도 약 20% 단축했다.

화상·채팅·이메일 등 여러 상담 채널을 통합 관리하는 AICC 운영 포털도 구축했다. 고객 정보와 상담 이력을 통합 관리할 수 있도록 해 상담 업무의 효율성을 높였다. KT는 이번 사업을 바탕으로 AI 콜봇과 생성형 AI 상담지원 등 금융권 AICC 사업을 확대할 계획이다.

업계 한 관계자는 “AI 인프라 시장이 단순히 GPU를 얼마나 확보하느냐를 넘어 확보한 자원을 얼마나 효율적으로 활용하고 실제 서비스에 적용할 수 있느냐가 중요해지고 있다”며 “SI기업과 통신사들도 고객사의 AI 도입 확대에 맞춰 GPU·클라우드 인프라뿐 아니라 추론 성능과 운영 효율을 높이는 방향으로 사업을 확대하는 추세”라고 말했다.



김유승 빅데이터뉴스 기자 kys@thebigdata.co.kr