초거대 AI란 대용량의 연산이 가능한 GPU 인프라를 바탕으로 대규모 데이터를 학습해 사람처럼 스스로 사고할 수 있도록 설계된 AI로, KT는 초거대 AI 사업을 본격적으로 추진하며 적기 학습을 위한 GPU 컴퓨팅 인프라를 확보하고자 kt cloud의 HAC와 NVIDIA의 GPU 어플라이언스를 병행 도입하기로 결정했다.
kt cloud는 이번 사업 참여로 HAC의 초거대 AI 주요 사업 레퍼런스를 확보하게 됐으며 초거대 AI 학습 성능개선과 재학습결과 등을 검토·보완해 글로벌 탑티어 수준까지 기술력을 끌어올린다는 계획이라고 전했다.
kt cloud는 국내 기업인 '모레(Moreh)'와 협력해 최적화된 AI 프레임워크를 개발하는 한편, '리벨리온(Rebellions)’과 함께 국산 AI 클라우드 반도체 칩 개발도 추진 중이다.
kt cloud의 HAC는 지난 해 12월 출시된 세계최초 종량제 GPU 서비스로 AI 모델 대형화에 필요한 △비즈니스 민첩성, △비용 효율성, △개발 유연성·연속성, △프로그래밍 호환성의 강점을 갖추고 있다. HAC의 GPU로는 비용 효율이 높기로 정평이 난 AMD사 제품을 사용했다는 것이 kt cloud측의 설명이다.
kt cloud가 초거대 AI 언어모델 학습 테스트를 진행한 결과, HAC는 동등한 조건의 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 낼 수 있는 것으로 나타났으며 kt cloud는 서버 팜을 지속적으로 증설해 나간다는 계획으로, 향후 최대 10분의 1 수준의 효율적 비용으로 동급 연산 자원을 제공할 수 있을 것으로 기대하고 있다고 전했다.
최효경 빅데이터뉴스 기자 bdchk@thebigdata.co.kr
<저작권자 © 빅데이터뉴스, 무단 전재 및 재배포 금지>
