LG유플러스, '엑사원 3.5' 경량화한 '온 디바이스 sLM' 개발

[빅데이터뉴스 정혜영 기자] LG유플러스는 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) '엑사원 3.5' 기반 온 디바이스 소형 언어 모델(sLM)을 개발했다고 25일 밝혔다.

이번에 개발된 온 디바이스 sLM은 LG AI연구원이 지난해 12월 선보인 '엑사원 3.5 2.4B'를 토대로 6개월 간 연구를 거쳐 완성됐다. 신경망처리장치(NPU) 기반 온 디바이스 sLM로 기존 대비 전력 소모량을 78% 줄인 게 특징이다.

sML은 LLM 대비 컴퓨터 자원 사용량을 줄이고 성능을 최적화해 스마트폰과 같은 장치 내부에서 구동 가능한 언어 모델이다. 인공지능(AI) 기능을 사용할 때 데이터가 외부 통신망을 거치지 않고 기기 내에서 처리돼 보안성이 뛰어나다.

LG유플러스는 인공지능(AI) 통화 애플리케이션(앱) '익시오'에 sML을 적용해 서비스를 고도화할 예정이다.

송대원 LG유플러스 기술개발그룹장은 "엑사원의 성능을 유지하면서 온 디바이스로 구현될 수 있도록 만든 sLM을 통해 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다"고 말했다.
정혜영 빅데이터뉴스 기자 news@thebigdata.co.kr