글로벌 기업 Arm의 AI Virtual Tech Talk은 최신 AI 트렌드, 기술 및 사례를 소개하는 자리로 Arm AI 파트너 프로그램 기업의 발표로 진행된다.
‘넷츠프레소’는 AI 모델의 복잡한 뉴럴 네트워크를 효과적으로 압축해 경량화된 모델로 만드는 AI 모델 자동 경량화 플랫폼이다. 기존 경량화 방식과 달리 100% 자동으로 경량화 작업을 수행해 전문 엔지니어 없이도 단기간에 경량화 모델을 만들 수 있다. 또한 타깃 디바이스에 최적화된 경량화 모델을 제공하며, 압축률을 최대한 높이면서도 기존 모델과 동일한 정확도를 유지하는 것이 특징이다.
노타는 이번 Tech Talk 진행과 동시에 넷츠프레소 베타서비스 참가자를 모집할 예정이다. 넷츠프레소 베타서비스는 클로즈 베타로 신청자 중 선정된 인원에 한해 제공되며, 오는 30일까지 참가 신청을 받는다. 자세한 내용은 Tech Talk 종료 후 노타 홈페이지 및 공식 SNS 계정을 통해 확인할 수 있다.
베타테스터 선정자는 일주일간 넷츠프레소를 출시 전에 미리 사용해 볼 수 있는 기회를 제공받는다. 베타 버전의 넷츠프레소는 다양한 경량화 기법을 활용하여 Input 모델에 대한 압축 및 최적화 작업을 수행한다. 경량화 수행 후 Input 모델과 Output 모델의 성능 비교 데이터 및 타겟 디바이스에서의 대기시간(latency)을 측정하여 제공하며, 최종 모델은 사용자가 직접 다운로드 할 수 있다.
노타 채명수 대표는 "공식 출시 예정인 넷츠프레소를 먼저 선보이고, 피드백을 통해 출시 버전을 더욱 완벽하게 보완하기 위해 베타서비스를 진행하게 됐다“며, “이번 베타서비스는 넷츠프레소를 통해 AI 모델 경량화를 미리 경험해 볼 수 있는 좋은 기회가 될 것”이라고 말했다.
한편, 노타는 자체 개발한 경량화 원천 기술을 기반으로 건설, 모빌리티, 보안, 헬스케어, 지능형 교통 시스템(ITS) 등에 활용되는 다양한 AI 모델 경량화 솔루션을 제공하고 있다.
이병학 빅데이터뉴스 기자 news@thebigdata.co.kr
<저작권자 © 빅데이터뉴스, 무단 전재 및 재배포 금지>
