카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했다고 밝혔다.
카카오에 따르면 AI 기술이 빠르게 발전하면서 모델의 잠재적 위험을 사전에 식별하고 검증하는 AI 안전성의 중요성이 더욱 커지고 있다. 카카오는 지난해 인공지능안전연구소와 함께 자체 언어모델 'Kanana-1.5-9.8B'를 대상으로 공동 안전성 평가를 진행했으며 유사 규모의 해외 모델과 비교해 높은 수준의 안전성을 확인한 바 있다.
양사는 이번 MOU를 통해 협력을 확대하고 AI 모델과 에이전트를 대상으로 객관적이고 체계적인 안전성 평가 기반을 함께 구축해 나갈 계획이다.
협약에 따라 카카오는 AI 안전성 평가 대상이 되는 자사 AI 모델과 AI 에이전트를 제공하고 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원한다. 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당하며 양사는 평가 결과를 공동 검토하고 공개 범위를 협의하며 AI 안전성 평가도구 개발에도 협력할 예정이다.
카카오는 이번 협약이 AI 모델의 위험을 선제적으로 식별하고 검증할 수 있는 체계를 구축하는 동시에 AI 안전성 평가 역량을 지속적으로 고도화한다는 점에서 의미가 있다고 설명했다. 특히 국내 AI 안전성 전문 연구기관과의 협력을 통해 글로벌 수준의 AI 안전성 확보와 신뢰할 수 있는 AI 생태계 조성에도 기여할 것으로 기대된다.
카카오 김세웅 AI 시너지 성과리더는 "이번 협력을 통해 카카오 AI 모델이 더욱 객관적이고 엄격한 안전성 검증 체계를 갖추게 됐다"며 "앞으로도 기술 혁신과 함께 안전성과 신뢰를 최우선으로 하는 AI 모델과 서비스를 제공하기 위해 지속적으로 노력하겠다"고 말했다.
인공지능안전연구소 김명주 소장은 "AI 기술이 고도화될수록 잠재적 위험을 선제적으로 식별하고 평가하는 체계가 무엇보다 중요하다"며 "카카오와의 협력을 통해 글로벌 표준에 부합하는 AI 안전성 평가 체계를 구축하는 데 최선을 다하겠다"고 말했다.
한편 카카오는 AI 안전성 강화를 위한 노력을 다방면으로 이어가고 있다. kt cloud와 안전한 AI 생태계 구축을 위한 업무협약을 체결하고 외부 전문가로 구성된 'AI&기술윤리소위원회' 자문단을 운영하며 글로벌 수준의 신뢰할 수 있는 AI 생태계 조성에 힘쓰고 있다.
이와 관련해 본지가 데이터앤리서치에 의뢰해 지난달 카카오에 대한 소비자 관심도를 조사한 결과 전월 대비 관심도가 증가한 것으로 나타났다. 데이터앤리서치가 뉴스·커뮤니티·블로그 등 다양한 채널을 대상으로 카카오에 대한 소비자들의 포스팅 수를 빅데이터 분석한 결과에 따르면 지난 8월 1일부터 31일까지 카카오에 대한 정보량은 22만8,105건으로 전달인 7월(20만8,858건)보다 9.2% 증가했다.
데이터앤리서치 관계자는 "카카오가 지난달 6일 2분기 매출 2조985억원, 영업이익 2,770억원으로 역대 최대 분기 실적을 발표하면서 플랫폼 성장에 대한 소비자 관심이 늘어난 것으로 분석된다"고 말했다.
조재훈 빅데이터뉴스 기자 cjh@thebigdata.co.kr
<저작권자 © 빅데이터뉴스, 무단 전재 및 재배포 금지>
