시큐레이어, XAI 관련 특허 2건 출원…차세대 기술 시장 판도 바꾼다

[빅데이터뉴스 박경호 기자] 시큐레이어가 차세대 기술 시장의 판도를 재편할 기술로 설명 가능한 인공지능(eXplainable AI, XAI)을 꼽고, 관련 특허를 연달아 출원하며 신기술 패러다임 전환을 위한 혁신 가속화에 나섰다.

시큐레이어 유진상 전무는 “인공지능의 윤리적 문제는 모두가 아는 ‘뜨거운 감자’”라며 “기술이 급속도로 발전함에 따라 파생된 윤리적 문제와 시장 규제에 정면 돌파할 수 있는 해결책 또한 기술에 달려있다”고 강조했다.

이어 유 전무는 “XAI는 윤리성과 투명성을 확보해주는 기술”이라며 “XAI 등과 같은 기술로 윤리적 장치를 적극적으로 마련한 기업만이 시장의 선택을 받을 것”이라고 덧붙였다.

시큐레이어는 수년 전부터 XAI 기술 개발을 위한 개발팀을 꾸리고, 관련 특허를 확보해왔다. 텍스트부터 영상, 이미지까지 XAI를 적용할 수 있는 데이터 셋의 폭을 넓힌 것이 시큐레이어가 개발한 XAI 기술의 특징이다.

금번에 출원한 특허 2건은 각각 이미지 데이터와 텍스트 데이터에 XAI를 적용해 투명성과 신뢰성을 확보하는 기술에 관한 내용이 포함됐다.

데이터의 feature 수치 변화가 모델 예측에 기여하는 정도 등과 같이 다양한 판단 기여도가 인공지능 모델에 미치는 영향을 분석해 투명도와 신뢰도를 높였다는 게 시큐레이어 측의 설명이다. 또한, 기여도가 높은 픽셀에 마스킹을 하는 등 XAI 기술을 사용자 친화적인 UI/UX로 구현함으로써 사용자 편의성을 높이는 시각화 기술에도 방점을 찍었다.

시큐레이어는 웹 사이트 ‘AutoAPE’를 통해 XAI부터 AutoML까지 자체 개발한 기술 오픈 소스를 제공한다는 입장이다. 오픈 소스는 회원가입 후, 사용 신청서를 제출한 이용자라면 누구나 사용할 수 있다.

유 전무는 “시큐레이어는 기술력이란 키를 쥐고 있는 만큼 기술 혁신을 추구하면서도 윤리적 가치를 수호하는 생태계를 조성하기 위해 노력한다”며 “오픈 소스로 공유하는 시큐레이어의 핵심 기술에 많은 관심과 기여를 부탁드린다”고 설명했다.

한편, 본 특허는 정보통신기획평가원(IITP)이 지원하는 ‘SW컴퓨팅 산업원천기술개발사업(2020-0-00107)’의 일환으로 출원·등록됐다.

박경호 빅데이터뉴스 기자 pkh@thebigdata.co.kr