숭실대 AI보안연구센터는 성균관대, 연세대, 한컴위드, 독일 부퍼탈대학교와 함께 경찰청 「허위조작 콘텐츠 진위 판별 시스템 개발」 과제를 수행하고 있다. 참여 기관들은 국제 최우수 학회 논문 게재, 특허 등록, 인증 획득 등을 통해 이미 국제적으로 우수한 성능을 검증받은 탐지 기술을 보유하고 있으며, 이를 기반으로 MLOps 기반 멀티모달 탐지 시스템을 개발하고 있다.
이번 전시에서 공개되는 시스템은 생성형 AI 기반 멀티모달 콘텐츠(음성·영상·텍스트)의 AI 생성 여부를 판별할 수 있다. 특히 XAI 기반 탐지 결과 해석 기능과 오디오 합성기 포렌식 등을 통해 탐지 모델의 판별 근거를 세부적으로 제시함으로써, 보다 정밀하고 신뢰성 있는 분석을 지원한다. 단순 판별을 넘어, 진화하는 생성형 AI 위·변조 기법에도 대응 가능한 구조를 갖춘 것이 특징이다.
또한, 탐지 결과 자동 보고서 생성 및 다중 파일 로그 관리 기능을 지원해 실제 수사 현장에서의 활용성을 크게 높였다. 이를 통해 방대한 데이터를 효율적으로 관리할 수 있으며, 분석 시간을 획기적으로 단축해 경찰 수사 과정의 혁신을 이끌 수 있을 것으로 기대된다.
이번 과제는 국제협력 연구라는 점에서도 주목된다. 독일 부퍼탈대학교는 다국적 데이터를 수집·분석하는 역할을 맡아, 향후 개발되는 시스템이 국내 경찰뿐만 아니라 독일 경찰청에서도 활용될 수 있도록 지원한다. 아울러 연구진은 이를 기반으로 국제적 호환성을 갖춘 표준 데이터셋 구축을 추진하고 있으며, 개발된 시스템은 한컴위드가 상용 시스템으로 구현해 경찰 수사 현장에 적용할 계획이다.
숭실대 AI보안연구센터는 “이번 전시를 통해 선보이는 시스템은 단순한 기술 시연이 아니라, 과제를 통해 경찰청 수사 환경에 최적화된 자동화 형태로 발전시켜 나갈 계획”이라며, “앞으로도 진화하는 생성형 AI 범죄에 대응해 경찰 실무에 적합한 탐지·분석 시스템을 완성해 나가겠다”고 밝혔다.
한편, ‘2025 국제치안산업대전’은 국내 유일 경찰청 주최 치안 산업 전문 전시회로, 오는 10월 22일부터 25일까지 인천 송도컨벤시아에서 열린다. 전시회와 관련된 세부 일정 및 사전 등록 안내는 공식 홈페이지에서 확인할 수 있다.
이병학 빅데이터뉴스 기자 lbh@thebigdata.co.kr
<저작권자 © 빅데이터뉴스, 무단 전재 및 재배포 금지>
