AI 시대, 효율 뿐 아닌 위협도 늘었다...“데이터 통제·복원력 강화 필요”

[빅데이터뉴스 김유승 기자] AI(인공지능) 도입이 기업에 새로운 기회이자 위협으로 동시에 다가오고 있다. AI를 활용한 사이버 공격이 증가하고, 데이터 활용 범위를 파악하기 어려워지는 등 각종 문제가 발생하고 있기 때문이다. AI 본격 도입기에 접어든 국내 기업들이 가장 시급하게 점검해야 할 과제로는 ‘데이터 신뢰’, ‘규제 대응’, ‘복원력’이 제시됐다.

클라우드 및 데이터 복원력 기업 빔 소프트웨어는 25일 서울 강남에서 기자간담회를 열고 데이터 신뢰성과 복원력 확보의 중요성을 강조했다. 빔 소프트웨어는 클라우드, SaaS(서비스형 소프트웨어), AI 환경을 아우르는 데이터 복원력 전문 기업으로, 전 세계 55만 곳 이상의 고객사를 기반으로 사업을 전개하고 있다.

이날 발표를 맡은 존 제스터 최고매출책임자는 AI 시대 기업 리스크를 관통하는 핵심 키워드로 ‘데이터 신뢰(Data Trust)’와 ‘복원력(Resilience)’을 제시했다. 그는 “AI 도입이 가속화될수록 기업은 단순한 데이터 저장 및 백업을 넘어 데이터의 위치와 접근 권한, 활용 방식을 정확히 파악해야 한다”고 강조했다. AI가 비정형 데이터를 빠르게 생성하면서 데이터 흐름과 접근 이력을 실시간으로 추적하기 어려워지고 있지만, 이를 철저히 관리해야만 문제 발생 시 신속한 복구가 가능하다는 설명이다.

이와 함께 ‘AI 신뢰 격차(AI Trust Gap)’ 문제도 제기했다. AI 모델과 에이전트가 학습·활용하는 데이터의 품질과 보안, 거버넌스가 확보되지 않으면 결과물에 대한 신뢰도 역시 떨어질 수밖에 없다는 지적이다.

AI 악용에 따른 보안 위협 심화도 주요 화두로 언급됐다. 과학기술정보통신부의 ‘2025 연례 보고서’에 따르면 2025년 국내에서 보고된 사이버 침해 사고는 총 2383건으로, 전년 대비 26% 증가했다. 특히 주요 사건의 60%에 AI가 연루됐다. 해킹 전술이 AI를 기반으로 자동화되며 더욱 정교해져 기업의 방어·복구 역량과 공격 수준 간 격차가 확대되고 있다는 분석이다.
특히 빔 소프트웨어는 한국 시장을 ‘글로벌 AI 보안의 최전선'으로 평가했다. 한국은 전 세계에서 두 번째로 포괄적인 AI 관련 법률을 제정한 국가인 데다, 금융·통신·제조 등 전 산업군에 걸쳐 AI 도입이 빠르게 확산되고 있기 때문이다. 이는 곧 국내 기업들이 지속적인 데이터 모니터링을 바탕으로 AI 활용에 대한 책임성과 통제력을 신속히 입증해야 하는 상황에 놓였다는 의미이다.

이에 빔 소프트웨어는 기업의 효과적인 위협 대응을 위한 4대 전략으로 △자동화된 데이터 분류 및 계보 추적 △감사 대응이 가능한 규정 준수 문서화 △AI 시스템 및 에이전트를 위한 신원 인식 거버넌스 △포렌식 검증을 통한 ‘클린 복구’ 보장을 제시했다.

또한, 핵심 솔루션인 ‘에이전트 커맨더(Agent Commander)’도 소개했다. AI는 짧은 시간 내 수천 개의 파일을 수정할 수 있어, 오작동 시 이를 인지하기도 전에 데이터를 덮어쓰거나 민감 정보를 유출할 위험이 크다. 에이전트 커맨더는 단순한 사고 탐지나 사후 복구를 넘어, AI의 오류를 정밀하게 역추적해 실제 손상 범위를 파악하고 필요한 부분만 선별적으로 복구할 수 있도록 지원한다는 설명이다.

이밖에 빔 소프트웨어는 한국 시장 공략을 위한 구체적인 청사진도 밝혔다.

홍성구 빔 소프트웨어 한국 지사장은 "글로벌 기업들이 한국 진출 시 가장 주목하는 타깃은 삼성·현대차·SK·LG 등 주요 대기업과 제조 엔터프라이즈 분야"라며 "올해는 공공 및 금융 기관을 중심으로 대형 프로젝트가 다수 예정돼 있어 이 시장을 집중 공략할 계획"이라고 말했다.

이어 "특히 공공부문의 경우 지난해 국정원 관련 사고 이후 약 3000억~4000억 원 규모의 데이터센터 구축이 추진되고 있는 만큼, 해당 시장 내 기반 확보를 목표로 삼고 있다"며 "지방 금융기관의 차세대 시스템 구축 프로젝트에도 역량을 집중할 방침"이라고 그는 덧붙였다.

김유승 빅데이터뉴스 기자 kys@thebigdata.co.kr