생성형 인공지능(AI) 전문 기업인 딥브레인AI가 12일 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 기반의 딥페이크 탐지 솔루션을 출시했다고 밝혔다.

딥브레인AI는 오는 4월 제22대 총선에 맞춰 정부기관, 언론사 등을 대상으로 딥페이크 탐지 솔루션을 보급한다. 이 상품은 허위사실 유포 등을 파악하고 예방할 수 있다.

딥브레인AI이 국내 처음으로 출시한 SaaS형 딥페이크 탐지 솔루션 모습. 딥브레인AI 제공

딥브레인AI는 "최근 가짜 뉴스와 불법 음란물, 금융 범죄 등 각종 신종 범죄 수단으로 딥페이크가 악용되는 사례가 늘어나고 있어 이에 대응하는 탐지 기술을 높이고자 SaaS형 딥페이크 탐지 솔루션을 공개했다"고 설명했다.

SaaS 도입 이전에는 접근성이 제한돼 국내에선 일부 관공서 등지에서만 활용됐으나 앞으로는 누구나 손쉽게 딥페이크 영상, 이미지, 음성 등의 탐지가 가능해지게 됐다.

딥브레인AI는 딥페이크 탐지 솔루션에서 ▲종합탐지 ▲음성탐지 2개의 서비스를 제공하며 한국어와 영어·중국어·일본어 등 4개 언어를 지원한다.

종합탐지 서비스는 조작된 이미지와 동영상을 탐지한다.

우선 가상얼굴 생성 기능인 ‘페이스 제너레이션’과 특정인의 얼굴로 교체하는 ‘페이스 스왑’, ‘립싱크’ 등의 기술 적용 여부를 확인한다.

음성탐지는 음성의 주파수와 시간 등을 종합분석 하는 방식으로 음성 합성 여부를 판별한다. 아울러 AI를 활용해 자연스러운 목소리를 만드는 보코더(Vocoder)의 사용 여부도 확인할 수 있다.

딥브레인AI는 곧 홈페이지에서 간편결제를 통해 솔루션을 사용할 수 있게 할 예정이다.

딥브레인AI가 지난 2023년 4월 출시한 생성형 AI가 만든 얼굴 이미지를 기반으로 대화형 가상인간들

딥브레인AI는 "오는 4월 제22대 총선, 11월 미국 대통령 선거 등을 앞두고 국내외 정부기관, 언론사에서 딥페이크 탐지 솔루션에 대한 문의가 잇따르고 있다"고 밝혔다.

장세영 딥브레인AI 대표는 “사람을 돕는 기술로 활용돼야 할 AI 기술이 신종 범죄수단으로 악용되고 있어 매우 안타깝다”며 “생성형 AI 대표 기업의 강점을 살린 완성도 높은 딥페이크 탐지 솔루션을 SaaS 형태로 세계 시장에 지원해 글로벌 딥페이크 범죄 근절에 앞장서겠다”고 말했다.

사이렌스 정기홍 기자 jkhong4@naver.com 정기홍 기자의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지