전국적으로 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄 피해가 확산되자 정부가 나섰다.

윤석열 대통령은 27일 국무회의 모두발언에서 “딥페이크 영상물은 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위다. 우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”며 강력히 대응할 것을 지시했다.

윤 대통령은 “최근 불특정다수를 대상으로 하는 딥페이크 영상물이 SNS(소셜미디어)를 타고 빠르게 유포되고 있다. 피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”고 지적했다.

이어 “관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑고, 건전한 디지털 문화가 자리할 수 있도록 교육 방안도 강구해 달라”고 당부했다.

윤석열 대통령이 27일 국무회의에서 딥페이크를 이용한 디지털 성범죄 피해가 확산되자 강력한 대응을 지시했다. 대통령실

이에 따라 방송통신심의위원회도 이날 긴급회의를 소집했다.

방심위는 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련했고, 오는 28일 전체 회의를 열어 해당 내용을 확정할 예정이다.

방심위는 우선 방심위 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했다. 또 모니터링 요원을 기존보다 배로 늘려 실시간으로 피해 상황을 감시할 방침이다.

또 즉시 협의할 수 있는 '핫라인'을 개설해 피해 확산 차단에 신속성을 기할 예정이다.

이 같은 피해 확산은 국회의 탓이 더 크다.

딥페이크 범죄 근절과 관련 법안들은 지난 21대에서 발의됐으나 미적댔고 22대 국회에서 재발의된 상태다.

다만 AI 기술이 통제 수준을 넘어 고의로 악용되는 우려를 막기 위한 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등은 지난 26일 국회 과학기술정보방송통신위 전체 회의에서 법안소위로 넘어가는 등 논의가 다시 시작되고 있다.

이 법안은 AI 생성물에 가상의 정보인을 알리는 특정 표식, 이른바 워터마크나 메타데이터를 넣도록 하고, 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화했다.

한편 최근 텔레그램을 비롯한 소셜미디어에서는 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견됐다.

경찰청은 지난 1~7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐으며, 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했다고 밝혔다.

사이렌스 정기홍 jkhong4@naver.com 정기홍의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지