마이크로소프트(MS)와 오픈AI 등 미국의 인공지능(AI) 기업들이 성적인 딥페이크(불법 합성물) 이미지의 확산을 막기 위해 AI 학습 데이터에서 나체 이미지를 없애기로 했다.

광범위한 딥페이크 성범죄가 드러난 한국도 대책을 마련이 시급하다

AP 통신에 따르면 이들 기업은 12일(현지 시각) 미국 백악관의 중재로 발표한 서약에서 “적절한 경우와 AI 모델의 목적에 따라 AI 학습 훈련 데이터 세트에서 나체 이미지를 자발적으로 제거하겠다”고 약속했다.

이번 서약에는 어도비, 앤트로픽, 코히어 등도 참여했다.

한국 기업인 딥브레인AI가 지난 2023년 4월 출시한 생성형 AI가 만든 얼굴 이미지를 기반으로 대화형 가상인간들

MS와 메타, 틱톡, 범블, 디스코드 등은 별도의 서약으로 이미지 기반 성적 학대를 방지하기 위한 자발적 원칙을 발표했다.

백악관 과학기술정책실은 “이런 이미지는 여성, 어린이, 성소수자를 불균형적으로 표적으로 삼아 급증했다. 현재까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 부상하고 있다”고 지적했다.

한편 한국 정보통신운동단체인 진보네트워크센터(진보넷)는 이날 딥페이크 범죄 등에 손을 놓고 있는 국내 AI 기술 활용 기업을 비판하는 성명을 발표했다.

진보넷은 “최근 국내 빅테크 네이버의 자회사 스노우의 카메라 엡 ‘소다’가 여성 이용자의 의사와 상관없이 성적 불쾌감을 일으키는 사진을 AI로 생성한 것이 알려졌다”고 지적했다.

진보넷은 “하지만 스노우와 일부 임직원들은 ‘인공지능 생성물을 100% 통제할 수 없다’며 책임을 회피하고 있다”고 비판했다.

사이렌스 정기홍 jkhong4@naver.com 정기홍의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지