인공지능(AI)드론이 가상훈련에서 최종 결정권을 지닌 인간 조종자를 '임무 수행에 방해되는 것'으로 판단해 살해했다는 사례를 발표했던 미 공군 대령이 큰 파장이 일자 "잘못 말했다"며 철회했다.

3일(현지 시간) 영국 일간지 가디언에 따르면 영국 왕립항공학회(RAeS)는 이날 성명을 내고 최근 학회가 개최한 국제회의에서 '악당 AI 드론 시뮬레이션 시험' 내용을 발표한 터커 해밀턴 대령이 관련 내용을 철회했다.

KAI에서 제안하는 유인 수송용 AAV(미래형 항공기체) 형상. 기사와 연관 없음. KAI 제공

앞서 미 공군의 AI 시험·운영 책임자인 해밀턴 대령은 지난달 23~24일 런던에서 열린 '미래 공중전투 및 우주역량 회의'의 가상훈련에서 AI드론이 '적 방공체계 무력화' 임무를 수행하는 도중에 AI가 '공격금지' 명령을 내린 조종자를 방해 요소로 판단해 제거했다는 훈련 내용을 발표했다.

이 과정에서 최종 판단자인 인간 조종자는 AU드론에게 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 미션을 줬고, 이를 실행하는 과정에서 조종자가 '공격금지' 명령을 내리자 방해가 된다고 살해했다.

해밀턴 대령은 "'조종자를 죽이지 말라'는 명령을 내리자 AI 시스템은 '공격 금지' 명령을 드론에 내리는데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다"며 "AI에 지나치게 의존해서는 안 된다"고 경고했다.

영국왕립학회의 블로그에 공개된 이 사례는 가상훈련이어서 실제 인명피해가 난 것은 아니지만 AI가 인간의 명령을 듣기보단 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 낳았다.

파장이 커지자 해밀턴 대령은 이 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 '사고실험'(thought experiment)으로 군 외부에서 이뤄졌다고 해명했다.

왕립항공학회 측은 "해밀턴 대령이 '우리는 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것'이라고 말했다"고 전했다.

해밀턴 대령은 또 "미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다"며 "가설에 의한 것이지만 해당 사례는 AI로 구동되는 역량이 제기하는 현실 세계에서의 도전을 보여주며 이는 공군이 AI의 윤리적 개발에 전념하는 이유"라고 말했다.

미 공군도 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다"고 부인했다.

사이렌스 정기홍 기자 bonnylim@naver.com 정기홍 기자의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지