생성형 인공지능(AI) 신기술의 급속한 발전과 함께 위험 우려도 곳곳에서 제기되면서 챗GPT 개발사인 오픈AI가 AI가 가져올 위험에 대비하기 위한 조직을 신설했다.

오픈AI는 27일(현지 시각) AI의 ‘재앙적 위험’을 줄이기 위해 자체 ‘대비팀’(preparedness team)을 구축했다고 밝혔다.

이 조직은 매사추세츠공대(MIT)의 머신러닝(기계학습) 센터장을 맡고 있는 알렉산더 매드리가 이끈다. 조직의 규모는 알려지지 않았다.

오픈AI의 CI

오픈AI사의 이 조직은 AI가 야기할 수 있는 치명적인 위험을 추적, 평가, 예측하고 이를 보호하는 것을 목표로 한다.

또 AI가 핵무기 등의 무기에 사용되는 ‘화학적, 생물학적, 방사능적 위협’과 함께 AI가 스스로 복제하는 위험인 ‘자율 복제’에도 대응한다.

오픈AI는 “우리는 현재 가장 진보된 기존 모델의 기능을 뛰어넘는 프런티어 AI 모델이 인류에게 혜택을 줄 수 있는 잠재력이 있다고 믿는다. 하지만 이는 점점 더 심각한 위험을 초래할 수도 있다”고 우려했다.

이어 “이런 위험한 상황을 피하려면 새로운 AI 시스템의 위험한 기능을 예측하고 사람들을 보호할 수 있는 뼈대를 구축해야 한다”며 “이것이 새로운 팀의 임무 중 하나가 될 것”이라고 말했다.

오픈AI의 최고경영자(CEO)인 샘 올트먼은 앞서 AI로 인한 재앙 가능성을 경고한 바 있다.

사이렌스 정기홍 기자 bonnylim@naver.com 정기홍 기자의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지