유럽연합(EU)이 세계 최초로 인공지능(AI)을 규제하는 법을 통과시켰다.

유럽의회는 13일(현지 시각) 프랑스 스트라스부르에서 열린 본회의에서 'AI 법(AI Act)' 최종안을 찬성 523표, 반대 46표로 가결했다. 49표는 기권했다.

유럽연합(EU) CI

이 법안은 EU 27개국 장관들이 오는 4월 최종 승인하고 6월 EU 관보에 게재된 뒤 발효된다. 일부 금지 조항은 발효 후 6개월부터 단계적으로 도입돼 2026년 전면 시행된다.

법을 위반할 경우 경중에 따라 전 세계 매출의 1.5%에서 최대 7%의 과징금이 부과될 수 있다.

통과 법안에 따르면 EU는 AI 활용 분야를 모두 4단계의 위험 등급으로 나눠 차등 규제한다.

고위험 등급인 의료, 교육과 공공 서비스, 선거, 핵심 인프라, 자율주행 등에서는 AI 기술 사용 시 사람이 반드시 감독하고 위험관리시스템을 구축해야 한다.

또 사이버 공격, 유해한 선입견 전파 등 EU가 위험으로 규정한 사고 발생 방지 조치를 해야 한다.

사람 수준 또는 그 이상의 지능을 갖춘 '범용 AI'를 개발하는 기업에는 기술 개발 과정에서의 ‘투명성 의무’를 부여한다. 이 조항은 초안에는 없었지만 챗GPT 등 생성형 AI가 보편화돼 AI 오남용 우려를 불식하기 위해 추가됐다.

일부 AI 기술 활용은 원천 금지된다.

예컨대 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 ‘사회적 점수 평가’(소셜 스코어링)를 할 수 없다.

AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 중대 범죄 용의자 수색 등 예외적인 경우를 제외하곤 사실상 금지된다.

이 외에도 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠임을 표기해야 한다.

사이렌스 정기홍 jkhong4@naver.com 정기홍의 기사 더보기

저작권자 ⓒ 사이렌스. 무단 전재 및 재배포 금지