유럽연합(EU)이 2일부터 챗봇과 딥페이크 등 인공지능(AI) 생성 콘텐츠에 대한 표시 의무를 시행했다.

이용자가 AI와 대화하거나 AI가 만든 콘텐츠를 보고 있다는 사실을 반드시 알리도록 한 것이다.

위반하면 최대 1500만유로(약 264억원) 또는 전 세계 연 매출의 3%에 해당하는 과징금이 부과될 수 있다.

EU 집행위원회가 공개한 AI법 제 50조 지침에 따르면 챗봇과 AI 에이전트, 가상인간 등은 이용자와 처음 대화할 때 자신이 AI라는 사실을 알려야 한다.

또 AI가 생성하거나 수정한 글과 음성, 이미지, 영상에는 컴퓨터가 판독할 수 있는 표시도 넣어야 한다.

파일에 제작·출처 정보를 기록하거나 사람의 눈에는 잘 보이지 않는 디지털 워터마크를 삽입하는 방식이다.

딥페이크와 공익에 관련된 AI 콘텐츠를 공개하는 기업· 기관은 이와 별도로 사람이 쉽게 알아볼 수 있는 표시도 해야 한다.

정치·선거·보건·환경 등 공적 사안에 관한 AI 생성 글 역시 표시 대상이다.

다만 사람이 내용을 충분히 검토하고 편집 책임을 지는 경우에는 의무가 면제된다.

이미 EU에서 서비스 중인 AI 시스템에는 컴퓨터 판독 표시의무에 한해 12월 2일까지 준비 기간이 주어진다.

EU 집행위원회는 기업에 자료 제출을 요구하고 AI 모델을 평가하거나 관계자를 조사할 수 있다.

기업 내부자가 위반 사실을 비공개로 제보할 수 있는 신고 창구도 마련했다.

EU 밖에 본사를 둔 기업이라도 역내에서 AI 서비스를 제공하거나 그 결과물이 EU에서 사용되면 규제 대상이 된다.

구아모 기자