인도, 'AI생성 콘텐츠' 표시 의무화 추진..."딥페이크·가짜뉴스 피해 차단"

[방콕=뉴스핌] 홍우리 특파원 = 인도 정부가 인공지능(AI) 생성 콘텐츠 표시 의무화를 추진 중이다. 딥페이크와 가짜 뉴스 확산에 따른 피해를 막기 위해서다.

23일 로이터 통신 등에 따르면, 인도 전자정보기술부는 전날 AI 생성 콘텐츠에 대한 표시 의무화 내용을 담은 정보기술법 개정안 초안을 발표했다.

개정안에 따르면, 소셜미디어 업체들은 AI가 생성한 동영상에 대해 재생 화면 면적의 최소 10%에 'AI 생성 콘텐츠'를 표시해야 한다. 또한, AI 생성 오디오 클립에 대해서는 재생 시간 처음부터 10%에 해당하는 시간에 AI 생성 콘텐츠임을 표시하는 조치를 취해야 한다.

소셜미디어 업체들은 아울러 이용자가 플랫폼에 올리는 콘텐츠가 AI 생성물인지에 대해서도 확인해야 한다.

로이터는 "인도 정부의 이 같은 조치는 오픈AI·메타·엑스(X·옛 트위터)·구글 등에 더 많은 책임을 지게한다"고 지적했다.

전자정보기술부는 생성형 AI 툴이 오용돼 사용자들에게 해를 끼치고 가짜 뉴스를 퍼트리며, 선거를 조작하거나 특정인을 흉내 내는 등의 위험이 커졌다며, 법 개정에 나선 이유를 밝혔다.

이어 "개정안은 모든 대중을 대상으로 하는 AI 생성 콘텐츠에 대한 시각적 표시와 메타데이터 경로 추적 가능성 및 투명성을 보장할 것"이라며 내달 6일까지 개정안에 대한 국민과 업계 의견을 수렴한다고 밝혔다.

[사진=게티이미지뱅크]

인터넷 사용자가 10억 명에 달하는 인도에서는 가짜 뉴스가 민족 간, 종교 간 갈등을 불러일으킬 수 있다는 우려가 크다. 선거 기간에는 AI 딥페이크 동영상이 확산하며 관계자들을 긴장시키기도 했다.

인도 정부의 이번 법 개정은 인도 발리우드 스타 부부가 딥페이크로 인해 피해를 봤다며 소송을 벌이고 있는 과정에서 추진되는 것이기도 하다고 로이터는 전했다.

배우 아비셰크 바찬과 아내 아슈와리아 라이 바찬은 뉴델리 소재 한 법원에 자신들의 지식재산권을 침해하는 AI 제작 동영상을 제거하고 제작을 금지할 것을 요구했다.

인도의 법 개정 추진은 유럽연합(EU)과 중국에서 비슷한 움직임이 있은 것에 영향을 받은 것이지만, 화면 면적의 10%에 AI 생성 콘텐츠임을 표시하도록 한 것은 세계 최초의 시도로 평가된다.

인도 비영리 공공정책 연구단체인 '인디언 거버넌스 앤드 폴리시 프로젝트(IGAP)의 공동 창립자 중 한 명인 드루브 가르그는 "AI 생성 동영상 화면의 10%에 AI 생성 콘텐츠임을 표시하라는 것은 수량화할 수 있는 가시성 표준을 제정하려는 세계 최초의 시도들 중 하나"라며 개정안이 시행되면 인도에 있는 AI 플랫폼들은 콘텐츠 제작 시점에 AI 생성 콘텐츠임을 표시하는 자동화 시스템을 구축해야 할 수 있다고 말했다.

[email protected]