생성형 인공지능(AI)으로 짧은 시간에 대량 제작한 저품질 콘텐츠가 확산하면서 유튜브와 틱톡, 메타 등 글로벌 플랫폼이 콘텐츠의 독창성과 AI 사용 투명성을 강화하고 있다. 플랫폼의 고민은 새로운 형태의 AI 콘텐츠 시장 진입과 이에 관한 규제로 크리에이터의 보호할지의 균형에 있다. 

유튜브는 지난해 7월 이미 유튜브 파트너 프로그램 수익화 정책의 ‘반복 콘텐츠’ 명칭을 ‘비진정성 콘텐츠’로 변경했다. 반복적이거나 대량 생산된 콘텐츠도 수익화 제한 대상에 포함된다는 점을 명확하게 설명하기 위한 조치다.

다만 유튜브는 새로운 AI 콘텐츠 금지 정책을 도입하는 것은 아니라고 밝혔다. 기존에도 독창성과 진정성이 부족한 대량 생산 콘텐츠는 수익화 대상이 아니었으며, AI를 제작 도구로 활용했다는 이유만으로 수익화를 제한하지는 않는다는 설명이다.

틱톡은 2023년 창작자가 AI 생성 콘텐츠임을 직접 표시할 수 있는 기능을 발표했다. 이후 실제 인물이나 사건처럼 보이는 AI 콘텐츠에 표시를 요구하고, 외부 플랫폼에서 제작된 콘텐츠도 기술 정보를 통해 자동 식별하는 방식을 확대해 왔다.

틱톡은 지난해 11월 AI 생성물 표시를 강화하기 위한 ‘보이지 않는 워터마크’ 시험 계획도 공개한 바 있다. 지난 3월 9일 틱톡은 자사 시스템을 통해 지금까지 13억개 이상의 영상에 AI 관련 표시가 적용됐다고 밝혔다.

메타는 2024년 페이스북과 인스타그램, 스레드에 게시된 AI 생성 이미지에서 관련 기술 신호가 확인될 경우 라벨을 표시하겠다고 발표했다. 이어 같은 해 4월 표시 대상을 이미지뿐 아니라 영상과 음성으로 확대하는 방침을 내놨다. 메타의 광고 제작 도구를 이용한 AI 광고에 대해서도 지난해 별도의 표시 체계를 발표했다.

AI 콘텐츠의 쟁점은 정상적인 활용과 조회수를 노린 자동 양산 콘텐츠를 어떤 기준으로 구분할 것인지다. AI로 자료를 정리하거나 영상 편집을 보조한 창작물과 비슷한 형식의 영상을 반복 생산한 콘텐츠를 동일하게 취급해서는 안 된다는 지적이 나온다.

특히 실제 사람의 얼굴과 목소리를 활용한 가상 인플루언서가 광고에 등장할 경우 초상권과 저작권, 허위·기만 광고 문제가 발생할 수 있다. 우리나라도 AI 인플루언서 활용 현황과 광고 표시 실태, 실제 인물의 외모·음성 학습 여부 등을 점검의 필요성이 높아지고 있다.