AI가 만든 가상 인플루언서가 소셜 미디어에 빠르게 확산되고 있다. 그러나 실제 사람과 구분하기 어려운 콘텐츠가 늘어나면서 소비자 오인과 신뢰성 문제도 함께 제기되고 있다.
영국 일간지 가디언(The Guardian)은 지난 21일 "브랜드들이 AI 생성 인플루언서를 사용해 소셜미디어에 상품을 홍보하는 사례가 늘고 있다"면서도 "소비자가 AI 생성 콘텐츠를 실제 경험으로 오인할 가능성이 있다"고 지적했다.
가디언지의 보도에 따르면 AI 인플루언서는 사람과 유사한 외모와 목소리, 행동을 구현할 수 있으며, 광고 제작 비용 절감과 콘텐츠 대량 생산이 가능하다는 점에서 브랜드들의 관심을 받고 있다. 가디언지는 실제 일부 제작자가 브랜드와 비밀유지계약(NDA)을 맺고 AI 인플루언서 콘텐츠를 제작하고 있다고 전했다.
가디언은 이러한 흐름이 소비자 신뢰를 훼손할 수 있다고 분석했다. 특히 AI가 생성한 인물이 실제 소비자인 것처럼 등장하는 광고가 늘어나면서 콘텐츠의 진위 여부를 소비자가 구분하기 어려워지고 있다는 지적이다.
유럽연합(EU)는 이 같은 AI 사용에 대해 AI법(AI Act)에 투명성 규정을 두고 이를 직접 규제하겠다는 방침이다. EU는 AI로 생성하거나 편집, 조작된 콘텐츠에 대한 표시 의무를 강화할 예정이다.
가디언지는 반면 영국의 경우, 아직 AI 광고에 대한 별도 공시 규정을 마련하지 않은 상태라고 꼬집었다.
우리나라 역시 AI 생성 콘텐츠에 관한 별도의 표기 규정이 없다.
AI 인플루언서가 사람을 대체할 수 있을까?
당장은 AI 인플루언서가 인간 인플루언서를 대체하기는 어려울 것으로 보인다. 소셜 미디어를 통한 광고는 그 효과를 결정하는 핵심 요소인 신뢰와 커뮤니티 관계 형성에 있기 때문이다. 신뢰와 커뮤니케이션 능력에서 인간 크리에이터를 AI가 넘기는 힘들다.
다만 광고 콘텐츠 제작과 제작된 광고의 전파, 확산 등의 운영 과정에서 AI 활용 비중은 더욱 확대될 것으로 여겨진다.
주성균 글로벌인플루언서협회(진콘) 대표는 "AI 인플루언서의 확산은 인플루언서 산업에 새로운 기회를 제공하는 동시에 신뢰성과 윤리성이라는 의제를 던지고 있다"며 "먼저 소비자가 AI 생성 콘텐츠임을 명확히 인지할 수 있도록 하는 투명성 확보가 최우선 과제로 떠오를 것"이라고 말했다.
이어 주성균 대표는 "AI 인플루언서의 등장과 확산이 단순한 기술 변화에 그치지 않고 콘텐츠 제작과 유통, 나아가 인플루언서의 사회적 책임(ISR)에 대한 논의까지 확대시키는 계기가 될 것"이라고 조망했다.
