Youtube가 내년부터 AI 기술을 활용하여 만들어진 콘텐츠를 의무적으로 명시하는 규제를 도입한다고 밝혔다.

Youtube의 공식 발표에 따르면, 크리에이터는 생성형 AI 툴을 사용하여 변경 또는 합성한 동영상을 제작했는지 여부를 공개해야 한다. 이에 따라 크리에이터가 콘텐츠를 업로드하는 페이지 내에서 변경 및 합성 여부를 표시할 수 있는 새로운 옵션이 추가될 예정이다. 시청자는 콘텐츠의 설명(Description) 패널에서 ‘콘텐츠의 변경 및 합성(Altered or synthetic content)’ 여부를 확인할 수 있다. 선거, 사회적 이슈 및 갈등, 공중 보건 위기 등의 중요 민감 주제로 분류되는 콘텐츠의 경우 동영상 플레이어 화면에 더욱 눈에 띄는 라벨이 적용된다.

이와 함께, Youtube는 AI 사용 콘텐츠가 커뮤니티 가이드라인을 위반하는 경우 라벨링 정책 준수 여부에 상관 없이 플랫폼에서 삭제될 수 있다고 전했다. 예를 들어, 라벨링을 적용한 AI 사용 콘텐츠가 시청자에게 충격을 주거나 혐오감을 주는 목적으로 판단되는 경우 임의로 삭제될 수 있다.

뿐만 아니라 Youtube는 얼굴 및 음성을 비롯한 개인의 식별 가능한 특성을 재현하는 AI 적용 콘텐츠 또는 기타 변경 및 합성 콘텐츠의 삭제를 요청할 수 있는 기능을 추가할 예정이라고 밝혔다. 또한, Youtube의 음악 파트너사가 소속 아티스트의 고유 음성을 모방한 AI 사용 음악 콘텐츠의 삭제를 요청할 수 있는 기능도 도입할 것이라고 전했다.

Youtube는 AI 기술의 혁신성을 실현하도록 하면서도 창작물이 커뮤니티의 안전을 침해하지 않도록 다양한 방면으로 노력하고 있다고 밝혔다. Youtube의 새로운 정책은 내년 초부터 시행될 예정이며, 정확한 시행 날짜는 아직 발표되지 않았다.