YouTube, AI 콘텐츠 '슬롭' 신고 기능 도입

YouTube가 AI 생성 쓰레기에 맞서 싸울 새로운 무기를 도입했습니다. 바로 여러분입니다.

3월 17일경부터 YouTube 모바일 앱의 유저들은 동영상 평가 시 새로운 팝업 프롬프트를 접하게 되었습니다. 질문은 "이것이 AI 슬롭처럼 느껴지나요?" 또는 "이 동영상이 저품질 AI처럼 느껴지는 정도는 어느 정도인가요?"였습니다. 응답은 "전혀 그렇지 않다"부터 "매우 그렇다"까지 다양하며, 시청자들에게 기계가 생성하고 노력을 덜 들인 콘텐츠라고 생각되는 것을 직접 신고할 수 있는 기능을 제공합니다.

YouTube가 해결하려는 문제의 규모

이는 YouTube가 아무 이유 없이 당황하는 것이 아닙니다. 이 플랫폼은 한동안 AI 생성 콘텐츠에 파묻혀 왔으며, 기존의 자동 및 수동 검토 시스템이 이를 따라가지 못했습니다. 한 연구에 따르면, 새로 생성된 YouTube 계정에 제공된 추천 동영상 500개 중 약 21%가 AI 슬롭으로 식별되었으며, 또 다른 33%는 저품질, 반복적인 콘텐츠의 광범위한 "뇌절" 범주에 속했습니다.

이 문제는 특히 젊은 시청자들에게 더 큰 영향을 미칩니다. New York Times의 조사에 따르면, 교육용이라고 주장했지만 최소한의 노력과 가치로 관심을 끌기 위해 주로 제작된 아동 대상 동영상이 수천 개 발견되었습니다. 전문가들은 이를 어린 시청자들의 발달에 대한 심각한 우려로 지적했습니다.

YouTube는 현재 크리에이터가 AI 도구를 사용하는 것을 금지하지 않으며, AI 생성 콘텐츠를 공개해야 하는 포괄적인 요구 사항도 없습니다. 크리에이터에게는 콘텐츠가 저품질로 신고될 경우 수익 창출을 잃을 위험이 있지만, 집행은 일관성이 없었습니다.

몇 가지 큰 주의사항과 함께하는 크라우드소싱 탐지

새로운 시청자 프롬프트는 YouTube의 기존 탐지 시스템에 세 번째 계층을 추가하여, 본질적으로 방대한 시청자층을 비공식적인 운영진으로 전환하는 것입니다. 매달 20억 명 이상의 로그인한 사용자가 플랫폼을 방문하므로, 이는 엄청난 양의 잠재적 피드백입니다.

하지만 문제는 YouTube가 이 데이터를 실제로 어떻게 사용할지에 대해 설명하지 않았다는 것입니다. 회사는 시청자 평가가 얼마나 큰 비중을 차지할지, 신고된 콘텐츠에 대해 자동 조치를 트리거할지, 또는 합법적인 사람이 만든 콘텐츠가 잘못 분류되는 경우 시스템이 어떻게 처리할지에 대해 명확히 밝히지 않았습니다.

위험

X(구 트위터)의 한 사용자는 이 피드백을 대규모로 수집하는 것이 AI 동영상 모델의 훈련 데이터로 사용될 수 있으며, 미래의 AI 생성 콘텐츠가 더 설득력 있고 탐지하기 어렵게 만드는 데 도움이 될 수 있다는 우려를 제기했습니다.

이는 비주류적인 의견이 아닙니다. 만약 Google이 시청자가 "슬롭"으로 분류한 데이터를 Veo 동영상 생성 모델에 입력한다면, 최종 결과는 저품질로 인간이 분류하는 패턴을 피하도록 특별히 훈련된 AI가 될 수 있습니다. 그것이 의도인지 아닌지는 YouTube가 다루지 않았습니다.