YouTube tiene una nueva arma en su guerra contra el contenido basura generado por IA, y esa arma eres tú.
A partir del 17 de marzo, los usuarios de la aplicación móvil de YouTube comenzaron a encontrar una nueva ventana emergente al calificar videos. ¿La pregunta? "¿Esto se siente como basura de IA?" o "¿Cuánto se siente este video como IA de baja calidad?". Las respuestas van desde "Nada en absoluto" hasta "Extremadamente", dando a los espectadores una línea directa para marcar contenido que creen que fue generado por máquina y de bajo esfuerzo.
La magnitud del problema que YouTube intenta resolver
No es que YouTube esté entrando en pánico sin motivo. La plataforma se ha estado ahogando en contenido generado por IA durante un tiempo, y sus sistemas existentes de revisión automatizada y humana no han seguido el ritmo. Un estudio encontró que aproximadamente el 21% de los primeros 500 videos recomendados que se le mostraron a una cuenta nueva de YouTube fueron identificados como basura de IA, con un 33% adicional cayendo en una categoría más amplia de "brainrot" de contenido repetitivo y de baja sustancia.
El problema afecta especialmente a las audiencias más jóvenes. Una investigación del New York Times encontró miles de videos dirigidos a niños que afirmaban ser educativos pero que se crearon principalmente para captar la atención con un esfuerzo o valor mínimo real. Los expertos señalaron esto como una preocupación genuina para el desarrollo de los espectadores jóvenes.
YouTube actualmente no prohíbe a los creadores usar herramientas de IA, y no hay un requisito general para divulgar el contenido generado por IA. El riesgo para los creadores es perder la monetización si su contenido es marcado como de baja calidad, pero la aplicación ha sido inconsistente en el mejor de los casos.
Detección colaborativa, con algunas grandes advertencias
La nueva indicación para el espectador agrega una tercera capa sobre los sistemas de detección existentes de YouTube, esencialmente convirtiendo a su enorme audiencia en una fuerza de moderación informal. Con más de 2 mil millones de usuarios registrados que visitan la plataforma mensualmente, esa es una cantidad enorme de comentarios potenciales.
Sin embargo, aquí está el detalle: YouTube no ha explicado cómo se utilizarán realmente estos datos. La compañía no ha aclarado cuánto peso tendrán las calificaciones de los espectadores, si activarán acciones automáticas contra el contenido marcado, o cómo el sistema manejará los falsos positivos donde el contenido legítimo hecho por humanos sea etiquetado erróneamente.
Peligro
Al menos un usuario en X ha planteado la preocupación de que la recopilación de esta retroalimentación a escala podría servir como datos de entrenamiento para modelos de video de IA, ayudando potencialmente al contenido generado por IA futuro a parecer más convincente y más difícil de detectar.
Esa no es una opinión marginal. Si Google alimenta los datos de "basura" etiquetados por los espectadores en sus modelos de generación de video Veo, el resultado final podría ser una IA específicamente entrenada para evitar los patrones que los humanos marcan como de baja calidad. Ya sea esa la intención o no, YouTube no lo ha abordado.
Lo que esto significa para creadores y espectadores
Para los creadores, las apuestas se han vuelto más visibles. Si el sentimiento del espectador influye directamente en cómo se clasifica o monetiza el contenido, incluso los creadores legítimos que usan herramientas de IA como parte de su flujo de trabajo podrían encontrarse del lado equivocado de una calificación negativa.
Para los espectadores, es un cambio genuinamente interesante en cómo funciona la moderación de la plataforma. En lugar de confiar solo en los algoritmos, YouTube está apostando a que las personas que realmente están viendo tienen un mejor instinto sobre lo que se siente vacío y generado por máquina.
Si esa apuesta vale la pena depende completamente de cómo YouTube utilice los datos que recopila, lo cual, por ahora, sigue siendo una pregunta abierta. Asegúrate de consultar más:
