YouTube heeft een nieuw wapen in zijn strijd tegen door AI gegenereerde rommel, en dat wapen ben jij.
Vanaf ongeveer 17 maart begonnen gebruikers op de YouTube mobiele app een nieuwe pop-up te zien bij het beoordelen van video's. De vraag? "Voelt dit als AI-rommel?" of "Hoeveel voelt deze video als AI van lage kwaliteit?" Antwoorden variëren van "Helemaal niet" tot "Extreem", waardoor kijkers een directe manier hebben om content te markeren die zij denken dat machinaal gegenereerd en van lage kwaliteit is.
De omvang van het probleem dat YouTube probeert op te lossen
Dit is geen paniek van YouTube om niets. Het platform wordt al een tijdje overspoeld met door AI gegenereerde content, en de bestaande geautomatiseerde en menselijke beoordelingssystemen hebben geen gelijke tred gehouden. Een studie wees uit dat ongeveer 21% van de eerste 500 aanbevolen video's die aan een gloednieuw YouTube-account werden getoond, werden geïdentificeerd als AI-rommel, met nog eens 33% die in een bredere "brainrot"-categorie van inhoud met weinig substantie en repetitieve inhoud vielen.
Het probleem treft vooral jonge doelgroepen hard. Een onderzoek van de New York Times ontdekte duizenden video's gericht op kinderen die beweerden educatief te zijn, maar voornamelijk waren gemaakt om de aandacht vast te houden met minimale inspanning of waarde. Experts merkten dit aan als een reële zorg voor de ontwikkeling van jonge kijkers.
YouTube verbiedt makers momenteel niet om AI-tools te gebruiken, en er is geen algemene vereiste om door AI gegenereerde content te openbaren. Het risico voor makers is het verliezen van inkomsten als hun content wordt gemarkeerd als van lage kwaliteit, maar de handhaving is op zijn best inconsistent geweest.
Crowdsourcing van detectie, met enkele grote kanttekeningen
De nieuwe prompt voor kijkers voegt een derde laag toe bovenop de bestaande detectiesystemen van YouTube, waardoor in wezen zijn enorme publiek wordt omgevormd tot een informele moderatiemacht. Met meer dan 2 miljard ingelogde gebruikers die het platform maandelijks bezoeken, is dat een enorme hoeveelheid potentiële feedback.
Het ding is echter: YouTube heeft niet uitgelegd hoe deze gegevens daadwerkelijk zullen worden gebruikt. Het bedrijf heeft niet verduidelijkt hoeveel gewicht beoordelingen van kijkers zullen hebben, of ze automatische actie tegen gemarkeerde content zullen triggeren, of hoe het systeem omgaat met valse positieven waarbij legitieme door mensen gemaakte content onterecht wordt gemarkeerd.
gevaar
Ten minste één gebruiker op X heeft de zorg geuit dat het verzamelen van deze feedback op schaal kan dienen als trainingsdata voor AI-videomodellen, waardoor toekomstige door AI gegenereerde content mogelijk overtuigender en moeilijker te detecteren wordt.
Dat is geen vergezochte gedachte. Als Google door kijkers gelabelde "rommel"-data invoert in zijn Veo videogeneratiemodellen, kan het eindresultaat AI zijn die specifiek is getraind om patronen te vermijden die mensen als van lage kwaliteit markeren. Of dat de bedoeling is of niet, YouTube heeft het niet aangepakt.
Wat dit betekent voor makers en kijkers
Voor makers zijn de belangen zojuist zichtbaarder geworden. Als de mening van kijkers direct invloed heeft op hoe content wordt gerangschikt of gemonetiseerd, kunnen zelfs legitieme makers die AI-tools als onderdeel van hun workflow gebruiken, zich aan de verkeerde kant van een negatieve beoordeling bevinden.
Voor kijkers is het een werkelijk interessante verschuiving in hoe platformmoderatie werkt. In plaats van alleen op algoritmen te vertrouwen, wedt YouTube erop dat de mensen die daadwerkelijk kijken een beter onderbuikgevoel hebben van wat hol en machinaal gegenereerd aanvoelt.
Of die weddenschap loont, hangt volledig af van hoe YouTube de verzamelde gegevens gebruikt, wat op dit moment een open vraag blijft. Zorg ervoor dat je meer bekijkt:
