"Miljoenen mensen over de hele wereld zullen het binnenkort als een verbazingwekkende diefstal van ongekende proporties beschouwen dat grote modellen al hun werk opzuigen."
Die uitspraak kwam niet van een criticus van buitenaf. Hij kwam van binnenuit Microsoft.
Rechtbankdocumenten die deze week openbaar zijn gemaakt in de rechtszaak van de New York Times wegens auteursrechtenschending tegen OpenAI en Microsoft, hebben een kijkje gegeven in enkele ongemakkelijke interne gesprekken. Uit de dossiers blijkt dat medewerkers van Microsoft al jaren voordat het publieke debat op gang kwam, kritische vragen stelden over de AI-trainingspraktijken, waaronder of de hele operatie neerkwam op de grootste arbeidsdiefstal in de menselijke geschiedenis.
Gebruik code TRYHARD33 bij het afrekenen om deze aanbieding te verzilveren voordat de code verloopt.
Ontvang 33% korting op je GAMES+ abonnement
Wat de openbaar gemaakte documenten daadwerkelijk zeggen
Bij de rechtszaak, die de Times eind 2023 aanspande, hebben zich inmiddels elf andere uitgevers aangesloten. Rechter Sidney Stein van het Southern District of New York buigt zich momenteel over moties voor een summier vonnis, en als onderdeel van dat proces worden documenten openbaar gemaakt.
De memo met de meest opvallende bewoordingen was afkomstig van Brent Hecht, een Microsoft-directeur voor toegepaste wetenschap die ook een positie bekleedde aan de Northwestern University. In een intern document uit 2023 schreef Hecht dat grote AI-modellen "een product zijn dat zijn eigen toeleveringsketen vernietigt", en waarschuwde hij dat het publiek de massale inname van hun werk uiteindelijk als diefstal op ongekende schaal zou zien.
Microsoft heeft snel afstand genomen van die woorden. Het bedrijf stelt dat Hecht specifiek was aangenomen om "uiteenlopende en asymmetrische perspectieven te presenteren" en geen besluitvormer was. Zijn memo's, zo betoogt Microsoft, vertegenwoordigen niet de standpunten van het bedrijf.
Het punt is echter: het feit dat iemand werd betaald om die zorgen te uiten, en dat die zorgen werden gedocumenteerd, is precies het soort bewijs dat in de rechtszaal van belang is.
De getuigenis van Nadella en de paywall-kwestie
Satya Nadella, de CEO van Microsoft, getuigde dat "alles wat achter een betaalmuur zit, gelicentieerd moet worden door iedereen die het wil gebruiken." Hij ging verder en zei dat als hij had geweten dat OpenAI trainde op content achter een betaalmuur, hij het contractuele recht van Microsoft zou hebben uitgeoefend om een hertraining van de modellen te eisen. Een woordvoerder van het bedrijf zei later dat Nadella "sprak over algemene principes" over hoe mensen informatie vinden en consumeren, wat leest als een behoorlijk significante terugkrabbelactie.
Het gat tussen wat Nadella onder ede zei en wat de woordvoerder van het bedrijf daarna verduidelijkte, is het volgen waard naarmate de zaak vordert.
De interne gesprekken van OpenAI waren net zo openhartig
De documenten laten OpenAI ook niet buiten schot. Een medewerker van OpenAI vertelde president Greg Brockman over het bouwen van een workaround om de betaalmuur van de Times te omzeilen tijdens de training. De reactie van Brockman: "ah nice."
Nick Turley, die het ChatGPT-productteam leidde, schreef in juni 2023 dat AI een "existentiële bedreiging" vormde voor uitgevers. In februari 2024 schreef hij dat AI-producten "steeds meer substituerend zullen worden naarmate ze beter worden." Een ingenieur van OpenAI merkte in februari 2023 op dat "hoe prominent we de links ook tonen, gebruikers zullen niet klikken" op bronnen, wat direct ingaat tegen het argument dat chatbots verkeer terugleiden naar uitgevers.
Wat de meeste spelers hier missen, is dat dit geen gelekte documenten van een klokkenluider zijn. Het zijn interne communicaties die OpenAI en Microsoft hebben gecreëerd, opgeslagen en die ze nu in het kader van de rechtszaak moeten overleggen. De bedrijven wisten op dat moment wat ze opschreven.
De waarschuwing voor de "doom loop"
Naast het kader van arbeidsdiefstal, bracht de memo van Hecht uit 2023 een apart punt naar voren dat sindsdien een levendig debat is geworden in AI-onderzoekskringen. Het argument was dat trainen op door AI gegenereerde content een feedbackloop creëert die de modelkwaliteit na verloop van tijd verslechtert, omdat de output van de ene generatie modellen de trainingsdata wordt voor de volgende.
Dit is geen randverschijnsel. Onderzoekers bestuderen wat er gebeurt met model-outputs wanneer synthetische data de trainingspool verzadigen, en de resultaten zijn niet bemoedigend. Het punt is hier dat iemand binnen Microsoft dit risico intern aankaartte op hetzelfde moment dat het bedrijf publiekelijk optimistisch was over het potentieel van AI.
Het fair use-argument en wat uitgevers zeggen
Zowel Microsoft als OpenAI betogen dat trainen op gepubliceerde content onder 'fair use' valt, waarbij artikelen worden getransformeerd tot iets nieuws in plaats van dat ze de originelen vervangen. Dat argument is nog niet in de rechtszaal getoetst.
Steven Lieberman, die de New York Daily News en zeven andere eisende uitgevers vertegenwoordigt, vatte de lezing van de eisers over de openbaar gemaakte documenten simpel samen: "De wereld kan zien wat OpenAI en Microsoft al die tijd dachten over de eerlijkheid van hun eigen gedrag."
Een memo uit 2020 van Jack Clark, destijds beleidsdirecteur bij OpenAI, waarschuwde dat het bedrijf "systemen creëert die de arbeid vervangen van de mensen die de cultuur van de samenleving bepalen" en "het symbool zou worden van hoe Silicon Valley onnadenkend andere levensgebieden betreedt en een puinhoop achterlaat." Clark vertrok later om mede-oprichter te worden van Anthropic.
De Times, als eiser in zijn eigen zaak, weigerde commentaar te geven. OpenAI reageerde niet op verzoeken om commentaar.
Wat dit betekent voor het bredere AI- en gaming-ecosysteem
Deze zaak is van belang voor veel meer dan alleen de uitgeverswereld. Dezelfde vragen over trainingsdata, toestemming en compensatie worden gesteld in creatieve sectoren, waaronder game-ontwikkeling, concept art, voice acting en narratief schrijven. Als de rechter uiteindelijk oordeelt dat massale AI-scraping geen 'fair use' is, zouden de implicaties voor hoe AI-tools worden gebouwd en gelicentieerd, doorwerken in elke creatieve industrie.
Voor gamers en ontwikkelaars die zien hoe AI-tools standaardonderdelen worden van productiepipelines, zou de uitkomst van deze zaak kunnen bepalen hoe die tools eruitzien en wie er betaald krijgt wanneer ze worden gebruikt. Je zult het vonnis van rechter Stein in de gaten willen houden, wat zal aangeven of dit naar een rechtszaak gaat of dat het wordt opgelost voordat het volledige bewijsdossier is getoetst.
Voor meer berichtgeving over de verhalen uit de industrie die van invloed zijn op hoe games worden gemaakt, bekijk onze gaming guides en blijf deze ruimte in de gaten houden naarmate de rechtszaak vordert.
